Да это гемор все. Пока просят 200 баксов можно вообще не дергатся. Тут тебе и гарантированно лучший результат, приложенька удобная на всех девайсах, не тока кодит но и другие вопросики решает. А настраивать это практически не надо. А самое главное плка оно кодит я могу погамать твой квен так не умеет, отдельный комп ему надо
на самом деле гемора нет вообще.
всякие лмстудио и страты даже сами для тебя скачивают всё.
а в llamacpp надо просто один раз написать конфиг свой.
харнесы современные на всех девайсах работают тоже, и работают с любыми сетками, как фронтирами так и локальными.
так что завязываться на харнес отдельного вендора - это такое себе сейчас.
вот блокнет опенаи тебя завтра или самое опенаи крякнется и ты будешь бегать искать куда переходить.
а чувак который сидел на нормальном харнесе - просто перейдет на другую сетку и всё.
а вот аргумент что можно гамать пока оно работает - весомый.
насчет того железо упадет в цене это ты фантазер. Типа либы обанкротятся, а люди сами будут ии подымать. Так им еще больше железа понадобится, у либ то оно 24/7 молотит, а людям с учетом частичной занятости железа надо будет еще больше чем либам. Спасти нас может тока китай, щас куртку обидят увольнением, а партия ему предложит 40 китайских девственниц и полный картбланш на разработку новых видях. И каждый день по новой кожаной курточке
так обанкротятся те, у кого за душой ничего нет кроме ии

какой-нить гугл со своим гемини, маск с его гроком, алибаба с квеном и т.п. - они продолжат жить как и раньше.
люди как раз и развивают нейросетки.
бурное развитие началось как раз когда выложили первые открытые модели и люди пошли их ковырять.
собственно их и дальше продолжают выкладывать чтобы люди ковыряли, искали новые возможности, которые потом корпорации примечают и используют.
ну и людям не нужно такое обилие оперативки.
опенаи и антропик пожирают 70% оперативки и отдача уже минимальная от нее.
при этом они крутят триллионные модели со всеми знаниями мира, которые не нужны почти никому.
обычному юзеру если понадобятся знания - достаточно бесплатного ии поиска гугла.
для остального хватит локальной модели, которая запустится без проблем на подешевевших 64-128гб памяти.
ну нагрузку на железо быстро снижают.
то что сейчас может квен 3.8 - в прошлом году не могла ни одна фронтир модель для которой нужен был целый юнит в датацентре.
причем сами пользователи снижают огого как.
например вот такие вещи есть
https://huggingface.co/ConwayResearc...Saluki-27B-1.0
тот же квен 3.8 ужатый до 8гб вместо 54гб дефолтного и имеющий качество фактически как у дефолтного.
а до этого был бонсай на квен 3.6, который влезал в 1гб, правда с большими потерями в не английском языке, но всё же и оно работало даже на мобилке спокойно.