Для входа на форум нажмите здесь
Новые комментарии
Обсуждение Как рынок личных ИИ победит облака
Автор темы: Мелисса
Дата создания: 02.11.2026 11:11
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
так я пишу что ты ламо, совершенно не шаришь за агентик кодинг
А я пишу что ты ламо, совершенно не шаришь за харнес. Кнопкодав!

Сообщение от gogi:
Только вот есть большая разница когда она заперта в чатике и когда она с полноценным харнессом дро4ит твое репо
Разница есть, но ты даже не знал, что взаимодействие с этой моделью и у чатика и у агента абсолютно одинаково - через REST API.

Ставим Линукс правильно: Debian 13 + Xfce
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Разница есть, но ты даже не знал, что взаимодействие с этой моделью и у чатика и у агента абсолютно одинаково - через REST API.
да при чем тут апи? апи это просто способ связи клиента с серверами где происходит инференс
главное что у модели появляются руки, она может пользоваться инструментами на пк. Как с ребенком ей богу

Добавлено через 1 минуту

там кстати астрочку 6,2 выкатили, уииии
ща мы ее погоняем. А ты сиди свой отсталый дипсик дро4и

Сообщение от Zan:
Я в целом очень мудрый человек
Последний раз редактировалось gogi; Вчера в 21:08. Причина: Добавлено сообщение
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
да при чем тут апи? апи это просто способ связи клиента с серверами где происходит инференс
А апи тут при том, что он одинаковый и для чатика и для агента - я тебе уже в сотый раз повторяю, а ты настолько бестолковый, что до тебя это никак не дойдёт!

Сообщение от gogi:
главное что у модели появляются руки, она может пользоваться инструментами на пк. Как с ребенком ей богу
Ты даже не в состоянии понять, что речь не про руки, а про способ взаимодействия с моделью. И он не меняется!

Сообщение от gogi:
ща мы ее погоняем.
Погоняй токены, погоняй.

Ставим Линукс правильно: Debian 13 + Xfce
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Как рынок личных ИИ победит облака
Сообщение от Пролыч:
Чувак дал локальной модели 512к токенов контекста, ей хватило, чтобы написать и отладить минера и бильярд, а также спроектировать контроллер для умного дома и даже сделать четеж для коробки для 3д принтера.

И все ето на 16г игровой видяхе.
но имхо это все довольно запутанная и мутная тема.
Когда ты даешь нейронке конкретику, что тебе именно надо у нее крыша едет, тебя не понимает, уходит в бесконечный цикл.
А дашь есть задание без конкретики и она быстро его решает...
т.е. твою специфику она не умеет делать, а умеет делать только то что в нее заложили....
надо грузить огромные модели, а это довольно дорого.

После таких статей простой народ побежит себе домой закупать память и видюха за оверпрайс, а это окажется ловушкой.
Локальные модели спецом делают, чтобы васянов стичь Ты глянь сколько щас это железо стоит...это очень серьезные суммы для игрушек и хобби
Есть еще один ньюанс в заголовке....Типа каждый геймер может запустить свою ИИ. Нет не может, т.к. ему нужен отдельный комп, а на игровом это будет работать плохо и играть во время работы ИИ он не сможет...
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от shtirliz:
Когда ты даешь нейронке конкретику, что тебе именно надо у нее крыша едет, тебя не понимает, уходит в бесконечный цикл.
Я думал Гогий мне поможет освоить использование AI агентов, но он и сам в этом не шарит. Я попытаюсь настроить OpenCode на проект и попрошу внести изменения. Посмотрим, правильно поедет ли крыша у нейронки или нет.

Сообщение от shtirliz:
а на игровом это будет работать плохо и играть во время работы ИИ он не сможет
Я думаю что это понимают все и никто в здравом уме и твёрдой памяти не будет запускать игру, когда в фоне идёт рендеринг/компиляция. Хотя, разработчики КешиОС в это не верят, поэтому сманивают обещаниями "правильного" распеределения ресурсов в пользу активного окна.
Сообщение от shtirliz:
После таких статей простой народ побежит себе домой закупать память и видюха за оверпрайс, а это окажется ловушкой.
Всё уже закуплено.

Ставим Линукс правильно: Debian 13 + Xfce
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
А апи тут при том, что он одинаковый и для чатика и для агента - я тебе уже в сотый раз повторяю, а ты настолько бестолковый, что до тебя это никак не дойдёт!


Ты даже не в состоянии понять, что речь не про руки, а про способ взаимодействия с моделью. И он не меняется!


Погоняй токены, погоняй.
лол, ты трудный. Но я пытался. Может кто подхватит инициативу или до тебя самого дойдет

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Я думаю что это понимают все и никто в здравом уме и твёрдой памяти не будет запускать игру, когда в фоне идёт рендеринг/компиляция. Хотя, разработчики КешиОС в это не верят, поэтому сманивают обещаниями "правильного" распеределения ресурсов в пользу активного окна.
.
А как ты распределишь VRAM? у тебя всю врам сожрет под ноль.
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от shtirliz:
А как ты распределишь VRAM? у тебя всю врам сожрет под ноль.
Так ровно то же самое будет и с рендерингом/компиляцией и игрой - игра банально будет тормозить/подлагивать, т.к. ей не хватит процессора (как в случае с ИИ не хватит VRAM)

Добавлено через 2 минуты

Сообщение от gogi:
Но я пытался. Может кто подхватит инициативу или до тебя самого дойдет
Чё ты там пытался? Ты вообще не соображаешь как настроить харнесс. Потому что ты - кнопкодав как я уже сказал выше.
Я поставил себе OpenCode Cli. Там есть последний Дипсик 4.1 с бесплатным суточным лимитом запросов (примерно 100 запросов пользователя, как говорят). Настрою себе рабочее место - сниму видео. Может быть.

Ставим Линукс правильно: Debian 13 + Xfce
Последний раз редактировалось survordie; Вчера в 23:21. Причина: Добавлено сообщение
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Ты вообще не соображаешь как настроить харнесс.
а ты вообще не соображаешь что такое харнесс
услышал модное слово и везде толкаешь

Сообщение от survordie:
Настрою себе рабочее место - сниму видео. Может быть.
да да, и на рутуб выложи, все посмотрят

Сообщение от Zan:
Я в целом очень мудрый человек
Аватар для Пролыч
Фанат
Регистрация:
24.10.2026
Re: Как рынок личных ИИ победит облака
А тема-то в популярных. Глядишь, через пару месяцев вы все у меня будете в локальных моделях сидеть и срацца у кого агент толще :о)))
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
а ты вообще не соображаешь что такое харнесс
Вообще странная претензия к человеку, который лишь недавно с этим столкнулся.

Сообщение от gogi:
да да, и на рутуб выложи, все посмотрят
Кому надо - посмотрят. Твой ютуп тоже не смотрят. Я не понимаю зачем на него ссылки выкладывают? Неужели думают, что из-за какого-то видео ленивые пользователи будут КВН включать?

Сообщение от Пролыч:
Глядишь, через пару месяцев вы все у меня будете в локальных моделях сидеть и срацца у кого агент толще
Не уверен. Я сейчас запустил OpenCode с последним Дипсиком. Генерация ответа от 1 до 3 минут. Скорость токенов 160-180/с. Подключил локальную модель - полчаса уже висит, ответ не может выдать (тоже простой). Так что наверное Гогий прав, на 8Гб VRAM работать даже с такой 3 битной моделью, невозможно.

Добавлено через 2 минуты

А, во, как раз закончил ответ печатать. 22 токена /с (ну как и раньше), но на ответ уже 16 минут. Т.е. в 5 раз дольше.

Ставим Линукс правильно: Debian 13 + Xfce
Последний раз редактировалось survordie; Вчера в 23:55. Причина: Добавлено сообщение
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Чё ты там пытался? Ты вообще не соображаешь как настроить харнесс. Потому что ты - кнопкодав как я уже сказал выше.
Я поставил себе OpenCode Cli. Там есть последний Дипсик 4.1 с бесплатным суточным лимитом запросов (примерно 100 запросов пользователя, как говорят). Настрою себе рабочее место - сниму видео. Может быть.
Там какие-то динамические лимиты в зависимости от нагрузки.
На халяву дают 200к контекста. К примеру такой же проект сгенерился в 2 раза быстрее чем на моей локальной моделе и выглядит лучше.
Аватар для Пролыч
Фанат
Регистрация:
24.10.2026
Re: Как рынок личных ИИ победит облака
https://habr.com/ru/articles/1109038/

Чувака забанили в облачном ии, но работодатель выдал ему два дгх спарк от нвидии, и чувак в восторге от локальных моделей
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
ленивые пользователи будут КВН включать?
да уже давно никто впн не выключает, только самые криворукие не смогшие в раздельную маршрутизацию

Сообщение от Zan:
Я в целом очень мудрый человек
Ваши права в разделе