Для входа на форум нажмите здесь
Как рынок личных ИИ победит облака

• 02.11.2026 11:11
#276
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
то есть ты реально считаешь что в голове можешь удержать больше "состояния" чем агент?
Агент может запросто удержать больше информации в контексте, но не все виды состояния в этот контекст одинаково легко поместить.
Сообщение от Izolenta:
а при чем тут агенты? это просто NFR, который должен быть в стандартах работы агентов прописан
Агенты хороши там, где им не надо на каждый чих ждать подтверждения действий со стороны человека и они могут пробовать свои решения.

Сообщение от Izolenta:
а как человек с этим справляется? зажмуривается и ентер давит?

я пока не понял что мешает подготовить контекст работы, что для человека, что для агента.
Человек сам может дополнять свой контекст работы и у него всегда больше инструментов, чем у агента. Он может позвонить другому человеку, подключиться с консольника/ipmi/spice.

Добавлено через 48 минут

Сообщение от gogi:
дык и агент все это может при соответствующем харнессе
все свои опасения по поводу рисков надо в промт закладывать
ну я так понимаю у тебя там какие то мега спецы на мега запплате на мега проектах, канеш их агент в лоб не заменит, но вода камень точит
Дело не в качестве спецов, а в особенностях агентов. Нейронке нужен контекст, в агенте реализованы инструменты. Контекст и инструменты должен кто-то подготовить, в одних случаях это эффективно (монорепы разрабов, тестирование в контейнерах в dev среде), в других нет (внесение изменений на живом прод-зоопарке из оборудования и сервисов).
С людьми так же часто бывают ситуации, когда делегировать им задачу сложнее и дольше, чем сделать это самому.
Сообщение от gogi:
вон взять последний случай с бегетом, их с помощью ии разорвали в клочья, просто в нулину, а сами они небось на мега спецов своих понадеялись и боялись ии на откуп отдать. Щас нет вариантов обходится без ии
Я и не предлагаю обходиться без ИИ, его использование обязательно в том или ином виде. Я говорю о том, что есть задачи где использование агентов эффективно, а есть где нет.
Поиск уязвимостей для их исправления или взлома - идеальная задача для агента. Без ИИ тут просто никак, человек за ним не угонится.
Последний раз редактировалось Altwazar; 10.11.2026 в 02:58. Причина: Добавлено сообщение
#277
Re: Как рынок личных ИИ победит облака
Сообщение от Altwazar:
Я говорю о том, что есть задачи где использование агентов эффективно, а есть где нет.
список "где нет" неуклонно сокращается
полгода назад еще агент у меня тока относительно нормально кодил, с трудом админил. Давал ему шаблоны править вордовские (задача довольно простая для человека) - он обсрирался жиденько. Щас все делает на ура
#278
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
список "где нет" неуклонно сокращается
Не спорю, да и предугадать будущее я не могу. Те же инструменты в агентах развиваются и оттачиваются практики их использования, да и архитектурные решения начинают приниматься в пользу удобства агентской работы.
#279
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Если человек обязан проверять каждое изменение, то это не автономный агент, а ассистент с human-in-the-loop. И даже в этой схеме инструкции и guard agent не дают гарантии: LLM может проигнорировать инструкцию, а guard agent - пропустить ошибку или быть обойдённым. Поэтому "бесконтрольно" - это не про наличие слоёв, а про то, что каждый слой имеет свои режимы отказа.
Имхо в этом нет проблемы если есть тестировщики. Просто кучая агентов который выполняют свою узкую задачу и которые по 10 раз все перепроверяют обойдутся наверно очень недешево и специалист который их настраивает наверно тоже обойдется компании в копеечку...и вот тут возможно сеньеры за 150к выйдут дешевле..
Это я в российских реалиах рассуждаю, где допустим тому же банку нужно купить дорогое оборудование для запуска этих агентов.

Добавлено через 3 минуты

Сообщение от Altwazar:
Не спорю, да и предугадать будущее я не могу. Те же инструменты в агентах развиваются и оттачиваются практики их использования, да и архитектурные решения начинают приниматься в пользу удобства агентской работы.
Нужно у компании еще перестроить весь процесс разработки под использование агентов. А это не каждой конторе под силу и специалистов грамотных сейчас очень мало.
Последний раз редактировалось shtirliz; 10.11.2026 в 10:24. Причина: Добавлено сообщение
#280
Re: Как рынок личных ИИ победит облака
Напоминаю, что я веду речь об уже имеющихся у людей геймерских пк, которые имеют достаточные ресурсы по видео и озу для эксплуатации приличных моделей с приемлемой производительностью.
#281
Re: Как рынок личных ИИ победит облака
Сообщение от Пролыч:
Напоминаю, что я веду речь об уже имеющихся у людей геймерских пк, которые имеют достаточные ресурсы по видео и озу для эксплуатации приличных моделей с приемлемой производительностью.
вряд ли такие есть.
даже ту же 5090 за 250к-350к когда стоила люди охеревали от цены.
сейчас это уже негемейркое оборудование
а память геймеры если и брали то не более 32гб...докупать ее сейчас уже никто не станет ради ИИ
#282
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:

И чем это отличается от копирования кода в чат Дипсика с тем же вопросом?
Ничем не отличается, и не должно отличаться. Просто в чат модели кидает запрос не человек, а агент (другая программа).
Просто человек устаёт каждый раз печатать промпт перед каждой своей репликой, а агент тупо хуячит в чат модели промпт, правила, и сам запрос. Поэтому агенты в целом лучше человека, они каждый запрос указывают точнее и полнее.

Добавлено через 1 минуту

Ну и страту легко подключить к модс.

Добавлено через 5 минут

Кроме того, у каждой модели есть натренированные служебные теги, которые ей давали при обучении (разметка), и в модели их веса уже высокие и она "знает", что писать в ответ на эти "теги".

Добавлено через 6 минут

Сообщение от shtirliz:
вряд ли такие есть.
даже ту же 5090 за 250к-350к когда стоила люди охеревали от цены.
сейчас это уже негемейркое оборудование
а память геймеры если и брали то не более 32гб...докупать ее сейчас уже никто не станет ради ИИ
Исходя из данных на октябрь 2026 года, доля игровых ПК с объемом видеопамяти (VRAM) строго больше 8 ГБ и оперативной памяти (RAM) строго больше 16 ГБ составляет примерно от 30% до 35% от всей аудитории платформы.
В абсолютных числах, учитывая, что активная аудитория Steam превышает 130–140 миллионов пользователей, речь идет примерно о 40–50 миллионах игровых ПК по всему миру.
Последний раз редактировалось Мелисса; 10.11.2026 в 11:27. Причина: Добавлено сообщение
#283
Re: Как рынок личных ИИ победит облака
Сообщение от Мелисса:
Ничем не отличается, и не должно отличаться. Просто в чат модели кидает запрос не человек, а агент (другая программа).
Просто человек устаёт каждый раз печатать промпт перед каждой своей репликой, а агент тупо хуячит в чат модели промпт, правила, и сам запрос. Поэтому агенты в целом лучше человека, они каждый запрос указывают точнее и полнее.

Добавлено через 1 минуту

Ну и страту легко подключить к модс.

Добавлено через 5 минут

Кроме того, у каждой модели есть натренированные служебные теги, которые ей давали при обучении (разметка), и в модели их веса уже высокие и она "знает", что писать в ответ на эти "теги".

Добавлено через 6 минут



Исходя из данных на октябрь 2026 года, доля игровых ПК с объемом видеопамяти (VRAM) строго больше 8 ГБ и оперативной памяти (RAM) строго больше 16 ГБ составляет примерно от 30% до 35% от всей аудитории платформы.
В абсолютных числах, учитывая, что активная аудитория Steam превышает 130–140 миллионов пользователей, речь идет примерно о 40–50 миллионах игровых ПК по всему миру.

и че? на геймерском ПК стоит строго винда, люди играют и запускают кучу всяких прог. У тебя памяти остается на ИИ в 2 раза меньше как минимум... Процессор там если геймер богаты 9800X3d (проц мечты) а он всего 16 потоков...для ИИ надо 32 и более
че ты там собрался запускать?

для нормально работы тебе надо
AMD epyc 64 потока или больше
5090
128-256gb RAM
#284
Re: Как рынок личных ИИ победит облака
Сообщение от shtirliz:

для нормально работы тебе надо
AMD epyc 64 потока или больше
5090
128-256gb RAM
Это не так. Видимо у тебя устаревшие требования, слишком завышенные даже для винды. Современные модели с современной обвязкой намного экономнее.
#285
Re: Как рынок личных ИИ победит облака
Оказывается уже давно можно скачать оперативку из интернета и даже в виндовс есть такая функция, чего только не узнаешь от ИИ

#286
Re: Как рынок личных ИИ победит облака
Сообщение от Neocronic:
Оказывается уже давно можно скачать оперативку из интернета и даже в виндовс есть такая функция, чего только не узнаешь от ИИ

#287
Re: Как рынок личных ИИ победит облака
Ладно, не утерпел, делаю вброс.

У меня на винде работает нейро пайплайн:
Квен 3б коде инструкт в 4к квантовании пишет код, ибм гранит 3б коде инструкт.в 4к квантовании ревьювит его. Обвязка - скрипт на питоне с модс. Клепают функи на го не длиннее 100 строк. Очевидно, что архитектуру и декомпозицию я делаю вручную. А теперь сектор "сюрприз"!

Это работает на 1050ти 4г врам, фх6300 с 16г рам и ссд. Обычно несколько минут на функу, как раз перекур с кофейком.

Завидуйте молча. :о)))
#288
Re: Как рынок личных ИИ победит облака
то есть по сути тебе модели просто набирают код, который ты им словами сказал набрать?
#289
Re: Как рынок личных ИИ победит облака
дед любит контроль, прям как наш в кремле
"ручное управление" епта
красноглазый и штирлиц тоже деды походу, иначе ну никак не объяснить их зашоренность и боязнь доверится ии
#290
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
дед любит контроль, прям как наш в кремле
"ручное управление" епта
красноглазый и штирлиц тоже деды походу, иначе ну никак не объяснить их зашоренность и боязнь доверится ии
глупее поста от тебя не слышал
в принципе ты же наркоман
#291
Сообщение от shtirliz:
глупее поста от тебя не слышал
в принципе ты же наркоман
Песок убери, рассыпал
#292
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
то есть по сути тебе модели просто набирают код, который ты им словами сказал набрать?
Вам же они делают то же самое. :о)

Аж вспомнил эпизод из фильма "Брат", где герой спрашивает у плечевой в штатах:
- Поехали в Россию!
- А что я там делать буду?!
- А здесь ты что делаешь?

Добавлено через 47 минут

Сообщение от gogi:
дед любит контроль, прям как наш в кремле
"ручное управление" епта
красноглазый и штирлиц тоже деды походу, иначе ну никак не объяснить их зашоренность и боязнь доверится ии
Тю, блин, у меня просто нет 48 гиг врам, и я упираюсь в длину контекста 2к токенов, поэтому не больше ста строк го в функе и ручная декомпозиция.

А ты накрутил глобальную конспирологию.
Последний раз редактировалось Пролыч; 11.11.2026 в 09:21. Причина: Добавлено сообщение
#293
Re: Как рынок личных ИИ победит облака
Сообщение от Пролыч:
длину контекста 2к токенов
этого хватит на поздороваться
#294
Re: Как рынок личных ИИ победит облака
Сообщение от Пролыч:
Тю, блин, у меня просто нет 48 гиг врам, и я упираюсь в длину контекста 2к токенов, поэтому не больше ста строк го в функе и ручная декомпозиция.
Нафига тогда писать про замену облаков? Сколько будет стоить нормальное железо? С которым ты лишь попытаешься приблизится к качеству закрытых моделей.

Кстати а почему ты не сделаешь как твой красноглазый коллега? У него все хороше же получилось
#295
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
Нафига тогда писать про замену облаков? Сколько будет стоить нормальное железо? С которым ты лишь попытаешься приблизится к качеству закрытых моделей.

Кстати а почему ты не сделаешь как твой красноглазый коллега? У него все хороше же получилось
Во-первых, преимущество больших моделей только в длине контекста и соответственно в размере KV-кеша. Что позволяет ленивым и тупым кожаным мешкам не делать декомпозицию, а сразу поручить большой модели сваять архитектуру (получается макаронный монстр).

Во-вторых, большие модели обучены на огромном слое говнокода, а маленькие на отборном элитном коде. Поставь температуру 0.1 и сравни 3б коде инструкт с любой большой облачной моделью на функе в сто строк.

Поэтому рассуждать о качестве бессмысленно, ведь дело в размере контекста, с маленьким контекстом любая модель начинает галлюцинировать, как только исчерпает размер.

Насчет красноглазого коллеги не понял.
#296
Re: Как рынок личных ИИ победит облака
Сообщение от Пролыч:
Насчет красноглазого коллеги не понял.
@survordie

Сообщение от Пролыч:
Во-первых, преимущество больших моделей только в длине контекста и соответственно в размере KV-кеша. Что позволяет ленивым и тупым кожаным мешкам не делать декомпозицию, а сразу поручить большой модели сваять архитектуру (получается макаронный монстр).
преимущество больших моделей в том что они делают работу, а не сиськи мнут

Сообщение от Пролыч:
Во-вторых, большие модели обучены на огромном слое говнокода, а маленькие на отборном элитном коде. Поставь температуру 0.1 и сравни 3б коде инструкт с любой большой облачной моделью на функе в сто строк.
ну вот и сравни, 20 баксов потрать на клод, там как раз новая моделька вышла
у меня сравнивать не с чем, я же не страдаю любовью к локальным моделям

Добавлено через 2 минуты

Сообщение от Izolenta:
этого хватит на поздороваться
нет
Последний раз редактировалось gogi; 11.11.2026 в 13:36. Причина: Добавлено сообщение
#297
Re: Как рынок личных ИИ победит облака
Сообщение от Номад:
гогилион - некая величина бабла котоое срубил @gogi

Добавлено через 2 минуты


бредово как-то
Гогилиония страна без забот.
В Гогилионию ведёт программный код,
Его придумай сам!
gogi, не смей его учить!!
...
#298
Re: Как рынок личных ИИ победит облака
Сообщение от Лапочка:
Гогилиония страна без забот.
В Гогилионию ведёт программный код,
Его придумай сам!
gogi, не смей его учить!!
...
гогиляндия это страна где я буду тратить гогиллион
#299
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
нет
так это у тебя кодекс 35к токенов системного промпта шлет
а вот если с голой жопой запускать через лламу например через чатик - там с нуля будет.
но 2к все равно мало - мгновенно уходит за размышления.
раньше минимальный рекомендованный контекст был 4к для локальных моделей, сейчас уже 8к.
но везде рекомендуют 32к+ как минималку для любой модели с рассуждениями.
#300
Re: Как рынок личных ИИ победит облака
Сообщение от elDen:
так это у тебя кодекс 35к токенов системного промпта шлет
У меня свой системный и там на старте все равно 20к+. Плюс постановка задачи, выдержки из памяти по проекту и его архитектуре. И вот ты к сотке пришел ток чтобы модель начала придерживаться правил проекта ;)