Авторизация / Регистрация

[elDen]

я вкину свой камень в ваш спор.

локальные модели последние вполне ок, выше чем было пол года назад.
особенно файнтюны типа такого https://huggingface.co/DavidAU/Qwen3...x-AGI-NEO-GGUF
которые уже по бенчам почти фронтир уровня в размышлениях.
но... НО!
1) покупать железо ради локального запуска банально не выгодно сейчас, намного дешевле покупать подписки.

2) сейчас уже вопрос не в том, что локальное не сможет запилить то что фронтир - сможет скорее всего с норм харнесом, а в том сколько времени займет.
то что фронтир на подписке сделает за 20 минут, локальная может делать 1-2 часа или даже больше если модель и железо слабые.

поэтому локалки пускать имеет смысл:
1) когда тебе лично интересно и ты энтузиаст
2) когда нет другого выбора, аля всякие запреты использования
3) когда у тебя уже есть чета типа 5090 для игр купленная давно и почемы бы не съеэкономить
4) когда у тебя есть среднее железо и жалко денег, но есть много времени

[gogi]

Сообщение от survordie:

Цикл как у работы с обычным чатом, только чуть удобнее за счёт того, что руками ничего копировать не нужно и контекст проекта агент видит сам.

ой все, твой опыт настолько ущербен что даже обсуждать нечего
агент без харнесса это ничто, советы тока давать по хозяйству. Ты на этом уровне остановился и чо то лечишь опытным ребятам

Сообщение от survordie:

Ранее ты врал что у тебя агенты автономны (ставишь задачу - они всё делают сами). Теперь выясняется, что ты с ними также сидишь и няньчишься.

они автономны в достаточно широких рамках. Для написания кода ничего не спрашивают, особенно если не брезговать режимом планирования.
хотя кому я это рассказываю? ты же даже не пробовал в агентную разработку, в чате чо то колупаешь

Сообщение от survordie:

Понятно, эйфория ещё не прошла. Значит всё ещё впереди.

эйфория тока нарастает

[Пролыч]

Сообщение от elDen:

2) сейчас уже вопрос не в том, что локальное не сможет запилить то что фронтир - сможет скорее всего с норм харнесом, а в том сколько времени займет.
то что фронтир на подписке сделает за 20 минут, локальная может делать 1-2 часа или даже больше если модель и железо слабые.

поэтому локалки пускать имеет смысл:
1) когда тебе лично интересно и ты энтузиаст
2) когда нет другого выбора, аля всякие запреты использования
3) когда у тебя уже есть чета типа 5090 для игр купленная давно и почемы бы не съеэкономить
4) когда у тебя есть среднее железо и жалко денег, но есть много времени

Ну да, речь же о том, что геймерский пк с толстой видюхой уже есть.

Добавлено через 3 минуты

Блин, чем-то мне мой тезис о том, что геймерских пк уже достаточно для эксплуатации локального ии, напомнил тезис барана альтмана, только навыворот.

[Izolenta]

Сообщение от gogi:

они автономны в достаточно широких рамках. Для написания кода ничего не спрашивают, особенно если не брезговать режимом планирования.
хотя кому я это рассказываю? ты же даже не пробовал в агентную разработку, в чате чо то колупаешь

У меня есть кое что получше, я как раз озаботился тем чтобы сраные консоли мне вайб не портили и вывожу это в коммерцию

[Пролыч]

Сообщение от Izolenta:

У меня есть кое что получше, я как раз озаботился тем чтобы сраные консоли мне вайб не портили и вывожу это в коммерцию

Поделись словами :о)

[gogi]

Сообщение от Izolenta:

У меня есть кое что получше, я как раз озаботился тем чтобы сраные консоли мне вайб не портили и вывожу это в коммерцию

какие когнсоли?

[survordie]

Сообщение от elDen:

покупать железо ради локального запуска банально не выгодно сейчас

О, "Линукс-три-процента" вклинился. Зачем покупать железо для локального запуска, когда оно УЖЕ ЕСТЬ у геймеров? Уж видеокарта на 16Гб VRAM + 32Гб RAM для запуска топовой DeepSeek v4.1 Flash в кванте UD-IQ1_M у многих тут имеется.

Сообщение от gogi:

агент без харнесса это ничто, советы тока давать по хозяйству.

Я тебе говорю, что твой ИИ с обвязкой будет примерно то же самое, что я описал выше - разговор с чатом. Но удобнее, не спорю.
Но отнюдь не то, как ты тут его представляешь - типа дал задачу, лёг спать, а наутро всё готово.

Сообщение от gogi:

они автономны в достаточно широких рамках.

Ну понятно, как только начинаешь выяснять детали, так сразу "ну плюс-минус"(с)

[gogi]

Сообщение от survordie:

Но отнюдь не то, как ты тут его представляешь - типа дал задачу, лёг спать, а наутро всё готово.

если задача описана и описана приемка - то сделает под ключ, для этого есть режим goal
на скрине показан процесс настройки впн который очевидно не автономный. Щас мы с агентом выясняем почему скорость скачет и выбираем локацию. Потом я ему поставлю задачу запилить тоннель и встроить в мою впн инфраструктуру

Сообщение от survordie:

Ну понятно, как только начинаешь выяснять детали, так сразу "ну плюс-минус"(с)

блеать чувак если нет тз, агент тебе его что высрет? это разные режимы работы, когда ты сам не знаешь чего хочешь и как этого достичь - агент будет справшивать. То же самое кожаный исполнитель бы спрашивал. Ну конечно можно дать ему картбланш, но тогда результат может быть не тот какой хотелось. Агент это исполнитель, а не заказчик

[Пролыч]

Сообщение от survordie:

Но отнюдь не то, как ты тут его представляешь - типа дал задачу, лёг спать, а наутро всё готово.

Тю... Например так:

#!/bin/bash
# Простейший агент-ревьюер кода

FILE=$1
FEEDBACK=""

for i in {1..3}; do
echo "=== Итерация $i ==="

# Агент читает код + предыдущие замечания и предлагает улучшения
cat $FILE <<< "$FEEDBACK" | mods -m ollama:qwen2.5-coder \
"Ты ревьюер. Найди проблемы в коде и предложи исправления.
Если всё хорошо, напиши 'OK'." > review.txt

# Если агент сказал OK — выходим из цикла
if grep -q "OK" review.txt; then
echo "Код одобрен!"
break
fi

# Иначе применяем правки (здесь можно добавить автопатч)
FEEDBACK=$(cat review.txt)
echo "Замечания: $FEEDBACK"
done

[elDen]

Сообщение от survordie:

О, "Линукс-три-процента" вклинился. Зачем покупать железо для локального запуска, когда оно УЖЕ ЕСТЬ у геймеров? Уж видеокарта на 16Гб VRAM + 32Гб RAM для запуска топовой DeepSeek v4.1 Flash в кванте UD-IQ1_M у многих тут имеется.

о, ллама "линукс стоит абсолютно у всех, винда мертва" оказывается имеет контекстное окно в 10 теокенов, которое обнуляется при заполнении

толку от твоего дипсика с максимально ужатым качеством для слабого пк?
1) у него будет днище скорость, что слишком мало для того чтобы делать что-то хорошее.
разве что спросить рецепт вкусного пирога перед уходом на работу чтобы по приходу уже был готов ответ... возможно

2) из-за сильной квантизации сетка теряет часть данных, из-за чего увеличивается кол-во допускаемых ошибок, что сильно влияет на время за которое она выполнит задачу.

в итоге у тебя сразу идеальный шторм, и медленно и в разы дольше выполняется задача.
квантовать в какашку можно только когда у тебя реально сильный выигрыш в скорости, который компенсирует ошибки и переделку из-за них.
а ужимать в какашку ради того чтобы оно вообще запустилось на пару токенов в секунд - это особый вид садо-мазо.

[Izolenta]

Сообщение от gogi:

какие когнсоли?

ну клодкод или кодекс

не хочу вообще всю эту фигню запускать даже

все в браузере работает, внутренний трекер для агентов, релизы, стандарты, ревью, полное дискавери проектов с составлением всей документации (архитектура, продукт, эксплуатация), интеграция с мессенджерами (если кто застрял или хочет спросить - придут туда). общая память, векторный поиск, для кода еще socraticode или аналоги

ну и офк библиотеки скиллов, стандартов, ролей :)

[From Sky]

Сообщение от gogi:

Все эти байки про плохой ии идут от опыта древних можелей или текущих слабых

да это не байки. Просто ожидание от моделей растет быстрее их возможностей. Если 3-4 года назад ответ от гпт вызывал трепет" ого нихуя почти правильно", то теперь "ты сделал 99% работы за 5 минут и не доедал вот этот файл ?****ец ты тупой".

[shtirliz]

Сообщение от elDen:

2) когда нет другого выбора, аля всякие запреты использования

Главная причина почему в РФ мало кто еще использует ИИ в своей работе....вон гога постоянно меняет впны
но он наркоман, у него нет выбора, как искать новые впны. А другие просто кладут болт.

[survordie]

Сообщение от gogi:

если задача описана и описана приемка - то сделает под ключ, для этого есть режим goal

Насколько я вижу на скрине, задачу он выполнил хреново. Поэтому приходится корректировать его действия. Т.е. ровно то же самое, что делает разработчик руками - итерационный цикл: разработка, внесение изменений, проверка, корректировка и т.д.

Сообщение от gogi:

блеать чувак если нет тз, агент тебе его что высрет? это разные режимы работы, когда ты сам не знаешь чего хочешь и как этого достичь - агент будет справшивать.

Ну и в чём тогда принципиальная разница между агентом и чатом, если ты сам не знаешь чего хочешь?

Сообщение от Пролыч:

Например так

И чем это отличается от копирования кода в чат Дипсика с тем же вопросом?

Сообщение от Пролыч:

# Иначе применяем правки (здесь можно добавить автопатч)

Автопатч ты всё равно должен проверить (или не ты, а кто-то другой)

Сообщение от Пролыч:

ollama:qwen2.5-coder

И тут всплывает модель, которая не умеет применять инструменты. Точнее, умеет, но лишь в собственном формате, несовместимым с агентами типа Cline. Я уже прошёл через этот этап (Ollama + qwen2.5-coder:7b). Strata это прям свет в конце беспросветного тоннеля.

Сообщение от elDen:

о, ллама "линукс стоит абсолютно у всех, винда мертва"

Слушай, мне нравится твоё обращение. Представляешь как оно будет звучать в недалёком будущем, когда наконец-то соберут реальные данные по доле рынка ОС?

Сообщение от elDen:

оказывается имеет контекстное окно в 10 теокенов, которое обнуляется при заполнении

А это ты сейчас про что?

Сообщение от elDen:

толку от твоего дипсика с максимально ужатым качеством для слабого пк?

У нормальных людей (типа меня) даже ещё более слабый Qwen даёт толк. Вопрос же не ужатости, а в результате. Если результат устраивает - значит толк есть.

Сообщение от elDen:

у него будет днище скорость, что слишком мало для того чтобы делать что-то хорошее.

На видео выше ~23 токена/с. Вполне нормальная скорость. Хотя, тут конечно зависит от того, что ты подразумеваешь под словом "хорошее". Да и понятие "днище скорость" у всех разное.

Сообщение от elDen:

из-за сильной квантизации сетка теряет часть данных, из-за чего увеличивается кол-во допускаемых ошибок, что сильно влияет на время за которое она выполнит задачу.

И тут снова всё зависит от задачи. Как мы выяснили выше, без человека агент не может полноценно функционировать, поэтому количество допускаемых ошибок в данном случае - не критично, т.к. человек всё равно будет поправлять.

Сообщение от elDen:

в итоге у тебя сразу идеальный шторм, и медленно и в разы дольше выполняется задача.

В итоге у тебя фантазия бурная, а от того и галлюцинации нехилые. Или ты себе уже Линукс поставил и у тебя есть подтверждение твоим бредням?

Сообщение от Izolenta:

ну клодкод или кодекс

Пиши cli - так понятнее. А то я тоже сначала не понял о чём речь. Думал ты про игровые консоли говоришь.

[gogi]

менять впн это наше национальное развлечение
мне не в падлу как бы, нет ничего приятнее чем напихать ркн

[survordie]

Сообщение от shtirliz:

Главная причина почему в РФ мало кто еще использует ИИ в своей работе....вон гога постоянно меняет впны

Гога использует американские модели. Дипсик не подвержен санкциям (китаец) и также представляет подписку, причём за копейки, если уж так ломает делать копи-пасте в чат.

[shtirliz]

Сообщение от gogi:

менять впн это наше национальное развлечение
мне не в падлу как бы, нет ничего приятнее чем напихать ркн

напихал ты ркн, а потом тебе напихал клауде или чатгпт.
Потом еще крипто биржи блочат т.е. придется посредникам башлять проценты за оплату подписки..
это нервы и гемор

[gogi]

Сообщение от survordie:

Ну и в чём тогда принципиальная разница между агентом и чатом, если ты сам не знаешь чего хочешь?

в харнессе. агент советуется и делает, чат просто советует. У него делать нет возможности
глупые у тебя вопросы какие то. Именно агент с харнессом сделал ии революцию в айти, а не какие то там чаты, еще и бесплатные

Добавлено через 50 секунд

Сообщение от shtirliz:

напихал ты ркн, а потом тебе напихал клауде или чатгпт.
Потом еще крипто биржи блочат т.е. придется посредникам башлять проценты за оплату подписки..
это нервы и гемор

у меня карта банковская есть, один раз привязал и оно плотит. Ну как в старые добрые времена

[shtirliz]

Сообщение от gogi:

у меня карта банковская есть, один раз привязал и оно плотит. Ну как в старые добрые времена

ты так всегда пишешь, что у тебя все прекрасно, но потом у тебя блочится и ты все равно всем говоришь что у тебя все прекрасно т.к ты сильный и вообще борец
ты тип старой закалки, готовый терпеть массу неудобств и унижений!

[Izolenta]

Сообщение от survordie:

Пиши cli - так понятнее. А то я тоже сначала не понял о чём речь. Думал ты про игровые консоли говоришь.

Не. Консольный вариант совсем тухло. Я про десктоп приложеньки

Соснольный не жрет картинки из клипборда и у него неудобно треды переключать. А я 2-4 контекста могу держать

[gogi]

Сообщение от shtirliz:

ты так всегда пишешь, что у тебя все прекрасно, но потом у тебя блочится и ты все равно всем говоришь что у тебя все прекрасно т.к ты сильный и вообще борец
ты тип старой закалки, готовый терпеть массу неудобств и унижений!

ну мой впн стабильно полгода работал, раз в полгода новый найти мне не в падлу. Тем более щас искать проще, агент есть
терпите вы с коллегой так то, рутуб и дипсик
дип сик даже среди китайцев давно не топ, сделал просто себе имя однажды. Вы как утята с импринтингом, диспсик один раз вам подошел и все, любовь навеки

[survordie]

Сообщение от gogi:

в харнессе. агент советуется и делает, чат просто советует.

И я об этом написал выше - все изменения из чата ты делаешь ручками, в то время как агент применяет эти изменения после твоего одобрения. Удобно. Но не автономно.

Сообщение от gogi:

глупые у тебя вопросы какие то. Именно агент с харнессом сделал ии революцию в айти, а не какие то там чаты, еще и бесплатные

Мои вопросы тебе кажутся глупыми, потому что опыта у тебя с гулькин хвост в проектах с огромным количеством кода и большой ответственностью.
Я не спорю, что нужные, но примитивные приложения, стали писаться быстрее и с меньшим количеством ошибок. Но финтех, ретейлер и т.д. агент с харнессом практически не затронул. Т.к. никто в здравом уме не даст ИИ править код бесконтрольно. О чём тебе @Altwazar, не раз написал выше. Потому что у любой ошибки есть имя, фамилия и должность. А не условный Гога, который ни за что не отвечает.

Сообщение от shtirliz:

ты так всегда пишешь, что у тебя все прекрасно, но потом у тебя блочится и ты все равно всем говоришь что у тебя все прекрасно т.к ты сильный и вообще борец

Сидит ежик, медитирует:
- Я сильный, я не пукну.
пу-у-у-у-ук
- Это не я, это не я, это не я

Добавлено через 2 минуты

Сообщение от gogi:

терпите вы с коллегой так то, рутуб и дипсик

Ты пока не смог предложить альтернативный приемлемый вариант.

Сообщение от gogi:

дип сик даже среди китайцев давно не топ

Мне неважно где он топ, а где не топ. Мне важно, чтобы он выполнял мои задачи. И выполнял их хорошо. Что он и делает.

[gogi]

Сообщение от survordie:

И я об этом написал выше - все изменения из чата ты делаешь ручками, в то время как агент применяет эти изменения после твоего одобрения. Удобно. Но не автономно.

Сообщение от survordie:

Но финтех, ретейлер и т.д. агент с харнессом практически не затронул.

вот недавно только с юкассой (финтех сбера) прорабатывал их глюкавое апи. Я им высер своего агента кидаю, они мне высер своего. Тока если у моего все по делу, у их агента галюны. ПОходу на гигачате кодят своем, лол. Бедолаги

Добавлено через 3 минуты

Сообщение от survordie:

ИИ править код бесконтрольно

ии не правит код бесконтрольно, над ним во первых его инструкции, во вторых гвард агент, в третьих человек
еще и рой других агентов работу проверяет

[survordie]

Сообщение от gogi:

Я им высер своего агента кидаю, они мне высер своего. Тока если у моего все по делу, у их агента галюны. ПОходу на гигачате кодят своем, лол. Бедолаги

Так речь не про логику, а про разработку с помощью ИИ. В любом случае, в споре двух сторон, нужно выслушивать аргументы обоих сторон. А не тебя одного.

Добавлено через 4 минуты

Сообщение от gogi:

ии не правит код бесконтрольно, над ним во первых его инструкции, во вторых гвард агент, в третьих человек

Если человек обязан проверять каждое изменение, то это не автономный агент, а ассистент с human-in-the-loop. И даже в этой схеме инструкции и guard agent не дают гарантии: LLM может проигнорировать инструкцию, а guard agent - пропустить ошибку или быть обойдённым. Поэтому "бесконтрольно" - это не про наличие слоёв, а про то, что каждый слой имеет свои режимы отказа.

[elDen]

Сообщение от survordie:

А это ты сейчас про что?

про то что ты не видишь ничего вокруг одного предложения.

Сообщение от survordie:

У нормальных людей (типа меня) даже ещё более слабый Qwen даёт толк. Вопрос же не ужатости, а в результате. Если результат устраивает - значит толк есть.

а квен и не слабый, если ты не про какой-нить базовый 3.6.

вопрос не в результате, как я писал выше - любой сейчас даст результат.
вопрос исключительно в сроках результата и деньгах.
и вот если результат получается очень долго - самое разумное пойти другим путем.

Сообщение от survordie:

На видео выше ~23 токена/с. Вполне нормальная скорость. Хотя, тут конечно зависит от того, что ты подразумеваешь под словом "хорошее". Да и понятие "днище скорость" у всех разное.

хз про какое ты видео, но:
1) 20 токенов в секунду инференсы - это мало, только для чатика как чатика нормально.
для модели в режиме рассуждений - это грустно.

2) кроме вывода есть ещё и ввод.
и вот тут впихывание контекста занимает у жирных моделей целую вечность.
и тут стоит упоминуть что ты рекомендуешь "DeepSeek v4.1 Flash"!
это гигантския модель!
страта пишет что 40 гб vram + ram + 264гб на диске!!
это прям писос
у тебя формально инференс 20 токенов, но вот твой промпт каждый раз будет читаться по несколько минут.
каждый раз когда там что-то сетка захочет добавить в контекст будет подгрузка на минут 5-10 наверное с таким размером.
а агенты очень любят туда-сюда гонять контекст и там где нормально подобранная сетка по размеру справится за 5 минут ты будешь ждать часами ответа от своего дипсика, который ещё и скорее всего будет не полностью корректным с таким квантованием.

Сообщение от survordie:

И тут снова всё зависит от задачи. Как мы выяснили выше, без человека агент не может полноценно функционировать, поэтому количество допускаемых ошибок в данном случае - не критично, т.к. человек всё равно будет поправлять.

может без человека функционировать совсем - всякие claw, гермесы и прочее, крутящееся 24\7 тому яркий пример.
просто в серьезных проектах перестраховка обязательна.
поэтому в самом конце, когда задача полностью готова, желательно ещё и человеку посмотреть.

и кол-во допускаемых ошибок не критично в случае с агентом, т.е. он итеративно майнит задачу до талого.
а вот в случае с твоим чатиком - там всё критично, т.к. ошибки - это необходимость твоего участия и это дорого и долго.
ведь тебе надо постоянно сидеть и проверять, разбираться, перезапускать.
в общем у тебя наверное автокомплит в ide будет полезней, чем такая работа через чатик, раз уж ты и так постоянно сидишь и проверяешь.