Для входа на форум нажмите здесь
Популярные темы
Новые комментарии
Обсуждение Как рынок личных ИИ победит облака
Автор темы: Мелисса
Дата создания: 02.11.2026 11:11
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Как рынок личных ИИ победит облака
я вкину свой камень в ваш спор.

локальные модели последние вполне ок, выше чем было пол года назад.
особенно файнтюны типа такого https://huggingface.co/DavidAU/Qwen3...x-AGI-NEO-GGUF
которые уже по бенчам почти фронтир уровня в размышлениях.
но... НО!
1) покупать железо ради локального запуска банально не выгодно сейчас, намного дешевле покупать подписки.

2) сейчас уже вопрос не в том, что локальное не сможет запилить то что фронтир - сможет скорее всего с норм харнесом, а в том сколько времени займет.
то что фронтир на подписке сделает за 20 минут, локальная может делать 1-2 часа или даже больше если модель и железо слабые.

поэтому локалки пускать имеет смысл:
1) когда тебе лично интересно и ты энтузиаст
2) когда нет другого выбора, аля всякие запреты использования
3) когда у тебя уже есть чета типа 5090 для игр купленная давно и почемы бы не съеэкономить
4) когда у тебя есть среднее железо и жалко денег, но есть много времени
1 пользователь оценил это сообщение: Показать
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Цикл как у работы с обычным чатом, только чуть удобнее за счёт того, что руками ничего копировать не нужно и контекст проекта агент видит сам.

ой все, твой опыт настолько ущербен что даже обсуждать нечего
агент без харнесса это ничто, советы тока давать по хозяйству. Ты на этом уровне остановился и чо то лечишь опытным ребятам

Сообщение от survordie:
Ранее ты врал что у тебя агенты автономны (ставишь задачу - они всё делают сами). Теперь выясняется, что ты с ними также сидишь и няньчишься.
они автономны в достаточно широких рамках. Для написания кода ничего не спрашивают, особенно если не брезговать режимом планирования.
хотя кому я это рассказываю? ты же даже не пробовал в агентную разработку, в чате чо то колупаешь

Сообщение от survordie:
Понятно, эйфория ещё не прошла. Значит всё ещё впереди.
эйфория тока нарастает

Сообщение от Velsh:
Velsh абсолютно прав
Аватар для Пролыч
Писaтель
Регистрация:
24.10.2026
Re: Как рынок личных ИИ победит облака
Сообщение от elDen:

2) сейчас уже вопрос не в том, что локальное не сможет запилить то что фронтир - сможет скорее всего с норм харнесом, а в том сколько времени займет.
то что фронтир на подписке сделает за 20 минут, локальная может делать 1-2 часа или даже больше если модель и железо слабые.

поэтому локалки пускать имеет смысл:
1) когда тебе лично интересно и ты энтузиаст
2) когда нет другого выбора, аля всякие запреты использования
3) когда у тебя уже есть чета типа 5090 для игр купленная давно и почемы бы не съеэкономить
4) когда у тебя есть среднее железо и жалко денег, но есть много времени
Ну да, речь же о том, что геймерский пк с толстой видюхой уже есть.

Добавлено через 3 минуты

Блин, чем-то мне мой тезис о том, что геймерских пк уже достаточно для эксплуатации локального ии, напомнил тезис барана альтмана, только навыворот.
Последний раз редактировалось Пролыч; Сегодня в 18:40. Причина: Добавлено сообщение
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
они автономны в достаточно широких рамках. Для написания кода ничего не спрашивают, особенно если не брезговать режимом планирования.
хотя кому я это рассказываю? ты же даже не пробовал в агентную разработку, в чате чо то колупаешь
У меня есть кое что получше, я как раз озаботился тем чтобы сраные консоли мне вайб не портили и вывожу это в коммерцию

Кто вы такие, и зачем вы мне нужны?
Аватар для Пролыч
Писaтель
Регистрация:
24.10.2026
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
У меня есть кое что получше, я как раз озаботился тем чтобы сраные консоли мне вайб не портили и вывожу это в коммерцию
Поделись словами :о)
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
У меня есть кое что получше, я как раз озаботился тем чтобы сраные консоли мне вайб не портили и вывожу это в коммерцию
какие когнсоли?

Сообщение от Velsh:
Velsh абсолютно прав
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от elDen:
покупать железо ради локального запуска банально не выгодно сейчас
О, "Линукс-три-процента" вклинился. Зачем покупать железо для локального запуска, когда оно УЖЕ ЕСТЬ у геймеров? Уж видеокарта на 16Гб VRAM + 32Гб RAM для запуска топовой DeepSeek v4.1 Flash в кванте UD-IQ1_M у многих тут имеется.

Сообщение от gogi:
агент без харнесса это ничто, советы тока давать по хозяйству.
Я тебе говорю, что твой ИИ с обвязкой будет примерно то же самое, что я описал выше - разговор с чатом. Но удобнее, не спорю.
Но отнюдь не то, как ты тут его представляешь - типа дал задачу, лёг спать, а наутро всё готово.

Сообщение от gogi:
они автономны в достаточно широких рамках.
Ну понятно, как только начинаешь выяснять детали, так сразу "ну плюс-минус"(с)

Ставим Линукс правильно: Debian 13 + Xfce
Аватар для gogi
хозяин корги
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Но отнюдь не то, как ты тут его представляешь - типа дал задачу, лёг спать, а наутро всё готово.
если задача описана и описана приемка - то сделает под ключ, для этого есть режим goal
на скрине показан процесс настройки впн который очевидно не автономный. Щас мы с агентом выясняем почему скорость скачет и выбираем локацию. Потом я ему поставлю задачу запилить тоннель и встроить в мою впн инфраструктуру



Сообщение от survordie:
Ну понятно, как только начинаешь выяснять детали, так сразу "ну плюс-минус"(с)
блеать чувак если нет тз, агент тебе его что высрет? это разные режимы работы, когда ты сам не знаешь чего хочешь и как этого достичь - агент будет справшивать. То же самое кожаный исполнитель бы спрашивал. Ну конечно можно дать ему картбланш, но тогда результат может быть не тот какой хотелось. Агент это исполнитель, а не заказчик

Сообщение от Velsh:
Velsh абсолютно прав
Аватар для Пролыч
Писaтель
Регистрация:
24.10.2026
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Но отнюдь не то, как ты тут его представляешь - типа дал задачу, лёг спать, а наутро всё готово.
Тю... Например так:

#!/bin/bash
# Простейший агент-ревьюер кода

FILE=$1
FEEDBACK=""

for i in {1..3}; do
echo "=== Итерация $i ==="

# Агент читает код + предыдущие замечания и предлагает улучшения
cat $FILE <<< "$FEEDBACK" | mods -m ollama:qwen2.5-coder \
"Ты ревьюер. Найди проблемы в коде и предложи исправления.
Если всё хорошо, напиши 'OK'." > review.txt

# Если агент сказал OK — выходим из цикла
if grep -q "OK" review.txt; then
echo "Код одобрен!"
break
fi

# Иначе применяем правки (здесь можно добавить автопатч)
FEEDBACK=$(cat review.txt)
echo "Замечания: $FEEDBACK"
done
Аватар для elDen
Мастер клинка
Регистрация:
19.07.2006
Медаль "2К лайков" GoHa.Ru - 10 лет Разбойник
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
О, "Линукс-три-процента" вклинился. Зачем покупать железо для локального запуска, когда оно УЖЕ ЕСТЬ у геймеров? Уж видеокарта на 16Гб VRAM + 32Гб RAM для запуска топовой DeepSeek v4.1 Flash в кванте UD-IQ1_M у многих тут имеется.
о, ллама "линукс стоит абсолютно у всех, винда мертва" оказывается имеет контекстное окно в 10 теокенов, которое обнуляется при заполнении

толку от твоего дипсика с максимально ужатым качеством для слабого пк?
1) у него будет днище скорость, что слишком мало для того чтобы делать что-то хорошее.
разве что спросить рецепт вкусного пирога перед уходом на работу чтобы по приходу уже был готов ответ... возможно

2) из-за сильной квантизации сетка теряет часть данных, из-за чего увеличивается кол-во допускаемых ошибок, что сильно влияет на время за которое она выполнит задачу.

в итоге у тебя сразу идеальный шторм, и медленно и в разы дольше выполняется задача.
квантовать в какашку можно только когда у тебя реально сильный выигрыш в скорости, который компенсирует ошибки и переделку из-за них.
а ужимать в какашку ради того чтобы оно вообще запустилось на пару токенов в секунд - это особый вид садо-мазо.
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
какие когнсоли?
ну клодкод или кодекс

не хочу вообще всю эту фигню запускать даже

все в браузере работает, внутренний трекер для агентов, релизы, стандарты, ревью, полное дискавери проектов с составлением всей документации (архитектура, продукт, эксплуатация), интеграция с мессенджерами (если кто застрял или хочет спросить - придут туда). общая память, векторный поиск, для кода еще socraticode или аналоги

ну и офк библиотеки скиллов, стандартов, ролей :)

Кто вы такие, и зачем вы мне нужны?
1 пользователь оценил это сообщение: Показать
Аватар для From Sky
Предводитель
Re: Как рынок личных ИИ победит облака
Сообщение от gogi:
Все эти байки про плохой ии идут от опыта древних можелей или текущих слабых
да это не байки. Просто ожидание от моделей растет быстрее их возможностей. Если 3-4 года назад ответ от гпт вызывал трепет" ого нихуя почти правильно", то теперь "ты сделал 99% работы за 5 минут и не доедал вот этот файл ?****ец ты тупой".

l2 Esthus >>> FromSky 99 YA >>> no gear - just skill
Луций >>> Rise >>> ДобрыйФей >>> Авантюрист 50+
l2c Гренка >>> HotCherry
1 пользователь оценил это сообщение: Показать
Аватар для shtirliz
Свидетель
Регистрация:
13.07.2006
GoHa.Ru - 10 лет Веселый дембель
Re: Как рынок личных ИИ победит облака
Сообщение от elDen:
2) когда нет другого выбора, аля всякие запреты использования
Главная причина почему в РФ мало кто еще использует ИИ в своей работе....вон гога постоянно меняет впны
но он наркоман, у него нет выбора, как искать новые впны. А другие просто кладут болт.
Ваши права в разделе