Для входа на форум нажмите здесь
Новые комментарии
Обсуждение Как рынок личных ИИ победит облака
Автор темы: Мелисса
Дата создания: 02.11.2026 11:11
Аватар для Varmont
Предводитель
Регистрация:
31.07.2014
GoHa.Ru - 10 лет Просветитель
Награжден за: За полезные темы и материалы по разным играм Медаль "2К лайков"
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
И самое главное забыл - развёрнутую на Винде?
Беспонятия, у нас этим отдельная организация занимается и сервера для него держит,э то не просто дома развернуть, а целое направление
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
я исключительно про облачный flash последней ревизии
Ну, кстати, они тоже разные. Бесплатный через OpenCode работает существенно медленнее, чем даже бесплатный чат Дипсика. Подозреваю, что платный через API самого Дипсика будет работать быстрее через OpenCode чем бесплатный встроенный в OpenCode.

Сообщение от Izolenta:
подписка сильно дешевле, если ебашишь как проклятый
Так у подписки те же лимиты токенов. Т.е. по сути, подписка это не безлимит.
~100р вроде за миллион токенов (prefill+decode) у Дипсика (примерно 10р на вход и 90р на генерацию ответа).

Сообщение от Izolenta:
только у тех кто запускает локальные модели, которые не влезают в озу карты
Я отвечал именно про локальный запуск.

Сообщение от Izolenta:
е я конечно могу ради эксперимента попробовать страту, у меня 16 гиг видяха и 64 ддр5 памяти. но пока не понял для чего мне это
После облачной модели Дипсика локальная будет унылая и печальная.
Я на этих выходных попробую у ребёнка отобрать 7900GRE с 16Гб VRAM и попробую. Но Дипсик тут явно не запустится.

Добавлено через 3 минуты

Сообщение от Varmont:
у нас этим отдельная организация занимается и сервера для него держит,э то не просто дома развернуть, а целое направление
Так вот и фиг-то, что это совершенно другое. Дома ты поднимаешь LLM через Strata для себя любимого, где ты единственный в очереди, а в организациях батчинг организуют, который нагрузку на LLM на всех активных пользователей делит.

Ставим Линукс правильно: Debian 13 + Xfce
Последний раз редактировалось survordie; Сегодня в 12:15. Причина: Добавлено сообщение
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Так у подписки те же лимиты токенов. Т.е. по сути, подписка это не безлимит.
в том то и дело что не те же

гоги выше показывал пересчет, там примерно х10-20 от цены подписки

Добавлено через 46 секунд

а. еще опенаи и антропики дают еще в подписке по 100 баксов на апишные токены. на 100-баксовых планах. на более дорогих возможно больше, не проверял

Кто вы такие, и зачем вы мне нужны?
Последний раз редактировалось Izolenta; Сегодня в 12:19. Причина: Добавлено сообщение
Аватар для survordie
Маньяк
Регистрация:
07.09.2026
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
гоги выше показывал пересчет, там примерно х10-20 от цены подписки
Так он чего показывал то? Не расходы по Дипсик через API, а расходы по своей же модели если бы использовал через API(ну насколько я это понял). А я сравниваю покупку токенов в облачном Дипсик с гогиной подпиской.

Ставим Линукс правильно: Debian 13 + Xfce
Re: Как рынок личных ИИ победит облака
Сообщение от survordie:
Так он чего показывал то? Не расходы по Дипсик через API, а расходы по своей же модели если бы использовал через API(ну насколько я это понял). А я сравниваю покупку токенов в облачном Дипсик с гогиной подпиской.
он показал расчет сколько бы стоила его работа не по подписке, а по api - по истории сессий пересчитал токены с учетом кэша и наложил на тарифную сетку опенаи

сравнить в лоб не получится, только приблизительно. подписка в основном более выигрышная, но она привязывает тебя к харнесу. а кодекс просто удивительно уебищный

Кто вы такие, и зачем вы мне нужны?
Аватар для Altwazar
Мастер
Регистрация:
03.08.2006
Медаль "500 лайков" GoHa.Ru - 10 лет
Re: Как рынок личных ИИ победит облака
Сообщение от Izolenta:
не я конечно могу ради эксперимента попробовать страту, у меня 16 гиг видяха и 64 ддр5 памяти. но пока не понял для чего мне это
Что-то серьезное писать бессмысленно, но с каким-нибудь opencode не плохо гуглит и парсит документацию, логи и пишет простые скрипты. Можно просить простые вещи, типа проверить список доменов и посмотреть, нет ли там http2 для закрытия свежей уязвимости и т.п.
Я тестировал с Qwen3.8-Flash-NextIQ3_S, на линукс десктопе еще 10 Gb памяти остаётся с 9070xt 16gb и 64 Гб памяти, но на винде лучше модельку попроще. Скорость у меня ~90 tps.
Ассистент из этого неплохой получается. Но не что-то тяжелое, попросил по приколу написать работающий в терминале тетрис с использованием графического протокола kitty, он написал, но часа два крутил, тестил и переделывал.
Ваши права в разделе