я исключительно про облачный flash последней ревизии
Ну, кстати, они тоже разные. Бесплатный через OpenCode работает существенно медленнее, чем даже бесплатный чат Дипсика. Подозреваю, что платный через API самого Дипсика будет работать быстрее через OpenCode чем бесплатный встроенный в OpenCode.
подписка сильно дешевле, если ебашишь как проклятый
Так у подписки те же лимиты токенов. Т.е. по сути, подписка это не безлимит.
~100р вроде за миллион токенов (prefill+decode) у Дипсика (примерно 10р на вход и 90р на генерацию ответа).
только у тех кто запускает локальные модели, которые не влезают в озу карты
Я отвечал именно про локальный запуск.
е я конечно могу ради эксперимента попробовать страту, у меня 16 гиг видяха и 64 ддр5 памяти. но пока не понял для чего мне это
После облачной модели Дипсика локальная будет унылая и печальная.
Я на этих выходных попробую у ребёнка отобрать 7900GRE с 16Гб VRAM и попробую. Но Дипсик тут явно не запустится.
Добавлено через 3 минуты
у нас этим отдельная организация занимается и сервера для него держит,э то не просто дома развернуть, а целое направление
Так вот и фиг-то, что это совершенно другое. Дома ты поднимаешь LLM через Strata для себя любимого, где ты единственный в очереди, а в организациях батчинг организуют, который нагрузку на LLM на всех активных пользователей делит.