Для входа на форум нажмите здесь
Популярные темы
Новые комментарии
PlayStation 4 научили локально запускать нейросеть Qwen 3.5 на 9 миллиардов параметров
Автор темы: Efemische
Дата создания: 16.11.2026 12:00
PlayStation 4 научили локально запускать нейросеть Qwen 3.5 на 9 миллиардов параметров



Энтузиаст Леонардо Алегрия представил проект Garlic LLM — приложение с открытым исходным кодом, превращающее оригинальную PlayStation 4 в автономного ИИ-чатбота с поддержкой голосового управления. Разработчику удалось запустить языковую модель Qwen3.5-9B прямо на графическом процессоре AMD GCN консоли 2013 года выпуска без установки Linux и подключения к внешнему ПК.




Поскольку в неофициальной среде PS4 нет привычных вычислительных API, автор написал кастомные ядра на OpenCL C и настроил прямое обращение к GPU через командные буферы PM4. Чтобы уместить тяжелую нейросеть в скромные 8 ГБ общей памяти GDDR5, применили гибридную 3-битную и 4-битную квантизацию, сжав модель до 4,5 ГиБ при сохранении контекстного окна в 16 тысяч токенов. Благодаря спекулятивному декодированию скорость генерации достигает 31–39 токенов в секунду в обычном чате и до 43 при написании кода.

Старенькая консоль Sony продолжает удивлять запасом прочности: только недавно энтузиасты показывали, как на PS4 Pro запустили эксклюзив с PS5 через эмулятор, а теперь приставке нашли применение и в локальных вычислениях. При этом сама нейросеть Qwen 3.5 от Alibaba, недавно ставшая доступной локально, в очередной раз доказала, насколько гибкими могут быть компактные модели при грамотной оптимизации.




Ваши права в разделе