Авторизация / Регистрация

[Efemische]

В данный момент у AMD нет своего софта-аналога для NVIDIA Chat with RTX, но "красные" сообщают, что возможность без каких-либо проблем установить локального ИИ-бота на систему с процессором и графикой AMD все же существует. Правда все равно понадобится "железо" с аппаратным ускорением работы с машинным обучением, а это мобильные AMD Ryzen 8040 и видеокарты Radeon RX 7000. Для работы понадобится софт LM Studio, который умеет работать с ИИ-ядрами AMD, NVIDIA и даже Apple.

Для использования с AMD пользователям необходимо выбрать между LM Studio и LM Studio ROCm Preview. Вторая оптимизирована для графики Radeon RX 7000.

С подробной инструкцией из всего лишь пяти шагов от самой AMD вы можете ознакомиться на официальном сайте компании.

[NVic]

На Линуксе сразу вроде не было проблем с ИИ чат моделями по крайней мере у меня с GPU от AMD(причём у меня старая Vega56). Я использовал llamafile и всё было просто. Возможно на Виндовс всё сложнее.

[dsv123]

да нет, на винде тоже проблем нету, много всего и разного