Re: Монструозная встройка от AMD — процессоры Ryzen AI Max 400 получат поддержку до 192 ГБ общей памяти и 160 ГБ VRAM
Интересно какая производительность будет у 300Б+ модели при работе на цпу?
Не просто же так стараются уместить модель в память видеокарты.
А если вопрос только в том чтобы запустить то уже сейчас есть MoE модели у которых часть данных легко выгружается из VRAM в RAM или даже дальше - на SSD, но производительность у таких решений соответствующая.
ЕВА норм, БДО отрава, сосите йух - совет Минздрава.
|