Авторизация / Регистрация

[Efemische]

Компания Cerebras Systems представила процессор Wafer Scale Engine 3 (WSE-3), который имеет размеры целого вафера и может похвастаться 900 000 ИИ-ядер, 44 Гб SRAM на чипе и производительность в 125 FP16 ПетаФЛОПС. Для осознания размеров "чипа" компания опубликовала сравнение между самым большим графическим процессором на рынке и WSE-3.

Что же до сравнения производительности с NVIDIA H100, то заявленные цифры таковы.

Дополнительно компания заявляет, что WCS-3 превосходит решения NVIDIA в энергоэффективности и простоте использования. В частности сообщается, что аналог модели GPT-3 потребует всего 565 строк кода для работы на новом процессоре, а это на 97% меньше, чем необходимо для ускорителей-конкурентов.

[LazySage]

А че они цену не сравнили?

[Zikis]

а как майнится на нем?

[Razz1n]

А зачем, кто-то хочет себе для домашнего ПК? И системник размером в комнату

Сообщение от LazySage:

А че они цену не сравнили?

Консоли дороже )

[elDen]

Сообщение от LazySage:

А че они цену не сравнили?

наверняка поставят сравнимую с нвидиа, т.к. капитализм и никто не захочет упускать выгоду продавая дешевле.

[LazySage]

Сообщение от elDen:

наверняка поставят сравнимую с нвидиа, т.к. капитализм и никто не захочет упускать выгоду продавая дешевле.

Говорят что цена в 2 - 3 ляма у этого мега проца. А один ускоритель нвидия 28к или дешевле.

[elDen]

Сообщение от LazySage:

Говорят что цена в 2 - 3 ляма у этого мега проца. А один ускоритель нвидия 28к или дешевле.

во-первых, там сравнивают с Nvidia H100, который стоит порядка 42к$
во-вторых, сравнивают не с одним, а с платформой Nvidia DGX, в которой 16 таких ускорителей.
в-третьих, этот проц все равно в 3-4 раза быстрее даже Nvidia DGX и при этом в разы энергоэффективнее, а это для таких вещей очень важно.

в общем при таких входных цена в 2млн$ не выглядит дорогой в сравнении с решениями нвидиа.
но реальных каких-то данных по цене я не видел.

[Svarog]

Сообщение от LazySage:

Говорят что цена в 2 - 3 ляма у этого мега проца. А один ускоритель нвидия 28к или дешевле.

Так он производительней в 63 раза. Так что цена +/- сравнимая.
А если верить элДену, то ещё и дешевле возможно выходит.

[LazySage]

Сообщение от elDen:

во-первых, там сравнивают с Nvidia H100, который стоит порядка 42к$
во-вторых, сравнивают не с одним, а с платформой Nvidia DGX, в которой 16 таких ускорителей.
в-третьих, этот проц все равно в 3-4 раза быстрее даже Nvidia DGX и при этом в разы энергоэффективнее, а это для таких вещей очень важно.

в общем при таких входных цена в 2млн$ не выглядит дорогой в сравнении с решениями нвидиа.
но реальных каких-то данных по цене я не видел.

Первые поколения этого проца, вроде как, стоили 2-3 ляма.
NVIDIA H100 80GB PCIe 5.0 x16 Passive Cooling - 900-21010-0000-000 | smicro.eu вот за 28к.
Если учитывать что это уже 3 поколение процов, то почему первые два не стоят у всех подряд?

Добавлено через 14 минут

Сообщение от Svarog:

Так он производительней в 63 раза. Так что цена +/- сравнимая.
А если верить элДену, то ещё и дешевле возможно выходит.

Но все равно будут брать nvidia так как не у всех есть 2 - 3 ляма.

[elDen]

Сообщение от LazySage:

Первые поколения этого проца, вроде как, стоили 2-3 ляма.

ну в гугле я нашел только "стоимость до 2млн$"

Сообщение от LazySage:

NVIDIA H100 80GB PCIe 5.0 x16 Passive Cooling - 900-21010-0000-000 | smicro.eu вот за 28к.

что же до цены 1 H100 - там график цены на сайте и он плавает и в евро, в баксах это больше и как раз там было 40к$ примерно.

Сообщение от LazySage:

Если учитывать что это уже 3 поколение процов, то почему первые два не стоят у всех подряд?

ну там в новостях пишут что покупают, но с чего вдруг "у всех подряд" должно стоять?
это решения для топовых систем, которые мало кому нужны.
т.е. там главный минус - ты не можешь купить точно под свои нужды как в случае с мелкими медленными видеокартами нвидиа.
которых ты например можешь купить 10 штук и тебе ок.

однако для крупных проектов такие процы выглядит прям нереально круче.
ты прикинь заменить 10к видеокарт несколькими шкафами этих процов!
какая выгода по удобству обслуживания! да и по электроэнергии там выгода может быть на миллионы баксов в месяц.

короче это все для серьезных компаний, а не для нас бомжей с гохи

[Corund]

@Razz1n, организациям. Думаю недалек тот день, когда каждая фирма с 500+ сотрудников будет держать свой ИИ для автоматизации простых заданий и экономии на сотрудниках. Чтобы корпоративные секреты не ушли налево и чтобы не передавать персданные в гугл им нужен будет свой сервер с ИИ.

[LazySage]

Сообщение от elDen:

однако для крупных проектов такие процы выглядит прям нереально круче.
ты прикинь заменить 10к видеокарт несколькими шкафами этих процов!
какая выгода по удобству обслуживания! да и по электроэнергии там выгода может быть на миллионы баксов в месяц.

Да пади всякие OpenAI только на них и сидят. Это, вродь как, самый большой проц в мире. Наверно там столько гемороя что бы его произвести.

[pakos]

несильно б200 он превосходит, если тот х30 ш100