Sonata

Supermicro выпустила рабочую станцию на Nvidia GB300 за $92 887

image source

Supermicro выпустила в продажу мощную рабочую станцию ARS-511GD-NB-LCC-01-G2, построенную на чипе Nvidia GB300 Grace Blackwell Ultra. Стоимость системы составляет $92 887,47 без учёта налогов и доставки — это примерно в семь раз дороже, чем Apple Mac Studio на чипе M5 Ultra, который стоит $12 299.

Общий объём памяти станции достигает 748 Гбайт против 256 Гбайт у конкурента от Apple. Nvidia распределяет память следующим образом: 496 Гбайт системной памяти приходится на 72-ядерный процессор Grace, а 252 Гбайт памяти HBM3e — на графическую подсистему Blackwell Ultra.

Такая конфигурация позволяет локально запускать языковые модели размером в несколько триллионов параметров. Для хранения данных используются два накопителя M.2 NVMe объёмом 1,92 Тбайт и два по 960 Гбайт, а также дополнительные слоты с поддержкой стандартов PCIe 5.0 и 6.0.

Сетевые возможности обеспечивают два 400-гигабитных порта Ethernet на карте Nvidia ConnectX-8 SuperNIC, а также отдельный LAN-порт для удалённого администрирования. Присутствуют порты USB и разъём для подключения дисплея, поддержка IPMI позволяет проводить удалённую диагностику и мониторинг.

В формате чисел FP4 производительность достигает 20 Пфлопс, что делает платформу втрое быстрее ускорителя H200. Система способна непрерывно работать с ИИ-агентами, генерируя до 1200 токенов в секунду.

Охлаждение обеспечивают несколько вентиляторов и система жидкостного охлаждения, а питание — блок мощностью 1600 Вт с эффективностью Titanium 94%, что позволяет эксплуатировать систему под высокой нагрузкой. Масса станции составляет около 40 кг.

Supermicro разработала это решение для исследовательских лабораторий и предприятий, которым требуется локальный запуск больших языковых моделей без обращения к облачным сервисам.

источник

Загрузка страницы