Компания Cerebras Systems представила ИИ-ускорители WSE-3 Turbo и стоечную систему CS-4. По заявлению разработчика, новинка обеспечивает до 30 раз более высокую производительность инференса по сравнению с платформами на базе современных GPU. В тесте на модели GPT-OSS-120B система CS-4 показала более 4400 токенов в секунду на пользователя, тогда как самый производительный GPU-сервис выдаёт лишь 350 токенов в секунду. На моделях с более чем 10 трлн параметров CS-4 достигает свыше 1000 токенов в секунду. Поставки начнутся в текущем квартале.
Ускоритель WSE-3 Turbo сохранил 4 трлн транзисторов, 900 тыс. ядер и 44 Гбайт SRAM, произведён по 5-нм техпроцессу TSMC на пластине площадью 46 225 мм². Пропускная способность памяти удвоена с 21,6 до 43,2 Пбайт/с, а подсистемы ввода-вывода — с 1,2 до 2,4 Тбит/с. Питание подводится вплотную к чипам (0,5 мм против 50 мм у традиционных плат), что снижает потери и позволяет поднять частоты примерно с 1,4 до 2,8 ГГц. Задержка между пластинами через специальный IO-модуль составляет всего 2 мкс.
Стойка CS-4 построена на модульной архитектуре Nexus и включает три вычислительных узла Wafer-Scale Backpack, каждый со своим ускорителем, питанием, жидкостным охлаждением и управляющей электроникой. Производительность в разреженных FP16-вычислениях выросла вдвое — до 250 Пфлопс на пластину и 750 Пфлопс на стойку, в обычных FP16 — до 25 Пфлопс на пластину. TDP пластины достигает 33 кВт, узла — 46 кВт, всей стойки — 120–140 кВт.