Lumai представила серверы Iris для инференса LLM. Они используют оптические вычисления в 3D, а не обычные 2D чипы. Это позволяет выполнять миллионы операций одновременно с низкой стоимостью и высокой пропускной способностью.
Iris Nova работает с моделями Llama 8B и 70B в реальном времени. Его гибридная архитектура сочетает цифровую обработку для управления и оптический тензорный движок для вычислений. Это обеспечивает интеграцию в ЦОД.
Семейство включает Nova, Aura и Tetra. Nova уже доступна для оценки гиперскейлерами, облачными платформами и предприятиями. Решение призвано снизить энергопотребление и стоимость ИИ-инфраструктуры.
По данным Lumai, спрос смещается от обучения к инференсу. Традиционные кремниевые чипы сталкиваются с физическими ограничениями. Оптические вычисления позволяют ускорить инференс и снизить энергопотребление до 90% по сравнению с GPU.
Гендиректор Лумая отметил, что отрасль переходит в посткремниевую эру. Фотонные вычисления дают порядковый прирост производительности при значительной экономии энергии.
0 комментариев