OpenAI представила собственный чип для инференса Jalapeño, созданный совместно с Broadcom. Он спроектирован специально для задач ИИ-моделей компании.
Ранние тесты показывают лучшую производительность на ватт по сравнению с текущими решениями. Это шаг к снижению зависимости от GPU NVIDIA.
Чип оптимизирован для работы с реальным кодом, снижая операционные затраты. Более тяжёлые задачи вроде предобучения, вероятно, останутся на NVIDIA.
OpenAI подчёркивает, что контролирует весь стек — от моделей до инфраструктуры, чтобы сделать AI быстрее и доступнее.
0 комментариев