OpenAI представила новый режим работы своей флагманской модели GPT 5.6 Sol под названием Ultrafast, который призван значительно ускорить генерацию ответов ИИ.
По заявлению компании, Ultrafast позволяет модели работать в 14 раз быстрее стандартного режима, выдавая до 750 токенов в секунду — токены представляют собой отдельные фрагменты текста, которые генерирует языковая модель в процессе взаимодействия с пользователем.
«Раньше для получения скорости в реальном времени приходилось выбирать более компактную или узкоспециализированную модель», — говорится в блоге компании, опубликованном в четверг. — «Ultrafast демонстрирует движение в новом направлении: больше полезной работы за секунду».
Стоит отметить, что конкуренты OpenAI также предлагают ускоренные версии своих моделей. Например, у Anthropic есть fast-режим для Claude, однако он не обеспечивает такой скорости, как заявленная OpenAI.
В компании считают, что ускоренная версия GPT 5.6 Sol может применяться в различных корпоративных сценариях — от реагирования на инциденты и клиентской поддержки до анализа финансовых рынков и электронной коммерции.
Release Ultrafast сейчас проходит в режиме превью и работает благодаря партнёрству OpenAI с производителем чипов Cerebras. Доступ пока предоставлен ограниченному кругу клиентов, но компания обещает расширять его по мере роста вычислительных мощностей.