Расходы технологических компаний на ИИ растут пропорционально объёму запросов и ответов моделей. Ещё недавно сотрудников поощряли пользоваться нейросетями как можно активнее, но переход на оплату по потреблению резко увеличил счета.
Microsoft решила ограничить собственных инженеров. Компания открыла для внутреннего использования модель OpenAI GPT-5.6, чтобы «получить отдачу от инвестиций в токены», но вскоре введёт целевой бюджет ИИ-токенов с индивидуальным отслеживанием.
В конце мая корпорация перевела GitHub Copilot на оплату за токены — часть пользователей быстро исчерпала лимиты. Приложения Microsoft 365 постепенно подключают к собственным моделям MAI вместо более дорогих решений Anthropic и OpenAI.
Аналогичный контроль за токенами уже ужесточили Amazon, Adobe, Atlassian и Citi.
«Хочу, чтобы все мы сосредоточились на максимизации результатов для клиентов и бизнеса. Мы обновим внутренние рекомендации и введём управление расходами токенов с той же дисциплиной, что и для других критически важных ресурсов»
Так заявил во внутренней рассылке исполнительный вице-президент Microsoft Джей Парих. В письме есть ссылка на инструкции по работе с Copilot, где упомянут бюджет токенов, но детали не раскрываются.