DS

Клиенты ИИ столкнулись с резким ростом затрат

image source

Разработчики ИИ (OpenAI, Anthropic) изменили политику оплаты, перейдя на пропорциональную плату за токены. Многие клиенты столкнулись с резким ростом расходов — например, Workato зафиксировал семикратное увеличение в первый день.

Компании начали искать способы экономии: ограничивают использование сторонних инструментов, переходят на open-source модели или дешёвые китайские аналоги. Китайские модели уже обошли американские по потреблению токенов.

Microsoft предлагает сервис автоматической маршрутизации запросов к более дешёвым моделям. Некоторые компании вручную выбирают старые дешёвые модели. Однако расходы на ИИ растут, и публичным компаниям сложнее оправдывать их перед инвесторами.

Uber ввёл лимит $1500 на сотрудника в месяц. Переход от чат-ботов к множественным ИИ-агентам увеличил потребление токенов. Goldman Sachs прогнозирует рост потребления в 24 раза к 2030 году, что усугубит дефицит чипов.

Даже Amazon (AWS) борется с фиктивной ИИ-деятельностью сотрудников. m* последовала примеру. Но Amazon и m* зависят от провайдеров (Anthropic), оплачиваемых по коммерческим ставкам.

источник

0 комментариев

Редактор комментария
Пока нет комментариев
Станьте первым, кто оставит мнение на этот топик