Аналитики Gartner предложили два способа сократить затраты на ИИ: улучшать качество входных данных для моделей и распределять задачи — простые отдавать лёгким моделям, а сложные — продвинутым.
Разработчики ИИ-систем не встраивают функции контроля затрат, что ведёт к неконтролируемому росту расходов. Они придерживаются идеи «максимизации токенов», полагая, что это улучшит результат, хотя прямой зависимости не выявлено.
Из-за отсутствия встроенных средств оптимизации некоторые компании тратят на ИИ больше, чем зарабатывают. По оценкам Gartner, к 2028 году расходы на ИИ-агентов для написания кода превысят зарплаты разработчиков. Стоимость ИИ-агентов одинакова во всех регионах, поэтому в Индии за те же деньги можно нанять инженера с опытом 4–6 лет.
Затраты на ИИ-агентов для программистов резко выросли: с $20–100 до $2000–5000 в месяц на рабочее место, а иногда до $20 000. Разработчики ПО не получают детализации счетов за токены, что затрудняет контроль расходов.
Поставщики ИИ-агентов переводят клиентов с фиксированных тарифов на оплату по объёму токенов, что резко увеличило цены. Скоро ИИ-помощники могут обойтись дороже штатных программистов, сообщает The Register со ссылкой на Gartner.

0 комментариев