Индустрия ИИ долго строилась на предположении: чем больше модель, тем она мощнее. Теперь это начинает меняться из-за растущих затрат.
Пользователи присматриваются к дешевым моделям. Сооснователь Coinbase Брайан Армстронг предсказал, что 80% задач перейдут на модели в 99% дешевле в ближайшие 12-18 месяцев.
Тест компании Harvey показал, что комбинация дешевых и дорогих моделей снижает затраты в 3 раза без потери качества. Качество теперь определяется эффективностью, а не только мощностью.
Разрыв проходит не между проприетарными и открытыми моделями, а между большими и маленькими. Ценовая война идёт, но важнее то, что малые модели могут заменить большие без ущерба.
Ранее клиенты выбирали самые продвинутые модели из-за субсидий. С ростом цен и замедлением субсидий пользователи впервые сталкиваются с давлением затрат.
Если большинство задач можно решить на малых моделях, это снизит спрос на инференс и поставит вопрос о целесообразности обучения frontier-моделей.
0 комментариев