Исследователи сравнили локальные SLM с серверными LLM. На 500 тыс. запросов и задачах на логику SLM показали не меньшую эффективность в 80% случаев. В продажах, менеджменте и развлечениях успех близок к 100%. В сложных вычислениях SLM справляются в 50% случаев (год назад — 8%).
Ключевой показатель «интеллект на ватт» вырос в 5 раз. Локальные платформы потребляют на 50–80% меньше энергии. Nvidia уже адаптируется: в июне представила ИИ-платформу для Windows.
По мнению стратега Panmure Liberum, главные выгодоприобретатели от перехода — производители ПК, включая Apple. Инициатива Nvidia по выходу на рынок десктопных ИИ — попытка застраховать риски.
Локальные вычисления не требуют дорогих GPU, что сокращает капитальные затраты и замедляет рост производителей чипов. Это ставит под угрозу высокие оценки OpenAI, Anthropic и проектов вроде xAI.
0 комментариев