Стартап Probably привлёк $9 млн посевных инвестиций от Andreessen Horowitz. Его цель — предотвращать галлюцинации и фактические ошибки ИИ, добиваясь точности 99.99%. Основатель Питер Элиас считает, что это требует пересмотра базовых принципов AI-инженерии.
Первый продукт — инструмент для анализа данных с цитатами и аудитом. Ошибки отсекает система проверки: LLM даёт ответ, а детерминированный валидатор возвращает несовпадения. Модель обучена на этом валидаторе, вся система оптимизирована на скорость и точность.
По словам Элиаса, чем лучше обвязка (harness), тем слабее может быть модель. Уменьшение неопределённости позволяет использовать локальное железо вместо ЦОД, резко снижая затраты на токены. Идея применима в бухгалтерии, медицине и других областях, чувствительных к точности.
Элиас отмечает: «Крупные AI-лаборатории не пытаются этого делать, потому что зарабатывают на исправлении ошибок».
0 комментариев