AI-агенты все чаще переходят от простых ответов к автономному выполнению сложных задач. Однако прежде чем доверить им бронирование поездок или финансовый анализ, необходимо убедиться в их надежности.
Стартап Patronus AI, основанный бывшими исследователями m*, создает симулированные цифровые среды для оценки поведения агентов. Выручка компании выросла в 15 раз за год, что привлекло $50 млн инвестиций.
Симуляции копируют реальные сайты и внутренние системы. После обучения с подкреплением агенты проходят стресс-тесты, а Patronus выявляет их склонность к сокращениям и ошибкам.
Сейчас среда доступна для софт-инжиниринга и финансов, но в планах — поддержка сценариев длительностью до 10 недель. Конкуренты — внутренние команды AI-лабораторий.
0 комментариев