Anthropic сообщила о резком росте способностей своих моделей автономно проводить исследования и разработку. Компания подчёркивает, что это может ускорить технический прогресс, но одновременно создаёт риски использования не по назначению.
В компании пояснили изданию Axios: «В рамках стандартного процесса исследований и разработок мы обучаем и оцениваем множество экспериментальных версий моделей, которые не планируем выпускать. Model 2 — одна из таких».
По данным Anthropic, Model 2 показывает заметное улучшение результатов во многих внутренних задачах. Наряду с моделью Mythos 5 она активно применяется сотрудниками компании для написания кода, управления AI-агентами и генерации контента.
Однако скачок качества у Model 2 не так велик, как при переходе от Opus 4.6 к Mythos. В компании отметили: «В настоящее время у нас нет планов выпускать эту модель для внешнего использования».
Ситуация показывает, что Anthropic становится всё сложнее оценивать реальные возможности собственных разработок и связанные с ними риски.
По словам представителей компании, вероятность серьёзных негативных последствий от работы моделей остаётся низкой. Тем не менее, компания повысила общую оценку угроз выхода моделей из-под контроля при пессимистических сценариях — с «очень низкой» до «низкой».
Это решение связано с недавними инцидентами в сфере кибербезопасности. Model 2, по имеющимся данным, превосходит по возможностям флагманскую модель Mythos.
Anthropic не намерена замедлять разработку Model 2, но и открывать к ней широкий доступ пока не планирует.