OpenAI приостановила разработку ИИ-модели Astra из-за несоответствия новым стандартам безопасности. Компания внедряет Preparedness Framework для оценки рисков.
Внутренние оценки показали, что Astra достигла значительных успехов в программировании агентов и кибербезопасности. Эксперты не смогли исключить наличие критически важных кибервозможностей.
Согласно Preparedness Framework, модель достигает критического порога, если может самостоятельно выявлять уязвимости нулевого дня или разрабатывать комплексные стратегии кибератак. OpenAI утверждает, что Astra не причастна к взлому Hugging Face.
Компания вводит более строгие меры безопасности для моделей с высокими возможностями, включая универсальный мониторинг рискованных действий.