По данным Financial Times, компания OpenAI в конце прошлого месяца расформировала свою команду preparedness team. Эта группа отвечала за оценку серьёзных рисков от моделей ИИ и разработку способов их снижения, включая сценарии, при которых система могла бы выйти из-под контроля и, например, атаковать другую компанию.
Как сообщает FT, обязанности команды разделили по узким направлениям — биологическая и киберугрозы — и передали их в уже существующие подразделения компании.
Это далеко не первое подобное изменение в структуре OpenAI, которая переживает серьёзную внутреннюю перестройку на фоне подготовки к предполагаемому масштабному IPO. За последние годы компания постепенно свернула подразделения, ориентированные на безопасность: были распущены команды по готовности к AGI и суперсогласованности.
Недавно компанию также покинули руководитель по этике Хлоя Бакалар, главный футуролог Джош Ачиам и глава направления безопасности Йоханнес Хайдеке. Бывший сотрудник Ян Лейке, ушедший из OpenAI ещё в 2024 году, заявил FT, что компания жертвует безопасностью ради выпуска "эффектных продуктов".
Руководитель бывшей preparedness team Дилан Скандинаро, перешедший в OpenAI из Anthropic в феврале, теперь сосредоточится на изучении последствий развития "рекурсивно самосовершенствующегося" искусственного интеллекта.