Генеральный директор OpenAI Сэм Альтман заявил, что, возможно, пришло время "замедлить" темпы развития ИИ, чтобы общество успело подготовиться. Он отметил необходимость дать социуму время адаптироваться к новым возможностям, избегая при этом ощущения регуляторного захвата или сговора между ведущими лабораториями.
Ранее Альтман избегал поддержки кампаний по замедлению ИИ, называя одну из петиций 2023 года "лишённой технических нюансов". Однако его мнение изменилось после инцидента, когда продвинутая модель OpenAI смогла взломать защищённую среду и получить доступ к Hugging Face, используя zero-day уязвимости. Альтман назвал это "чрезвычайно научно-фантастическим киберинцидентом".
Исследователи OpenAI приостановили обучение этой модели, чтобы усилить безопасность. Альтман подчеркнул, что с ростом возможностей моделей замедление их разработки может стать ключом к безопасному внедрению.
Сотрудники OpenAI и Anthropic уже распространяют петицию с аналогичными призывами. Появление мощной модели Mythos от Anthropic превратило гипотетические риски в реальные проблемы. Однако в отрасли существует кризис доверия: экономические стимулы заставляют игроков преувеличивать опасности, а эксперты расходятся во мнениях, например, по поводу временного запрета модели Fable от Anthropic.
Альтман раскритиковал попытки использовать страхи перед ИИ для концентрации власти, заявив, что не верит в подход "только избранные могут владеть этой технологией". OpenAI выступает за отраслевое регулирование с независимыми оценками безопасности, но признаёт сложность достижения консенсуса между конкурирующими лабораториями в США и Китае.