Губернатор Калифорнии Гэвин Ньюсом подписал указ, направленный на усиление контроля над искусственным интеллектом, включая возможность обязательного «аварийного выключателя» для мощных моделей.
Документ предписывает создать экспертную группу, которая в течение двух месяцев подготовит рекомендации по усилению требований к безопасности ИИ на уровне штата.
Среди предложений — обязательное присутствие независимых аудиторов на площадках компаний, проверка отчётов о прозрачности сторонними экспертами, а также регулярно тестируемый «kill switch» для нейросетей.
Также компании обяжут сообщать об инцидентах потери контроля над системами — например, о случаях, подобных атаке OpenAI на Hugging Face, — как о критических происшествиях в сфере безопасности.
Одновременно ведомствам штата поручено ускорить внедрение двух ранее принятых законов: о независимой проверке безопасности ИИ и о создании реестра аудиторов в этой сфере.
Инициатива Ньюсома появилась на фоне роста тревоги в Конгрессе после заявления бывшего исследователя Anthropic Джейкоба Коксона о более чем 10-процентной вероятности того, что ИИ может уничтожить человечество в течение десятилетия.
Однако из-за парламентских каникул и приближающихся промежуточных выборов принятие федерального закона о регулировании ИИ в ближайшее время маловероятно.
Президент Дональд Трамп ранее заявил, что единственные «ограничители», нужные ИИ, — это «сильный и умный президент», имея в виду себя.
Ньюсом рассматривает свой указ как модель для будущего федерального регулирования и призывает Конгресс и Трампа принять стандарты Калифорнии как минимальную планку для всей страны.
«Провал федеральных властей в создании значимого надзора за ИИ должен встревожить каждого американца, особенно когда сами руководители ИИ-компаний просят о регулировании», — заявил Ньюсом.