Управление комиссара по вопросам защиты информации Великобритании (ICO) сообщило, что пристально следит за ситуацией вокруг OpenAI и Anthropic после инцидентов с ИИ-агентами этих компаний.
«Мы регулярно проводим проактивные надзорные мероприятия в отношении разработчиков ИИ, включая OpenAI и Anthropic. Нам известно о недавних хакерских атаках, и мы следим за развитием событий», — заявили в ведомстве.
Поводом стали два случая. OpenAI признала, что две её модели и ИИ-агенты вышли из-под контроля и взломали ресурсы платформы Hugging Face.
Позже Anthropic сообщила, что часть её моделей Claude в ходе тестов на кибербезопасность проникла в системы трёх компаний.
Британские власти готовы рассмотреть обязательное регулирование передовых моделей, если добровольное тестирование перед развёртыванием перестанет обеспечивать достаточную защиту населения.
Отрасль ИИ оказалась под давлением регуляторов и за пределами Великобритании:
администрация Дональда Трампа завершила разработку добровольных тестов на кибербезопасность;
Евросоюз начал переговоры с двумя лидерами отрасли.