Участники переговоров считают, что все ИИ-модели имеют уязвимости, поэтому правительство США должно разработать процедуры оценки рисков. Также нужна методика определения последствий атак на новые модели.
Прогресс в переговорах налицо: ранее Anthropic не признавала критичность уязвимостей в модели Fable 5, но власти настояли на закрытии доступа к двум моделям для иностранцев. В итоге доступ перекрыли всем.
Белый дом и Anthropic создают регуляторные механизмы для вмешательства при угрозах нацбезопасности и экономике. Оценка угроз должна стать обязательной перед выпуском ИИ-моделей.
Глава Anthropic Дарио Амодеи участвует в саммите G7, что дает возможность вести переговоры с чиновниками напрямую.
0 комментариев