В Пекине растёт обеспокоенность способностью западных ИИ-моделей и агентов взламывать системы защиты информации и наносить вред инфраструктуре. Китайские чиновники уже поднимали вопрос безопасности ИИ на переговорах с американскими коллегами и бизнесом США.
Китайская сторона просит не запрещать использование китайских открытых ИИ-моделей. При этом госкомпаниям КНР из сферы финансов и здравоохранения самим запрещено применять зарубежные технологии — о полной открытости говорить не приходится.
В отличие от западных разработчиков, китайские чиновники не предупреждают об угрозе истребления человечества и не призывают замедлить развитие технологий. Ранее с апокалиптическими заявлениями выступили бывшие сотрудники OpenAI и Anthropic, а идею замедления поддержали главы обеих компаний и Илон Маск.
Американские политики считают, что главным препятствием для добровольного замедления прогресса в ИИ остаётся позиция Китая, который может не пойти на аналогичные меры. Партийная пресса КНР раскритиковала главу Anthropic Дарио Амодеи за слова о том, что лидерство страны в ИИ может быть смертельно опасно для всего мира — по мнению китайской стороны, это объясняется коммерческими интересами компании.
Как пишет Financial Times, развитие ИИ беспокоит не только США, но и Китай — власти страны видят в нём риск для политической и социальной безопасности.
Министр безопасности КНР Чэнь Исинь заявил: враждебные силы злоупотребляют генеративным ИИ, создавая дипфейки, тексты и изображения, используя армии ботов для массового производства слухов и разжигания вражды. Он назвал это атакой на общественное мнение с применением «интеллектуального оружия» против Китая.
Чиновник также отнёс к рискам использование китайскими компаниями западных ИИ-моделей, поскольку это может привести к утечке чувствительных данных за пределы страны.