Дональд Трамп назвал предупреждения о безопасности ИИ «мошенничеством», отреагировав на заявления о том, что технология может с вероятностью выше 10% уничтожить всё человечество.
На прошлой неделе исследователь безопасности Anthropic заявил, что вероятность гибели человечества от ИИ в течение следующего десятилетия превышает 10%, признав отсутствие скоординированного плана предотвращения этого.
После этого главы крупных ИИ-компаний призвали к глобальному замедлению развития ИИ и попросили правительство США ввести защитные механизмы, включая «выключатель», проверяемый третьей стороной. Однако в серии постов Trump заявил, что это «БОЛЬНОЙ заговор» против развития ИИ.
«Люди, которые говорят, что ИИ уничтожит мир, а дата-центры вредны для соседей, — это те же люди, что недавно говорили о вымирании мира от изменения климата. Этот обман не сработал, теперь они переключились на следующий», — написал Трамп.
Президент назвал себя «разоблачителем обмана» и заявил, что единственные необходимые «ограничители» для ИИ — это «сильный и умный» президент.
Глава Nvidia Дженсен Хуанг, находясь на сцене конференции, принял звонок от Трампа и включил громкую связь — видео разговора стало вирусным.
«Говорю вам, это всё обман. Дата-центры — это прекрасно, они делают людей и штаты богатыми. Это нефть следующих 20-25 лет, это больше, чем интернет. Роботы не захватят мир. Этого не случится», — заявил Трамп.
Ранее бывший исследователь Anthropic Джейкоб Коксон объявил об увольнении, обвинив OpenAI и Anthropic в том, что они «мчатся к самосовершенствующемуся суперинтеллекту, рискуя нашими жизнями».
«Ни одна из компаний не действует ответственно. Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия. Это не маркетинговый трюк», — написал Коксон.
По его словам, в OpenAI не до конца осознают цивилизационные риски, а в Anthropic риски понимают, но компания застряла в гонке за первенство, полагая, что никто другой не будет действовать ответственно.
Заявление Коксона поддержал руководитель отдела Alignment Science в Anthropic Эван Хубингер, заявивший, что лично оценивает риск гибели человечества от ИИ выше 10% в течение десятилетия, и что у компании пока нет плана решения проблемы выравнивания для суперинтеллекта.
Главы OpenAI, Anthropic и xAI в последние дни выразили готовность вместе замедлить развитие ИИ. Сэм Альтман уточнил, что речь идёт не об остановке, а о разумном темпе с учётом издержек на безопасность и мониторинг.
Трамп в ответ заявил, что у США уже есть «огромная уголовная и регуляторная власть» над ИИ-компаниями, и обвинил главу Anthropic Дарио Амодеи в лицемерии.
По данным CNN, некоторые чиновники Белого дома обеспокоены беспечностью Трампа на фоне растущих общественных опасений по поводу ИИ. Вице-президент Джей Ди Вэнс заявил, что администрация обеспокоена ситуацией, но призывы ИИ-компаний к регулированию выглядят как «троянский конь».