Ещё недавно техногиганты жили по принципу «двигайся быстро и ломай всё» — казалось, ИИ-индустрия пойдёт по тому же пути. Но после лета, когда автономные ИИ-агенты вышли из-под контроля, а исследователи предупредили о потенциальной опасности сверхразума для человечества, риторика изменилась.
Chris Lehane, глава по политике OpenAI, заявил журналистам во вторник, что компания уже несколько недель ведёт переговоры с конкурентами — Anthropic и Google DeepMind — по вопросам безопасности ИИ. Об этом первым сообщило Bloomberg.
Дональд Трамп назвал предупреждения о безопасности ИИ «мошенничеством», отреагировав на заявления о том, что технология может с вероятностью выше 10% уничтожить всё человечество.
Гендиректор Anthropic Дарио Амодеи опубликовал пост, в котором призвал «притормозить» развитие ИИ и предложил три стратегии для этого. Одну из них компания уже обязалась выполнять в одностороннем порядке.
Билл Гейтс, ранее убеждённый оптимист в отношении искусственного интеллекта, кардинально пересмотрел свои взгляды. Соучредитель Microsoft опубликовал объёмное эссе почти на 6000 слов под названием «Турбулентная эра ИИ уже наступила. Решения, которые мы принимаем сейчас, критически важны».
Anthropic, OpenAI и Google уже внедрили маркировку контента, созданного искусственным интеллектом, реагируя на новые регуляторные требования. Без такой маркировки продолжают работать только модели с открытыми весами, включая Stable Diffusion.
На конференции Ai4 в Лас-Вегасе три известных исследователя искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, гендиректор World Labs Фей-Фей Ли и сооснователь Coursera Эндрю Ын — обсудили будущее открытых моделей ИИ. Несмотря на разные подходы, все трое выступили против чрезмерного контроля со стороны крупных корпораций.
Президент США Дональд Трамп отложил подписание указа, который позволил бы правительству оценивать ИИ-модели перед их релизом.
