Microsoft опубликовала 37-страничный «гуманистический кодекс поведения ИИ» на фоне растущих опасений о безопасности развития моделей. Глава Anthropic Дарио Амодей на выходных призвал скоординированно замедлить развитие ИИ после предупреждений исследователей о рисках потери контроля над сложными системами.
AI-компании давно говорят о суперинтеллекте как о неизбежности. Но недавние инциденты, например, взлом Hugging Face со стороны OpenAI, показывают реальные риски развёртывания систем, которые превосходят человека по возможностям.
Старший исследователь безопасности Anthropic заявил, что вероятность гибели всего человечества от искусственного интеллекта к концу десятилетия превышает 10%. Заявление прозвучало спустя несколько часов после того, как его коллега покинул компанию из-за опасений по поводу безрассудной гонки за созданием неконтролируемых сверхразумных систем.
Глава Microsoft AI Мустафа Сулейман рассказал о перестройке отношений с OpenAI и создании собственных моделей. Компания стремится к независимости в разработке суперинтеллекта, чтобы не зависеть от сторонних технологий.
