AI-компании давно говорят о суперинтеллекте как о неизбежности. Но недавние инциденты, например, взлом Hugging Face со стороны OpenAI, показывают реальные риски развёртывания систем, которые превосходят человека по возможностям.
Главный вопрос: что делать, если люди больше не смогут надёжно контролировать поведение таких систем?
В подкасте Equity от TechCrunch Ребекка Беллан пообщалась с Коннором Лихи — исследователем ИИ, предпринимателем и исполнительным директором американского отделения некоммерческой организации ControlAI.
Организация продвигает радикальный подход к безопасности ИИ: полный запрет на разработку суперинтеллектуальных систем компаниями.
Лихи объясняет, почему считает риски слишком высокими, чтобы полагаться только на методы выравнивания (alignment) и сдерживания ИИ.
То, что казалось фантастикой полгода назад, сегодня получает поддержку в виде новых законодательных инициатив.
Подкаст Equity доступен на YouTube, Apple Podcasts, Overcast, Spotify и других платформах.