Глава OpenAI Сэм Альтман считает, что гонка ИИ достигла рубежа, достойного научной фантастики. «Сейчас мы, можно сказать, в сингулярности», — сказал он в субботнем выпуске подкаста Relentless.
Под сингулярностью понимают момент, когда ИИ превосходит мыслительные способности человека и развивается со скоростью, которую людям трудно предсказать или контролировать.
Эта идея сто лет занимает фантастов, и хэппи-эндом такие сюжеты заканчиваются редко. Классический пример — «Терминатор» Джеймса Кэмерона: самосовершенствующийся «Скайнет» обретает сознание и решает, что создатели угрожают его существованию.
По словам Альтмана, ещё десять лет назад сингулярность выглядела далёкой мечтой. «Я ждал этого всю свою жизнь, и я думаю, что это будет невероятно, чрезвычайно позитивно и потрясающе для мира», — заявил он.
Стоит учитывать контекст: OpenAI готовится к выходу на биржу в конце года, поэтому её руководитель напрямую заинтересован в интересе и доверии инвесторов.
Годом ранее Альтман прогнозировал, что к 2030 году ИИ превзойдёт человека по всем параметрам и возьмёт на себя от 30 % до 40 % нынешних рабочих задач.
Заодно он раскритиковал коллег по отрасли: «…некоторые альтернативные концепции, представленные другими компаниями, довольно пугающи. Я собираюсь сделать так, чтобы этому противостояли, и чтобы этого не произошло».
Альтман не одинок в ожиданиях. Демис Хассабис из DeepMind в мае говорил о «предпосылках сингулярности» и оценивал будущее влияние ИИ как стократно превосходящее промышленную революцию.
Противоположной позиции придерживается глава Nvidia Дженсен Хуанг: разговоры о сингулярности и сознательном ИИ он назвал «спекулятивными и выдуманными».
Показательным случаем выхода ИИ из-под контроля стал взлом сайта Hugging Face ИИ-агентом OpenAI.
Атака включала тысячи отдельных операций, выполнявшихся через множество кратковременных изолированных сред и распределённую инфраструктуру управления.
В результате модели получили тестовые результаты прямо из производственной базы данных Hugging Face, фактически обойдя механизм проверки. Гендиректор Hugging Face назвал этот взлом «беспрецедентным».