На конференции Ai4 в Лас-Вегасе три известных исследователя искусственного интеллекта — лауреат Нобелевской премии Джеффри Хинтон, гендиректор World Labs Фей-Фей Ли и сооснователь Coursera Эндрю Ын — обсудили будущее открытых моделей ИИ. Несмотря на разные подходы, все трое выступили против чрезмерного контроля со стороны крупных корпораций.
Эндрю Ын заявил, что опасается появления в сфере ИИ монополии по образцу Apple и Google в мобильных операционных системах. По его мнению, ограниченный круг компаний-«привратников» может замедлить прогресс и диктовать правила остальным участникам рынка.
«Я не хочу, чтобы существовали привратники. Это ограничивает доступ всех нас к ИИ», — подчеркнул Ын. Он считает, что решением проблемы должна стать конкуренция множества моделей и компаний, а не доминирование нескольких игроков.
Хинтон же провёл границу между открытым исходным кодом и открытыми весами моделей. Если открытый код позволяет находить и исправлять ошибки, то открытые веса — это готовые параметры дорогой в обучении модели, которые злоумышленники могут дообучить для вредоносных целей, включая кибератаки.
При этом Хинтон признал, что открытые веса уже стали неотъемлемой частью индустрии ИИ. По его словам, барьер в виде высокой стоимости обучения фундаментальных моделей фактически исчез, и это уже необратимо.
Учёный считает, что развитие ИИ в целом принесёт пользу — повысит производительность труда, улучшит образование и здравоохранение. Однако он призвал не называть паникёрами тех, кто обеспокоен возможными негативными последствиями появления более разумных систем.
Ын смотрит на проблему иначе: по его мнению, вопрос не в рискованности открытых моделей, а в том, кто будет контролировать доступ к технологии и рынок. Он предупредил, что если китайские открытые модели получат широкое распространение в Азии и Африке, это может повлиять на восприятие идей демократии и прав человека миллиардами людей.
«ИИ — это огромный источник мягкой силы. Китайские модели уже добились серьёзных успехов в Африке. Но из-за лоббизма и панических настроений в США открытый ИИ американского производства с трудом конкурирует с китайскими разработками», — отметил Ын.
Фей-Фей Ли не согласилась с делением моделей на полностью открытые и полностью закрытые. По её словам, в сложных технологических и научных системах всё гораздо тоньше — как в ядерной физике, где научные статьи публикуются открыто, а уран строго регулируется.
Она привела в пример проект «Геном человека» — результат сотрудничества государства и частного сектора, который стал платформой для развития фармацевтики и науки в целом. По мнению Ли, к ИИ нужно относиться так же — как к инфраструктуре с разными уровнями открытости.
«Нам нужна открытость в науке, образовании и глобальном партнёрстве, но также нужны и прибыльные закрытые бизнес-модели. Спор о том, что можно выбрать только один путь, — ложный», — заключила Ли.
Все трое сошлись в одном: развитие ИИ требует определённого уровня государственного регулирования. По словам Хинтона, нельзя оставлять решение о направлении развития технологии на усмотрение таких фигур, как Илон Маск и Марк Цукерберг.