OpenAI выпустила в широкий доступ новую языковую модель Sol, сравнимую по возможностям с Fable от Anthropic — моделью, которую правительство США временно запрещало для публичного использования.
Как обе модели получили разрешение на выпуск — никто точно не знает. Аналитик Georgetown CSET Мина Нараянан признала, что не имеет достаточной информации, чтобы оценить адекватность процесса.
Бывший советник Трампа, ныне сотрудник OpenAI Дин Болл написал в своём newsletter: «никто не знает, каковы требования для получения лицензии».
Сооснователь Databricks и Perplexity Энди Конвински заявил, что не встречал никого — даже внутри frontier-лабораторий — кто понимал бы этот процесс. По его словам, это экзистенциальная проблема: вопрос о том, кто контролирует принятие решений.
Спустя 18 месяцев администрации Трампа ясности по-прежнему нет. Исполнительный указ наметил дорожную карту оценки моделей, но детали не заполнены. «FDA для ИИ не будет», — заявил бывший советник Белого дома Срирам Кришнан.
Нет консенсуса ни о том, какие модели требуют надзора, ни о том, какое ведомство должно их проверять. Минторг пока берёт инициативу, но финальный процесс должен быть определён к августу.
CEO OpenAI Сэм Альтман сообщил, что процесс включал переговоры с министром торговли Лутником и другими чиновниками. Кто именно тестировал модели и как — неизвестно. OpenAI отказалась раскрывать детали.
Фон переговоров осложняется: Альтман якобы предлагал 5% акций OpenAI для «Trump Accounts», а президент компании Брокман — крупнейший известный донор предвыборной операции Трампа.
Fable от Anthropic, напротив, временно лишилась широкого доступа: правительство запретило её использование иностранцами из-за опасений по поводу взлома модели и личных конфликтов между Anthropic и администрацией.
Конвински считает, что настоящие эксперты — исследователи безопасности, alignment- и interpretability-специалисты — почти не участвуют в процессе выпуска моделей. Он предлагает модель «открытых commons» по аналогии с FDA или NIH.
Болл видит выход в сторонних аудиторских организациях, лицензированных государством. Конвински также поддерживает новые институциональные форматы с участием академических и некоммерческих экспертов.
Профессор Реми Арпачи-Дюссо на конференции Open Frontier заявил: «Нет ощущения, что ответственные люди управляют этими изменениями». Дэвид Сигель из Two Sigma попросил представить мир, где несколько компаний контролируют технологию, правительство оценивает её в секретных лабораториях, а общество лишено доступа. Похоже, воображать уже не нужно.
0 комментариев