Глава Y Combinator Гэрри Тан считает, что регуляторам не стоит вмешиваться в ситуацию с китайскими AI-лабораториями, которые применяют дистилляцию для извлечения знаний из моделей американских разработчиков. Более того, он полагает, что американским лабораториям стоит перенять эту тактику.
В интервью CNBC Тан заявил: "Я бы ничего не делал. Можно поспорить, что должен появиться американский режим дистилляции". По его словам, небольшие открытые американские AI-лаборатории должны применять те же методы обучения на флагманских моделях США, чтобы создать более сильную альтернативу закрытым и китайским решениям.
Дистилляция — это процесс, при котором разработчик активно опрашивает чужую модель, чтобы понять принципы её работы и рассуждений. Метод широко и легально используется для обучения новых систем.
Anthropic на этой неделе выпустила второй отчёт, обвиняющий китайские лаборатории в "незаконных атаках дистилляции" — сокрытии личности, мошенничестве и использовании украденных учётных данных. Ранее глава Anthropic Дарио Амодей публично призывал власти США ужесточить контроль над дистилляцией.
Позиция Тана заметно отличается: он не одобряет использование украденных данных, но настаивает, что доступ к моделям через официальные каналы должен быть свободным. По его мнению, ограничение того, что клиенты делают с полученной от ИИ информацией, — это чрезмерный контроль.
Он также напоминает, что сами разработчики закрытых моделей не спрашивали разрешения, когда собирали огромные массивы данных, включая защищённый авторским правом контент, для обучения своих систем.
"Ограничение того, что пользователи делают с API-вызовами к закрытым моделям, выглядит сдерживающим фактором. Государство могло бы способствовать тому, чтобы доступ к интеллекту, обученному на общедоступных данных, сам по себе стал скорее общественным благом, а не чем-то запертым за жёсткими условиями использования", — пояснил он TechCrunch.
Тан, называющий себя увлечённым пользователем ИИ вплоть до "кибер-психоза", выступает за баланс между открытыми и передовыми лабораториями. По его словам, обе модели важны: закрытые лаборатории двигают технологию вперёд и должны оставаться прибыльным бизнесом, а открытые модели дают людям свободу и доступ.
Главным кошмарным сценарием для ИИ он считает не дистилляцию, а концентрацию всей мощи технологии в руках одной корпорации: "Это будет плохо — одна монолитная компания с лучшим доступом к капиталу и лучшими исследователями, которая обгоняет всех остальных".