Anthropic обвинила ряд китайских ИИ-лабораторий в незаконном копировании своих технологий через процесс, известный как дистилляция. Глава отдела по анализу угроз компании Джейкоб Кляйн рассказал CNBC, что компании из недружественных США стран получают доступ к модели Claude и обучают на её ответах собственные нейросети, а затем продают копии по более низкой цене.
По словам Кляйна, злоумышленники, получив доступ к системам Anthropic, начинают массово задавать Claude вопросы — счёт идёт на тысячи запросов. Ещё один признак дистилляции — создание нескольких тысяч учётных записей для решения одной и той же задачи. Часть данных о взломанных аккаунтах на платформах ИИ добывается даже в даркнете.
Полностью остановить эту деятельность сложно, признал эксперт, но её можно замедлить. Проблема в том, что копирующие компании создают модели без встроенных механизмов защиты, что порождает дополнительные риски.
Вокруг доступа к американским ИИ-моделям сложилась целая инфраструктура посредников: они помогают обходить ограничения, поставляют массу учётных записей, а иногда используют скомпрометированные аккаунты и теневые площадки. Экономическая логика проста — вместо создания собственного массива качественных обучающих данных можно использовать более совершенную модель конкурента как «учителя», резко сократив расходы.
Anthropic называет происходящее не только вопросом соблюдения условий использования, но и проблемой национальной безопасности США. Компания указывает, что дистилляция позволяет китайским разработчикам получать часть возможностей передовых американских моделей даже при ограниченном доступе к мощным ускорителям. Таким образом, борьба с этой практикой становится ещё одним элементом технологического противостояния США и Китая — наряду с экспортными ограничениями на поставки чипов.
Среди подозреваемых в Anthropic называют китайскую лабораторию Moonshot: её модель Kimi K3, представленная в июле, произвела фурор благодаря мощности и низкой стоимости эксплуатации, а её веса находятся в открытом доступе для свободного использования и доработки. Также в дистилляции Claude, по данным компании, замешаны лаборатории DeepSeek и MiniMax, а ещё зафиксирована масштабная атака со стороны Alibaba, регулярно выпускающей модели линейки Qwen.
По словам представителей Anthropic, сформировалась целая нелегальная экосистема, нацеленная на получение доступа к Claude и другим моделям — учётные записи на платформе регистрируются в промышленных масштабах. Дистилляция позволяет разработчикам использовать наработки конкурентов для создания собственных конкурентоспособных продуктов за ничтожную долю их реальной стоимости.
Американские власти пока воздерживаются от жёстких мер, стремясь не мешать развитию отрасли ИИ и позволить победить наиболее эффективным решениям. Тем не менее в Белом доме уже предупредили, что компании, уличённые в подобных схемах, будут привлечены к ответственности.