На выходных пользователи Reddit обнаружили, что запрос вида site:claude.ai/share в Google выдаёт длинный список расшаренных диалогов с Claude и созданных в нём Artifacts — интерактивных мини-приложений и документов.
Причина — функция «поделиться чатом». Она создаёт ссылку, по которой беседу может открыть любой желающий. Интерфейс предупреждает: «Любой, у кого есть ссылка, может просматривать».
Формулировка подразумевает обмен с коллегами и друзьями, а не публикацию на весь интернет. Для сравнения, аналогичная функция в Google Docs не приводит к попаданию документов в поисковую выдачу.
Anthropic фактически возложила ответственность на пользователей. Компания заявила TechCrunch, что ссылки индексируются, только если их разместили там, где их видят поисковики — на форуме или в соцсети. Приватно отправленная ссылка в поиск не попадает.
«Мы не передаём поисковикам каталоги чатов или карты сайта. Такие ссылки нельзя угадать или найти, пока человек сам ими не поделится», — сообщила представитель компании Эми Ротерхэм.
Проблему первым описал пользователь Reddit в субботу, а в понедельник о ней написало 404 Media. К вечеру понедельника тестовый поиск TechCrunch уже не давал результатов — судя по всему, утечку устранили.
До исправления Futurism находил в выдаче медицинскую карту реального пациента, результаты клинических испытаний с именами, контакты детей младшего школьного возраста, внутренние документы компаний и оценки сотрудников с персональными данными.
Среди раскрытых Artifacts оказались код, рабочие заметки и эротика, сгенерированная чат-ботом. По данным Fortune, минимум один чат с пометкой «shared by Anthropic» содержал откровенный контент — прямое нарушение собственной политики компании.
Обход ограничений через настойчивые или креативно сформулированные промпты периодически всплывает у всех крупных ИИ-моделей. Как именно был получен этот контент, неизвестно; Anthropic на запрос комментария не ответила.
В Google подчеркнули, что ни один поисковик не решает, какие страницы становятся публичными: страницы индексировались множеством сервисов, а владельцы сайтов имеют инструменты для запрета обхода и индексации.
Годом ранее Forbes сообщал о похожем случае: тогда Google проиндексировал чуть менее 600 диалогов Claude. Также 404 Media писало, что исследователь смог собрать около 100 000 публично расшаренных бесед ChatGPT.
Проверить свои публичные ссылки можно в разделе Settings → Privacy → Shared Chats.