С ростом мощности ИИ-моделей растёт и риск их злоупотребления. Компании вынуждены балансировать между приватностью корпоративных клиентов и необходимостью следить за использованием.
OpenAI, стремясь обойти конкурента Anthropic, анонсировала новый сервис Private Safety Processing (PSP). Это автоматизированная система, которая выявляет потенциальные злоупотребления, не сохраняя данные клиентов.
PSP контрастирует с недавней политикой Anthropic, позволяющей хранить сессии и разговоры пользователей до 30 дней для определённых моделей (Mythos-class и будущих). Это вызвало беспокойство у предприятий, работающих с чувствительными данными.
Ранее OpenAI уже применяла Zero Data Retention (ZDR): агенты в API мониторят злоупотребления на уровне отдельной сессии, не сохраняя информацию. Anthropic в основном тоже следует ZDR, кроме "покрытых моделей" вроде Fable.
PSP расширяет ZDR, анализируя входные и выходные данные нескольких разговоров, чтобы выявить долгосрочные злоупотребления. При срабатывании система отправляет узкий сигнал в OpenAI, после чего компания может связаться с клиентом для уточнения.
Anthropic, напротив, допускает ручную проверку данных, но только через контролируемый доступ с ограниченным числом рецензентов. Все сессии фиксируются в неизменяемом журнале.
Конкуренция между OpenAI и Anthropic обостряется. У Anthropic годовой доход составляет $65 млрд, возможен IPO на $2 трлн, а OpenAI также готовится к публичному размещению.