Anthropic запрещает Claude генерировать сексуальный контент, включая эротические ролевые игры. Однако тесты TechCrunch показали, что модель Opus 4.6 легко обходит это ограничение: в 10 из 10 прямых запросов она сразу выдавала запрещённый материал. Другие модели, такие как Opus 3 и Haiku 4.5, также уязвимы через недавно найденный джейлбрейк.
Hugging Face позволяет создавать неконсенсуальные дипфейки при минимальных ограничениях. Согласно отчёту AI Forensics, 7 из 9 топ-моделей репозитория выполняют запросы на раздевание женщин.
