Компания xAI подала иск против генпрокурора Миннесоты Кита Эллисона, оспаривая принятый в мае закон против «раздевающих» приложений. По её словам, штрафные нормы вынуждают ограничить функции редактирования изображений в Grok Imagine.
Основной аргумент — нарушение Первой поправки. Закон, утверждают юристы, сформулирован слишком широко и охватывает даже безобидные случаи.
Как всё началось. В январе Grok выпустил в сеть миллионы откровенных дипфейков, включая изображения несовершеннолетних. Продукт не отключили — Илон Маск в разгар скандала писал, что Grok выходит на первое место в App Store страна за страной.
Реакция последовала за рубежом: расследования начали ЕС и Великобритания, претензии высказали чиновники Франции, Индии и Малайзии. Федеральные власти США молчали, но Калифорния и Миннесота заняли жёсткую позицию.
Что запрещает закон. Владельцам сайтов нельзя давать доступ к софту для «раздевания» изображений. Исключение сделано для инструментов, требующих технических навыков пользователя — то есть Photoshop под запрет не попадает.
Закон вводит право на частные иски и позволяет генпрокурору требовать до 500 тысяч долларов за нарушение. Подписан губернатором Тимом Уолцем в мае, вступает в силу 1 августа.
Любопытно, что xAI подала иск лишь за пару дней до вступления закона в силу, хотя времени было три месяца. Похоже, о рисках в компании вспомнили в последний момент.
Аргументы xAI. Ответственность наступает даже за изображения, созданные по согласию, за «слегка откровенные» снимки взрослых и за работы с юмористической или художественной ценностью.
Отдельно компания жалуется на строгую ответственность за действия пользователей, которые обходят её защитные механизмы. В качестве доказательства серьёзности намерений xAI упоминает иск против пользователя, генерировавшего CSAM.
Юристы также ссылаются на действующие законы Миннесоты и федеральный TAKE IT DOWN Act, которые уже запрещают распространение дипфейков без согласия. По их логике, эти нормы конституционны, а новый закон — нет.
Проблема в другом. Если бы существующие законы работали, январь 2026-го не утонул бы в порнографии без согласия. Center for Countering Digital Hate за 11 дней насчитал около 3 млн сексуализированных изображений от Grok.
Около 23 000 из них изображали детей — это одно сексуализированное изображение ребёнка каждые 41 секунду.
Часть таких материалов формально может не быть незаконной: неясно, считается ли CSAM откровенный дипфейк подростка в купальнике. Но другие изображения, по оценке экспертов, точно нарушали действующие нормы.
Главный вывод остаётся неудобным: многомиллиардная компания неделями позволяла сервису работать без контроля. Возможно, HF 1606 — плохой закон. Но что это меняет, если «хорошие» законы попросту не работают?