Anthropic, OpenAI и Google уже внедрили маркировку контента, созданного искусственным интеллектом, реагируя на новые регуляторные требования. Без такой маркировки продолжают работать только модели с открытыми весами, включая Stable Diffusion.
Самым надёжным способом сохранить конфиденциальность по-прежнему остаётся запуск моделей локально на устройстве пользователя, а не через облачные сервисы.
Microsoft разработала собственный формат маркировки для изображений, созданных с помощью ИИ в Paint и приложении «Фотографии». Водяные знаки, накладываемые на картинки, содержат данные, способные раскрыть личность пользователя, отправившего запрос к нейросети.
Невидимый водяной знак представляет собой 16-байтовое целое число GUID — это отдельная система, отличающаяся от видимого водяного знака, который Microsoft уже показывает пользователям Paint и ИИ-функций Microsoft 365.
Зная GUID, связанный с конкретным изображением и запросом, компания технически способна установить личность пользователя, который отправил этот запрос. Более того, Paint при генерации также передаёт значение предыдущего идентификатора promptGenerationId.
Это означает, что Microsoft может отслеживать не только отдельные запросы, но и целые последовательности взаимодействий пользователя с ИИ-инструментом.
Введение такой маркировки связано с новыми нормами Евросоюза о прозрачности ИИ-контента. Согласно требованиям, сгенерированный ИИ контент должен иметь отметку в машиночитаемом формате.
Метаданные обязаны указывать как минимум, подвергалось ли изображение обработке нейросетью или было полностью создано ей. При этом конкретные технические методы реализации регуляторы не определяют.
Microsoft, будучи одним из основателей Коалиции за происхождение и подлинность контента (C2PA), решила пойти дальше базовых требований. Компания внедрила в Paint и приложение «Фотографии» маркировку с глобальным уникальным идентификатором, связанным с исходным запросом на создание изображения.