OpenAI запускает специальный режим ChatGPT для подростков, объединяя существующие меры защиты с новыми функциями безопасности. Это происходит на фоне растущего внимания к влиянию ИИ на молодых пользователей.
"Опыт, созданный, чтобы помочь подросткам учиться, критически мыслить и уверенно использовать ИИ", — говорится в блоге компании. Режим автоматически применяется для пользователей 13–17 лет и тех, кого система оценивает как младше 18. Дети до 13 лет не допускаются.
По умолчанию включены ограничения на запрещённый и чувствительный контент: насилие, самоповреждения, сексуальные или романтические ролевые игры. Появляются предупреждения о безопасности, например, о расстройствах пищевого поведения. Родители могут настроить тихие часы и получать уведомления о потенциальных рисках.
Дополнительные функции поощряют здоровое использование: напоминания о загрузке чувствительных изображений, специальный онбординг, настройка цветов и голосов. Новые "ответственные напоминания о домашних заданиях" распознают попытки сократить путь и перенаправляют в режим учёбы. Можно установить часы учёбы.
Многие защиты не новы: возрастное прогнозирование появилось в начале года, родительский контроль и режим учёбы — год назад, напоминания о перерывах — в прошлом месяце. OpenAI планирует публиковать результаты исследований и добавлять новые функции. "Доступ должен сопровождаться защитой, отражающей возраст, поддерживающей реальные отношения и здоровое использование".