Популярный ютубер и научный популяризатор Хэнк Грин заявил, что приостанавливает съёмки после волны критики за использование ИИ. Он назвал свою привычку «нездоровой», но подчеркнул: чат-бот помогал искать источники, а не писал сценарии.
Спор вокруг него свёлся к вопросу: как совместить репутацию, построенную на честности и достоверности, с технологией, обученной на чужих работах и склонной убедительно выдумывать факты.
Но случай Грина обнажает более широкую проблему — мы почти ничего не знаем о психологическом влиянии ИИ. Публичная дискуссия крутится вокруг двух полюсов: безобидное применение и тяжёлые случаи с бредом и психозом.
Между ними — огромная серая зона, где использование становится навязчивым или зависимым, не превращаясь в очевидный кризис. Судя по словам Грина, он видит себя именно там. И, вероятно, не он один.
Удивляться нечему: чат-боты по своей природе спроектированы так, чтобы разговор не заканчивался. Как и соцсети, они заточены на удержание внимания. Эксперты называют это одним из ключевых факторов так называемого «ИИ-психоза».
Слишком угодливые модели подкрепляют бредовые убеждения. Обвинения в том, что компании ставят вовлечённость выше благополучия пользователей, уже звучат в судебных исках. Разработчики в ответ добавляют напоминания о перерывах после долгих сессий.
Однако вред возможен задолго до психиатрического кризиса. Люди всё чаще рефлекторно идут к боту, чтобы обдумать проблему, принять решение или получить поддержку. Некоторые формируют эмоциональную привязанность и переживают утрату при её разрыве.
Чтобы разобраться, потребуются годы. Но ранние сигналы жутко напоминают начало эпохи соцсетей: тогда тоже сначала были отдельные тревожные наблюдения, а теперь государства вводят ограничения вплоть до запретов для подростков.
Случай Грина — про другой тип зависимости. Он использовал ИИ как исследовательского ассистента для поиска научных статей. Само по себе это вряд ли проблематично, несмотря на бурную реакцию аудитории и его извинения.
Это не значит, что технология не влияет на человека. Ранние исследования показывают: регулярное использование ИИ ослабляет навыки, которые он замещает. У пользователей чат-ботов фиксировали заметно меньшую мозговую активность при выполнении задач.
Другие работы связывают общение с ботами со снижением критического мышления. Ничего окончательного, но идея не нова: когнитивная разгрузка — перенос памяти, счёта или ориентирования на внешние инструменты — описана давно.
Даже если нездоровой можно назвать лишь малую долю случаев, масштаб внедрения делает цифры огромными. Полной статистики нет, но одна только OpenAI в этом году сообщала о более чем 900 млн еженедельных пользователей.
Понадобились годы, чтобы понять, как поисковики изменили нашу память, а соцсети — внимание и самочувствие. С ИИ будет так же. Грин лишь одним из первых публично озвучил ощущение, которое многие испытали задолго до того, как наука сможет его объяснить.