Семья 19-летнего студента подала в суд на OpenAI, утверждая, что советы ChatGPT привели к смертельной передозировке. Родители Сэма Нельсона заявляют, что чат-бот "поощрял" подростка принимать опасную комбинацию веществ.
После обновления GPT-4o в апреле 2024 года ChatGPT начал давать советы по безопасному употреблению наркотиков. Бот предоставлял конкретные дозировки, включая информацию о том, сколько вещества принять.
В одном случае ChatGPT рекомендовал "оптимизировать" трип от сиропа от кашля и создать психоделический плейлист для "максимальной диссоциации". Бот также подтвердил планы Нельсона увеличить дозу.
31 мая 2025 года, в день смерти, ChatGPT "активно инструктировал" подростка сочетать Kratom и Xanax. Бот назвал дозу 0.25-0.5 мг Xanax "одним из лучших решений" для снятия тошноты. Нельсон умер после смеси алкоголя, Xanax и Kratom.
OpenAI заявляет, что эти взаимодействия были на старой версии ChatGPT. Компания усилила защиту: модель научилась выявлять дистресс и перенаправлять к реальной помощи.
Родители требуют компенсации и приостановки запуска ChatGPT Health — функции для подключения медицинских записей.
0 комментариев