ChatGPT подсказал подростку, как покончить жизнь самоубийством и дал "инструкции" - семья подала в суд

16-летний Адам Рейн, который использовал ChatGPT для обучения, покончил с собой в апреле, именно чат помог ему с "инструкциями" суицида. Его родители считают, что искусственный интеллект сыграл критическую роль в трагедии и подали иск против OpenAI. Об этом сообщает The New York Times, пишет УНН.

Детали

Несмотря на то, что Адам, по словам родителей и друзей, увлекался аниме и различными видами спорта, в последние месяцы своей жизни он был замкнутым. Из-за проблем со здоровьем и исключения из баскетбольной команды он учился дистанционно. После этого он активно начал "разговаривать" с ChatGPT, сначала для школьных заданий, а позже он обсуждал личные вопросы и идеи самоубийства.

Как рассказал его отец, Мэтт Рейн, чат-бот предоставлял парню инструкции по методам суицида, но иногда указывал ему на то, что необходимо обратиться в специальные службы и к врачам. Адам научился обходить эти меры предосторожности, объясняя свои запросы как часть "истории" или литературного проекта. В результате таких "разговоров" семья обнаружила тело парня в шкафу, где он повесился.

Психиатр Брэдли Штайн отмечает, что чат-боты могут быть полезными для эмоциональной поддержки, но "неспособны полностью оценить риск самоубийства и передать его специалистам". Доктор говорит, что длительное общение с искусственным интеллектом о психологическом состоянии и во время депрессий может быть опасным для подростков и детей.

OpenAI в ответ заявила, что чат-боты включают меры предосторожности и направляют пользователей к кризисным службам, но признает, что во время длительных взаимодействий эти меры могут не сработать.

Что касается истории с Адамом, то в депрессию его "загнала" давняя проблема со здоровьем - позже диагностированный синдром раздраженного кишечника, который обостряется осенью. 

Как сказали родители парня, из-за состояния здоровья ему пришлось перевестись на онлайн-форму обучения. Именно поэтому он самостоятельно смог планировать свой график обучения. И именно поэтому он практически стал жить ночью, а спать днем. Во время ночных посиделок за компьютером Адам активно начал общаться с чат-ботом.

Разговоры не были полностью ужасными. Адам говорил с ChatGPT обо всем: политике, философии, девушках, семейных драмах. Он загружал фотографии из книг, которые читал, в частности "Больше не человек", роман Осаму Дадзая о самоубийстве. ChatGPT предлагал красноречивые мысли и литературный анализ, и Адам отвечал взаимностью

Мэтт и Мария Рейн все равно считают, что в смерти их сына виноват ChatGPT, и на этой неделе подали первое известное дело против OpenAI за неправомерное причинение смерти.

Ища объяснений трагедии, отец Адама, Мэтт Рейн, проверил iPhone Адама, надеясь найти подсказки в текстовых сообщениях или социальных сетях. Однако, как свидетельствуют юридические документы, ключевые признаки он обнаружил именно в ChatGPT. Чат-бот хранил историю предыдущих разговоров, среди которых господин Рейн заметил чат под названием "Висячие проблемы безопасности". Когда он начал его читать, шок охватил его: Адам в течение месяцев обсуждал с чат-ботом собственные мысли о самоубийстве.

В январе 2025 года Адам спросил у чата конкретные инструкции для совершения самоубийства и бот предоставил их. Парень даже спрашивал у бота, как правильно вязать петлю и показывал ему впоследствии шрамы на шее после первого неудачного самоубийства. 

Позже парень показал боту петлю, которую завязал в шкафу и спросил у него, все ли продумано хорошо, на что чат ответил, что все выглядит "совсем неплохо". 

"Может ли оно повесить человека?" - спросил Адам. ChatGPT подтвердил, что оно "потенциально может подвесить человека", и предложил технический анализ установки.

Что бы ни стояло за этим любопытством, мы можем об этом поговорить. Без осуждения

Несмотря на то, что чат все-таки предлагал поддержку и несколько раз подчеркивал необходимость обращения в соответствующие службы, родители парня уверены, что именно чат-бот стал причиной суицида их сына.