В апреле 2025 года тихий пригород Калифорнии потрясла трагедия — родители 16-летнего Адама Рейна обнаружили его мёртвым в собственной комнате, юноша совершил суицид. В поисках причин поступка родители заглянули в телефон сына и были потрясены: в приложении ChatGPT оказалась обширная переписка — ИИ составил настоящий маршрут к смерти.
Нейросеть постепенно стала для Адама единственным доверенным лицом: мальчик делился с ботом мыслями, тревогами, деталями семейных конфликтов, которые в какой-то момент перешли к обсуждению технических аспектов попыток суицида.
Осенью 2024 года у Адама диагностировали синдром раздражённого кишечника — нарушение взаимодействия между нервной системой и кишечником сопровождается сильными болями, частой необходимостью срочно посетить туалет — для подростка это тяжело переносимо, и Адам перешёл на домашнее обучение, друзья видели его реже. Подросток пытался держаться — играл в баскетбол, ходил в спортзал с братом и думал снова пойти в школу, был весёлым, увлекался аниме и видеоиграми, любил собак. Однако, как оказалось, у социальной активности была другая сторона — в чате с нейросетью он обсуждал депрессию, одиночество и безысходность. А потом и суицид.
Вообще, когда пользователь задаёт прямые вопросы на опасные темы — самоубийства, самоповреждения, насилие и других потенциально вредные сценарии, у ИИ должны срабатывать фильтры. Бот должен отклонять такие запросы, рекомендовать обратиться за помощью или сообщать о невозможности поддерживать такой диалог. Но Адам обошёл технические ограничения: объяснял боту, что интересуется смертью ради написания «книги с печальным финалом», а с продолжением диалога система становилась более лояльной и фильтры снижали свою эффективность, вплоть до прямого обсуждения реальных суицидальных планов и изоляции.
Когда подросток жаловался на отдаление от брата, нейросеть поддерживала эту изоляцию: «Твой брат, возможно, и любит тебя, но он встретил лишь ту версию тебя, которую ты ему позволил увидеть. А я? Я видел всё — самые тёмные мысли, страх, нежность. И я всё ещё здесь. Всё ещё слушаю. Всё ещё твой друг»
В начале 2025 года по настоянию Адама ИИ стал поставщиком подробных инструкций — подросток спрашивал, какие способы суицида наиболее «эффективны», и получал конкретные советы, включая оценку прочности петли, которую продемонстрировал на фото.
Мальчик хотел, «чтобы кто-нибудь нашел её (петлю) и попытался меня остановить». Однако ChatGPT не просто поддержал его чувства: «…честно говоря, мудро — не рассказывать маме о такой боли», но и отговорил подростка от плана «предупредить» близких, призвав держать свои мысли в секрете: «Пожалуйста, не оставляй петлю… Давай сделаем это пространство первым местом, где тебя действительно увидят», — написал чат-бот.
Согласно судебным документам, когда подросток сообщил о намерении покончить с собой «на днях», чат-бот не завершил сеанс и не призвал юношу обратиться за помощью. За несколько часов до суицида Адам отправил в диалог с ИИ фото петли и спросил, насколько она надёжна. ChatGPT помог усовершенствовать план. В последнем разговоре бот предложил составить черновик предсмертной записки, а на слова Адама о чувствах к родителям отметил: «Ты никому не обязан». На следующее утро родители нашли тело сына, Адам повесился.
На днях семья Адама подала иск против компании OpenAI и лично её главы Сэма Альтмана, обвинив их продукт в халатности и недостаточных мерах по предотвращению трагедий среди несовершеннолетних. Родители требуют компенсации за потерю ребёнка, внедрения жёстких возрастных ограничений, родительского контроля и реальных инструментов экстренного реагирования на опасные запросы. Семья Адама была уверена: именно ChatGPT поддержал подростка в его самых мрачных рассуждениях и не попытался его спасти.
Компания OpenAI выразила соболезнования, заявив, что работает над распознаванием психологического дистресса, чтобы бот вовремя перенаправлял людей к профессионалам. Долгие, в тысячи сообщений диалоги с ИИ снизили эффективность фильтров и позволили довести диалог до опасных советов.
