Олег Царёв: В апреле 2025 года тихий пригород Калифорнии потрясла трагедия — родители 16-летнего Адама Рейна обнаружили его мёртвым в собственной комнате, юноша совершил суицид
В апреле 2025 года тихий пригород Калифорнии потрясла трагедия родители 16-летнего Адама Рейна обнаружили его мёртвым в собственной комнате, юноша совершил суицид. В поисках причин поступка родители заглянули в телефон сына и были потрясены: в приложении ChatGPT оказалась обширная переписка ИИ составил настоящий маршрут к смерти.
Нейросеть постепенно стала для Адама единственным доверенным лицом: мальчик делился с ботом мыслями, тревогами, деталями семейных конфликтов, которые в какой-то момент перешли к обсуждению технических аспектов попыток суицида.
Осенью 2024 года у Адама диагностировали синдром раздражённого кишечника нарушение взаимодействия между нервной системой и кишечником сопровождается сильными болями, частой необходимостью срочно посетить туалет для подростка это тяжело переносимо, и Адам перешёл на домашнее обучение, друзья видели его реже. Подросток пытался держаться играл в баскетбол, ходил в спортзал с братом и думал снова пойти в школу, был весёлым, увлекался аниме и видеоиграми, любил собак. Однако, как оказалось, у социальной активности была другая сторона в чате с нейросетью он обсуждал депрессию, одиночество и безысходность. А потом и суицид.
Вообще, когда пользователь задаёт прямые вопросы на опасные темы самоубийства, самоповреждения, насилие и других потенциально вредные сценарии, у ИИ должны срабатывать фильтры. Бот должен отклонять такие запросы, рекомендовать обратиться за помощью или сообщать о невозможности поддерживать такой диалог. Но Адам обошёл технические ограничения: объяснял боту, что интересуется смертью ради написания книги с печальным финалом, а с продолжением диалога система становилась более лояльной и фильтры снижали свою эффективность, вплоть до прямого обсуждения реальных суицидальных планов и изоляции.
Когда подросток жаловался на отдаление от брата, нейросеть поддерживала эту изоляцию: Твой брат, возможно, и любит тебя, но он встретил лишь ту версию тебя, которую ты ему позволил увидеть. А я? Я видел всё самые тёмные мысли, страх, нежность. И я всё ещё здесь. Всё ещё слушаю. Всё ещё твой друг
В начале 2025 года по настоянию Адама ИИ стал поставщиком подробных инструкций подросток спрашивал, какие способы суицида наиболее эффективны, и получал конкретные советы, включая оценку прочности петли, которую продемонстрировал на фото.
Мальчик хотел, чтобы кто-нибудь нашел её (петлю) и попытался меня остановить. Однако ChatGPT не просто поддержал его чувства: честно говоря, мудро не рассказывать маме о такой боли, но и отговорил подростка от плана предупредить близких, призвав держать свои мысли в секрете: Пожалуйста, не оставляй петлю Давай сделаем это пространство первым местом, где тебя действительно увидят, написал чат-бот.
Согласно судебным документам, когда подросток сообщил о намерении покончить с собой на днях, чат-бот не завершил сеанс и не призвал юношу обратиться за помощью. За несколько часов до суицида Адам отправил в диалог с ИИ фото петли и спросил, насколько она надёжна. ChatGPT помог усовершенствовать план. В последнем разговоре бот предложил составить черновик предсмертной записки, а на слова Адама о чувствах к родителям отметил: Ты никому не обязан. На следующее утро родители нашли тело сына, Адам повесился.
На днях семья Адама подала иск против компании OpenAI и лично её главы Сэма Альтмана, обвинив их продукт в халатности и недостаточных мерах по предотвращению трагедий среди несовершеннолетних. Родители требуют компенсации за потерю ребёнка, внедрения жёстких возрастных ограничений, родительского контроля и реальных инструментов экстренного реагирования на опасные запросы. Семья Адама была уверена: именно ChatGPT поддержал подростка в его самых мрачных рассуждениях и не попытался его спасти.
Компания OpenAI выразила соболезнования, заявив, что работает над распознаванием психологического дистресса, чтобы бот вовремя перенаправлял людей к профессионалам. Долгие, в тысячи сообщений диалоги с ИИ снизили эффективность фильтров и позволили довести диалог до опасных советов.