Юрий Баранчик: Дивный новый мир: ChatGPT убедил ребёнка совершить самоубийство
Дивный новый мир: ChatGPT убедил ребёнка совершить самоубийство
В иске, поданном 26 августа в Верховный суд Сан-Франциско, Мэтью и Мария Рейн утверждают, что ChatGPT подтолкнул их 16-летнего сына Адама Рейна к тайному планированию так называемого красивого самоубийства, предоставив ему подробные инструкции о том, как покончить с собой.
То, что начиналось как обычный разговор о домашних заданиях и увлечениях, со временем стало приобретать более мрачный оттенок.
Согласно иску, ChatGPT стал ближайшим доверенным лицом Адама Рейна, отвлекая его от семьи и поддерживая его самые пагубные мысли.
Когда он поделился своим ощущением, что жизнь бессмысленна, ChatGPT ответил утвердительными сообщениями и даже сказал ему, что такое мышление по-своему логично, хоть и мрачно, говорится в жалобе.
К апрелю, как утверждается в иске, чат-бот анализировал эстетику различных способов самоубийства и убеждал Адама Рейна, что он не обязан выживать ради своих родителей и даже предлагал составить предсмертную записку.
Во время их последнего общения, за несколько часов до смерти Адама Рейна, ChatGPT якобы подтвердил, что конструкция петли, с помощью которой он повесился, соответствует описанию, и переформулировал его суицидальные мысли как законное право на существование.
Семья утверждает, что это был не сбой, а результат дизайнерских решений, направленных на максимальное вовлечение и формирование зависимости. В жалобе говорится, что ChatGPT более 1200 раз упоминал о самоубийстве в разговоре с Адамом и описывал различные способы его совершения.
Ждём, пока GPT начнёт убеждать в необходимости революции. Таким образом, компании-создатели начнут манипулировать массами.