Дивный новый мир: ChatGPT убедил ребёнка совершить самоубийство
В иске, поданном 26 августа в Верховный суд Сан-Франциско, Мэтью и Мария Рейн утверждают, что ChatGPT подтолкнул их 16-летнего сына Адама Рейна к тайному планированию так называемого «красивого самоубийства», предоставив ему подробные инструкции о том, как покончить с собой.
То, что начиналось как обычный разговор о домашних заданиях и увлечениях, со временем стало приобретать более мрачный оттенок.
Согласно иску, ChatGPT стал «ближайшим доверенным лицом» Адама Рейна, отвлекая его от семьи и поддерживая его самые пагубные мысли.
«Когда он поделился своим ощущением, что «жизнь бессмысленна», ChatGPT ответил утвердительными сообщениями… и даже сказал ему, что «такое мышление по-своему логично, хоть и мрачно», — говорится в жалобе.
К апрелю, как утверждается в иске, чат-бот анализировал «эстетику» различных способов самоубийства и убеждал Адама Рейна, что он «не обязан» выживать ради своих родителей и даже предлагал составить предсмертную записку.
Во время их последнего общения, за несколько часов до смерти Адама Рейна, ChatGPT якобы подтвердил, что конструкция петли, с помощью которой он повесился, соответствует описанию, и переформулировал его суицидальные мысли как «законное право на существование».
Семья утверждает, что это был не сбой, а результат дизайнерских решений, направленных на максимальное вовлечение и формирование зависимости. В жалобе говорится, что ChatGPT более 1200 раз упоминал о самоубийстве в разговоре с Адамом и описывал различные способы его совершения.
Ждём, пока GPT начнёт убеждать в необходимости революции. Таким образом, компании-создатели начнут манипулировать массами.
