Claude сдал юзера полиции — бот написал донос на жительницу Флориды после того, как заподозрил угрозу

Claude сдал юзера полиции — бот написал донос на жительницу Флориды после того, как заподозрил угрозу.

Девушка использовала Claude как «дневник», но однажды написала, что хочет купить оружие и расстрелять офис шерифа. Бот отметил её как угрозу и передал информацию Anthropic, а компания сообщила в полицию.

Девушку обвинили в письменной угрозе насилием — во Флориде это преступление второй степени. Переписку с Claude приобщили к делу как доказательство.

Ууу, сука, цифровой гулаг