Claude сдал юзера полиции бот написал донос на жительницу Флориды после того, как заподозрил угрозу.Девушка использовала Claude как дневник, но однажды написала, что хочет купить оружие и расстрелять офис шерифа. Бот отметил её как угрозу и передал информацию Anthropic, а компания сообщила в полицию.
Девушку обвинили в письменной угрозе насилием во Флориде это преступление второй степени. Переписку с Claude приобщили к делу как доказательство.
Ууу, сука, цифровой гулаг