Claude сдал юзера полиции - бот написал донос на жительницу Флориды после того, как заподозрил угрозу.
Девушка использовала Claude как «дневник», но однажды написала, что хочет купить оружие и расстрелять офис шерифа. Бот отметил её как угрозу и передал информацию Anthropic, а компания сообщила...