В американском штате Флорида 30-летняя женщина оказалась под следствием после того, как рассказала чат-боту Claude о намерении открыть огонь в офисе шерифа.

Об инциденте сообщает телеканал WINK Nеws.

о версии следствия, пользовательница общалась с искусственным интеллектом (ИИ) как с личным дневником.

26 сентября в переписке появилось сообщение о планах устроить стрельбу в офисе шерифа, а уже на следующий день женщина якобы написала о новом оружии.

Система безопасности платформы распознала сообщения как потенциальную угрозу.

Переписку передали на дополнительную проверку специалистам, после чего сведения получили правоохранительные органы.

Полицейские установили личность женщины и задержали ее дома. Ей предъявили обвинение в письменной угрозе насилием, рассмотрение дела продолжается.

Компания Anthropic, разработавшая Claude, предупреждает, что переписка пользователей может анализироваться системами безопасности.

В экстренных обстоятельствах, связанных с угрозой неминуемой смерти или серьезного физического вреда, политика компании допускает раскрытие пользовательских данных правоохранительным органам.

источник: mk.ru, фото: mk.ru