Uma mulher de 30 anos, identificada como Carli Heller, foi presa na Flórida (EUA) após confessar a um modelo de inteligência artificial que planejava atacar o gabinete do xerife local. A troca de mensagens ocorreu no chatbot Claude, e o alerta foi repassado diretamente à polícia pela Anthropic, empresa desenvolvedora da IA.
Monitoramento e denúncia
De acordo com o relatório da polícia, os sistemas da Anthropic monitoram as interações em busca de expressões e conteúdos ameaçadores. Quando um caso é considerado grave, o material é encaminhado para a revisão de uma equipe humana, que, neste episódio, decidiu acionar as autoridades imediatamente.
Carli, que chegou a afirmar no chat ter conseguido uma nova arma no dia seguinte à primeira ameaça, foi detida em sua residência sem resistência. À polícia, ela alegou que usava a inteligência artificial como uma espécie de “diário pessoal”, sem se dar conta de que o espaço privado contava com protocolos de leitura e segurança.
Implicações legais e privacidade
A acusação contra a mulher baseia-se em uma lei do estado da Flórida que classifica como crime de segundo grau o envio ou publicação eletrônica de ameaças de morte, promoção de tiroteios em massa ou atos terroristas. A pena para o crime pode chegar a 15 anos de prisão.
Embora a Anthropic não tenha comentado o caso publicamente, a política de privacidade da empresa, atualizada em 10 de setembro, permite o compartilhamento de informações dos usuários com as autoridades sempre que houver a crença, de boa-fé, de que a medida é necessária para evitar danos graves a pessoas ou propriedades.
