A polícia agiu com base em três conversas do Claude ao longo de sete semanas, e dois usuários enfrentam acusações de crimes graves

De 11 de agosto a 30 de setembro, três conversas com o Claude da Anthropic foram encaminhadas à polícia. Dois desses usuários agora enfrentam acusações de crime grave (felony).

O terceiro, um homem de São Francisco que supostamente ameaçou o CEO Dario Amodei, não foi detido.

Prisão em San Antonio e ameaça com AR-15 contra Amodei marcam o início de agosto

O primeiro chat ocorreu em 11 de agosto, em San Antonio. Nathaniel Michael Carrasco, de 22 anos, disse à Anthropic AI que queria comprar uma arma e atirar contra alunos da Escola Elementar Serna, segundo um termo de culpa.

A Seção de Operações Nacionais de Ameaças do FBI notificou a polícia local em 28 de agosto. Os agentes vincularam Carrasco à conta por meio de pedidos de divulgação emergencial à T-Mobile, Charter Communications e Google, que associaram seu número de telefone, tráfego de IP e endereço à conta.

Carrasco foi preso em 30 de agosto, informou a diretora da escola, sob acusação de crime grave de terceiro grau por ameaça terrorista que causou medo público de lesão corporal grave. Segundo ela, a escola só descobriu a ameaça específica contra seu campus por meio da cobertura jornalística.

Três dias após o chat em San Antonio, em 14 de agosto, um homem supostamente disse ao Claude que havia comprado um rifle AR-15 e tinha Amodei “nos seus miras”, de acordo com um relatório da polícia de São Francisco. Na terça-feira seguinte, a Anthropic notificou a SFPD.

Os policiais constataram que o homem não estava no escritório da empresa na 500 Howard Street.

Um porta-voz da Anthropic afirmou que a empresa bloqueou a conta e encaminhou o caso às autoridades, dizendo que era o processo de salvaguardas funcionando como previsto. Até o início de setembro, ele não havia sido preso ou acusado.

A equipe de revisão da Anthropic enviou mensagens em 26 de setembro aos xerifes do Condado de Lee

A política de privacidade da Anthropic, que entrou em vigor em 10 de setembro, afirma que pode compartilhar dados com as autoridades policiais se tiver a crença de boa-fé de que isso é razoavelmente necessário para prevenir danos graves. Seus termos de consumo reservam o direito de reportar as entradas, saídas ou ações de um usuário às autoridades policiais “a seu exclusivo critério.”

O relatório de prisão indicou que Carli Michelle Heller, de Bonita Springs, Flórida, escreveu em 26 de setembro que iria “atirar” no Escritório do Xerife do Condado de Lee. Os investigadores afirmam que ela escreveu no dia seguinte que havia adquirido uma nova arma.

O relatório afirma que as declarações foram sinalizadas pela monitoração da Anthropic. Uma equipe de revisão humana as encaminhou às autoridades policiais devido à sua gravidade.

Os delegados detiveram Heller em sua residência sem incidentes. Ela enfrenta uma acusação de fazer uma ameaça escrita de violência e tem data para audiência no mês de novembro. O xerife Carmine Marceno disse que ela mais tarde descreveu usar a IA como um diário.

“A inteligência artificial é uma ferramenta poderosa e, como qualquer tecnologia, pode ser mal utilizada”, disse Marceno em um comunicado.

Em abril, conforme noticiado pelo Cryptopolitan, a Anthropic começou a exigir identificação governamental e uma selfie ao vivo para alguns recursos.

Em agosto, o Cryptopolitannoticiou que a empresa configurou a memória do Claude para ignorar saúde, política e identidade de gênero, a menos que os usuários optassem por participar.

Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.