O procurador-geral da Califórnia ordenou que a xAI interrompa a distribuição de imagens deepfake

O procurador-geral da Califórnia, Rob Bonta, enviou uma notificação extrajudicial à xAI de Elon Musk, exigindo que a empresa pare imediatamente de produzir e disseminar imagens deepfake ofensivas geradas por seu chatbot Grok. 

O Procurador-Geral da Califórnia divulgou a carta de cessação e desistência na sexta-feira em resposta a alegações de que o Grok estava sendo usado para criar conteúdo ilegal envolvendo crianças e fotografias de adultos sem consentimento, o que motivou uma investigação do estado da Califórnia. Bonta argumentou que é ilegal criar, distribuir, publicar e exibir CSAM (material de abuso sexual infantil).

O procurador-geral da Califórnia processa a xAI por suposto uso indevido do Grok

No início desta semana, o gabinete do procurador-geral da Califórnia declarou que estava investigando a xAI devido a alegações de que o chatbot da startup, Grok, estava sendo usado para produzir imagens inapropriadas e sem consentimento de mulheres e crianças. Em resposta, o governo enviou à empresa uma notificação extrajudicial exigindo a cessação das atividades.

“Hoje, enviei à xAI uma notificação extrajudicial exigindo que a empresa cesse imediatamente a criação e distribuição de deepfakes, imagens íntimas não consensuais e material ilegal de abuso infantil. A criação desse material é ilegal. Espero que a xAI cumpra imediatamente a exigência. A Califórnia tem tolerância zero para imagens ilegais de abuso infantil.”

– Rob Bonta , Procurador-Geral da Califórnia.

O gabinete do Procurador-Geral afirmou ainda que a xAI parece estar "facilitando a produção em larga escala" de fotos não consensuais e inapropriadas, que são então "usadas para assediar mulheres e meninas na internet". Segundo o gabinete do Procurador-Geral, uma pesquisa constatou que mais da metade das 20.000 fotos produzidas pela xAI entre o Natal e o Ano Novo mostravam pessoas vestindo pouca roupa, algumas das quais pareciam crianças.

Rob Bonta afirmou no anúncio que as práticas corporativas violavam as leis civis da Califórnia, incluindo a seção 1708.86 do Código Civil da Califórnia, as seções 311 e seguintes e 647(j)(4) do Código Penal da Califórnia e a seção 17200 do Código de Negócios e Profissões da Califórnia.

O Departamento de Justiça da Califórnia prevê que a xAI reafirmará seus esforços para abordar essas questões e tomará medidas imediatas para resolvê-las nos próximos cinco dias.

No entanto, a conta de segurança do X já havia condenado esse tipo de comportamento do usuário. Em 4 de janeiro, esclareceu que toma medidas contra conteúdo ilícito no X, como CSAM (abusivo de pornografia infantil), excluindo-o, suspendendo contas permanentemente defi colaborando com as autoridades policiais e governos municipais, conforme necessário.

Vale destacar que, em 4 de janeiro, Elon Musk alertou que qualquer pessoa que usar ou incentivar o Grok a criar conteúdo ilegal enfrentará as mesmas consequências como se tivesse feito o upload do conteúdo.

Procuradores-gerais intensificam a pressão sobre empresas de IA em relação à segurança infantil

O desenvolvimento de ferramentas gratuitas de IA generativa resultou em um aumento preocupante de conteúdo adulto não consensual. Esse problema tem afetado diversas plataformas, não apenas a X.

Por exemplo, o Procurador-Geral Bonta e o Procurador-Geral Jennings de Delaware reuniram-se com a OpenAI em setembro do ano passado para expressar suas sérias preocupações sobre o crescente número de relatos a respeito da interação dos produtos da OpenAI com jovens.

Em agosto do mesmo ano, o Procurador-Geral Bonta, juntamente com outros 44 Procuradores-Gerais, enviou uma carta a 12 empresas líderes em IA após relatos de interações inapropriadas entre chatbots de IA e crianças. As cartas foram enviadas para Anthropic, Apple, Chai AI, Google, Luka Inc., Meta , Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e xAI.

A Procuradora-Geral Bonta e os 44 Procuradores-Gerais informaram às empresas, por meio de carta, que estados de todo o país estavam monitorando de perto como as empresas desenvolvem suas políticas de segurança de IA. Eles também enfatizaram que essas empresas têm um dever legal para com as crianças como consumidoras, uma vez que lucram com o uso de seus produtos por crianças. 

Em 2023, o Procurador-Geral Bonta juntou-se a uma coligação bipartidária de 54 estados e territórios para enviar uma carta aos líderes do Congresso, defendendo a criação de um comitê de especialistas para investigar o potencial uso da IA para explorar crianças por meio do CSAM (Abuso Sexual Infantil em Ambientes Íntimos). 

A coalizão solicitou que a comissão de especialistas sugerisse leis para proteger as crianças de tais maus-tratos. "A produção de CSAM cria um registro permanente da vitimização da criança", segundo o Departamento de Justiça dos EUA.

Não leia apenas notícias sobre criptomoedas. Entenda-as. Assine nossa newsletter. É grátis .