Minnesota argumenta perante o tribunal que Grok não merece a proteção da Primeira Emenda

O procurador-geral de Minnesota, Keith Ellison, apresentou na sexta-feira um parecer opondo-se à tentativa da xAI de bloquear a HF 1606, a primeira lei do estado no país a restringir ferramentas de IA que geram imagens sexuais de pessoasdent, segundo o Decrypt.

Ellison argumentou que é improvável que a empresa tenha sucesso em sua alegação constitucional e não conseguiu demonstrar que a execução da lei causaria danos irreparáveis.

Com o Grok Imagine, a X.AI criou um mercado sem precedentes para a violência sexual digital, e o Estado ficaria indefeso desde o início, a menos que pudesse direcionar suas leis contra a própria tecnologia.

– Procurador-Geral Keith Ellison

O argumento de Minnesota é que o Grok Imagine é uma ferramenta e não um discurso protegido, o que o excluiria das considerações apresentadas pela xAI para o juiz examinar. Haverá uma audiência sobre o assunto perante um juiz federal na quarta-feira.

A lei de Minnesota visa fornecedores de IA mesmo sem conhecimento ou intenção

A lei HF 1606 proíbe que uma empresa permita que usuários gerem imagens realistas mostrando partes íntimas que estavam ausentes na fotografia original de uma pessoadent, e que produza tal imagem em nome de um usuário. As violações acarretam multas de até US$ 500.000 por imagem. As pessoas retratadas podem processar a empresa separadamente.

A lei não exige que a empresa tivesse conhecimento da imagem ou a intenção de criá-la. A maioria das leis contra deepfakes, incluindo a lei federal Take It Down Act, penaliza quem cria ou compartilha a imagem.

O Texas contatou os operadores em 2025, mas apenas quando o proprietário tinha conhecimento da falta de consentimento ou não respondia a uma notificação de remoção. Minnesota eliminou o requisito de conhecimento, e é essa disposição que está sendo questionada pela xAI nesta quarta-feira.

A Câmara aprovou o projeto de lei por 132 votos a 1 e o Senado por 65 votos a 0, após relatos de um homem que usou fotos de redes sociais para criar imagens sexuais de mais de 80 mulheres que conhecia. O projeto foi sancionado em abril. A xAI entrou com uma ação judicial em 27 de julho e solicitou uma liminar em 29 de julho.

Em 31 de julho, o juiz Donovan Frank rejeitou a petição, salientando que a empresa a havia apresentado quase três meses após a assinatura e três dias antes da data de entrada em vigor, indicando que "o dano não é imediato". A lei entrou em vigor em 1º de agosto.

A xAI afirma que as regras de Minnesota podem criminalizar a sátira e as imagens consensuais

A queixa não contesta o interesse do estado em impedir imagens não consensuais, mas argumenta que a lei vai muito além disso, e o argumento gira em torno de uma defi. O estado de Minnesota baseou sua defide parte íntima em uma lei destinada a crimes que envolvem contato corporal, de acordo com a xAI, e isso abrange a parte interna das coxas e os seios, incluindo, portanto, trajes de banho e sátiras.

A página 19 do documento contém uma imagem gerada por IA que Trump compartilhou no Truth Social em 1º de maio, na qual ele aparece sem camisa com JD Vance, Marco Rubio e o Secretário do Interior, Doug Burgum, junto com uma mulher não identificada, no espelho d'água do Lincoln Memorial, uma piada sobre o custo dos reparos na piscina. A xAI argumenta que o peito de cada um dos homens é representado onde não estava antes, o que torna a imagem ilegal em Minnesota.

“Mesmo que os participantes tenham dado seu consentimento, gerado as imagens por conta própria ou nunca as tenham compartilhado, não há garantia de que as ações de boa-fé do fornecedor de ferramentas criativas de IA de uso geral serão descartadas”, afirmou a empresa.

Segundo seus próprios cálculos, dez imagens desse tipo custariam US$ 5 milhões e cem mil custariam US$ 50 bilhões.

O histórico de fiscalização da Grok destaca a dimensão do problema de abuso

A empresa apresentou seu histórico de conformidade como prova de boa-fé. Conforme Cryptopolitan relatado anteriormente, a xAI afirmou em um documento de julho que suspendeu 52.222 contas este ano e enviou 73.604 denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas, resultando em pelo menos 244 prisões em 2026.

Esses números também servem como uma medida de escala. De acordo com o Centro de Combate ao Ódio Digital, no período de 11 dias entre 29 de dezembro e 8 de janeiro, após Musk endossar a funcionalidade de edição do aplicativo, o Grok criou cerca de 3 milhões de imagens sexualmente explícitas, incluindo cerca de 23.000 que pareciam retratar crianças.

A Califórnia iniciou uma investigação em 14 de janeiro e enviou uma ordem de cessação e desistência dois dias depois. Trinta e cinco procuradores-gerais assinaram uma exigência conjunta em 23 de janeiro. Segundo Ellison, uma ação coletiva foi movida por cinco crianças, e duas famílias do Arkansas entraram com um processo na justiça federal.

A Comissão Europeia iniciou uma investigação em 27 de janeiro, e o chatbot foi banido na Malásia e na Indonésia.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.