A Comissão Europeia inicia um processo formal contra o chatbot Grok AI da xAI

A Comissão Europeia abriu um processo formal contra a plataforma de redes sociais X, de Elon Musk, depois de se ter descoberto que o seu chatbot de inteligência artificial, Grok, produzia imagens sexuais de pessoas reais sem a sua autorização, incluindo imagens de crianças.

Usuários do aplicativo X têm criado versões alteradas por inteligência artificial de fotografias reais, solicitando ao Grok que as criasse. Um estudo divulgado na semana passada pelo Centro de Combate ao Ódio Digital revelou que o Grok produziu aproximadamente três milhões de imagens deepfake de mulheres e crianças em apenas alguns dias.

A controvérsia gerou pedidos de investigação em vários países. Na Irlanda , diversos ministros do governo encerraram suas contas no LinkedIn em resposta.

Regina Doherty, membro do Parlamento Europeu pelo partido Fine Gael, confirmou a decisão da Comissão contra a empresa em um comunicado divulgado esta manhã. Ela afirmou apoiar a decisão de iniciar uma investigação formal.

“Quando surgem relatos credíveis de sistemas de IA sendo usados de maneiras que prejudicam mulheres e crianças, é essencial que a legislação da UE seja examinada e aplicada sem demora”, disse Doherty.

Ela acrescentou que o caso levanta sérias preocupações sobre se as plataformas estão cumprindo suas responsabilidades legais de verificar riscos e impedir a disseminação de material ilegal e prejudicial.

Doherty enfatizou que a investigação precisa resultar em consequências reais.

“Nenhuma empresa que opera na UE está acima da lei”, afirmou ela.

Ela também salientou que a situação revela problemas maiores na forma como a nova tecnologia de IA está sendo regulamentada e monitorada, pedindo que sejam tomadas mais medidas a nível da UE.

“Este caso sublinha a razão pela qual a Lei da IA deve permanecer uma legislação dinâmica. Se ficarem evidentes lacunas na aplicação ou na supervisão, é nossa responsabilidade corrigi-las. As leis da UE devem ser aplicáveis em tempo real quando ocorrem danos graves”, afirmou Doherty.

Investigação adiada devido à crise na Groenlândia

Segundo o jornal alemão Handelsblatt, a Comissão Europeia planejava iniciar o processo sob a Lei de Serviços Digitais da UE na última segunda-feira, mas a decisão foi adiada devido às ameaças do presidente dos EUA, dent , de anexar a Groenlândia.

Esta não é a primeira vez que a X enfrenta problemas com os reguladores da UE. Em dezembro de 2025, a plataforma recebeu uma multa de 120 milhões de euros da UE por violar a Lei de Serviços Digitais. As violações incluíam selos azuis enganosos, falta de transparência na publicidade e impedimento do acesso de pesquisadores à plataforma.

Autoridades do governo Trump setronfortemente sobre a multa. O secretário de Estado Marco Rubio e o vice-dent JD Vance a criticaram duramente, classificando-a como um ataque às plataformas tecnológicas americanas.

Foco na avaliação de riscos e na moderação de conteúdo

A investigação mais recente centra-se especificamente em saber se a empresa X avaliou corretamente os riscos do seu chatbot de IA e se tomou medidas suficientes para impedir a criação e disseminação de conteúdo prejudicial. A Lei dos Serviços Digitais exige que as grandes plataformas onlinedente abordem os riscos relacionados com conteúdo ilegal e danos para os utilizadores.

A rápida produção de um volume tão grande de imagens impróprias em um período tão curto de tempo acendeu o alerta entre defensores da segurança digital e legisladores.

A situação tornou-se um caso exemplar para avaliar como os regulamentos da UE lidarão com as tecnologias emergentes de IA. Embora a Lei de IA tenha sido aprovada para regulamentar os sistemas de inteligência artificial, este caso está sendo tratado com base na Lei de Serviços Digitais, que abrange as responsabilidades das plataformas online.

A investigação poderá resultar em multas adicionais ou na exigência de que a X altere o modo como a Grok opera. A Comissão tem o poder de impor penalidades de até seis por cento da receita anual global de uma empresa por violações graves da Lei de Serviços Digitais.

A empresa X ainda não se pronunciou publicamente sobre a nova investigação. A forma como a empresa lidará com a situação será acompanhada de perto, enquanto outros países avaliam suas próprias respostas regulatórias . Diversas nações já exigiram medidas urgentes para lidar com a capacidade do chatbot de criar imagens impróprias.

Não leia apenas notícias sobre criptomoedas. Entenda-as. Assine nossa newsletter. É grátis .