O Reino Unido avalia banir o aplicativo X após alegações de que ele produz imagens inapropriadas

Elon Musk está considerando a possibilidade de banir o aplicativo X no Reino Unido devido a supostas imagens impróprias que apareceram online na dark web, com usuários alegando que elas foram geradas pelo chatbot de IA Grok. O órgão regulador da internet do Reino Unido, Ofcom, foi solicitado a apresentar todas as opções, incluindo multas que somam bilhões ou até mesmo o bloqueio total do acesso ao aplicativo X. 

A organização beneficente Internet Watch Foundation (IWF) revelou que seus analistas descobriram imagens de meninas entre 11 e 13 anos, aparentemente geradas pelo Grok em um site da dark web. De acordo com o órgão regulador de mídia do Reino Unido, o Office of Communications (Ofcom), as imagens constituem material ilegal de abuso sexual infantil. 

Kier Starmer insta a Ofcom a considerar todas as opções

O primeiro-ministro britânico, Kier Starmer, pediu ao Escritório de Comunicações (Ofcom), órgão regulador da internet no Reino Unido, que considerasse todas as opções ao analisar o caso de Musk, após o aplicativo Grok, da sua empresa xAI, supostamente ter gerado imagens criminosas de mulheres e crianças jovens. De acordo com uma reportagem do Telegraph, a Lei de Segurança Online do Reino Unido permite que o país multe o aplicativo xAI em bilhões, ou até mesmo bloqueie o acesso a ele na Grã-Bretanha. 

O aplicativo X tem mais de 650 milhões de usuários em todo o mundo, com pelo menos 20 milhões no Reino Unido. O primeiro-ministro Starmer alertou no programa Greatest Hits Radio que o X deveria se organizar e remover o conteúdo, acrescentando que medidas serão tomadas contra o aplicativo de Musk porque ele é simplesmente intolerável. Ele fez o alerta após a aparição de diversas imagens de mulheres e crianças nuas e outras de biquíni, supostamente geradas pelo Grok .

“A X precisa tomar providências em relação a isso, e a Ofcom tem nosso total apoio para tomar medidas a respeito. Isso está errado. É ilegal. Não vamos tolerar. Solicitei que todas as opções sejam consideradas.”

-Kier Starmer, primeiro-ministro do Reino Unido 

Até o momento, espera-se que o órgão regulador siga o devido processo legal antes de aplicar a proibição, incluindo investigações e decisões provisórias. Se a X não atender às preocupações da Ofcom, o órgão regulador poderá tentar bloquear o site no Reino Unido. A Ofcom já entrou em contato com a plataforma de mídia social esta semana, observando que poderia iniciar uma investigação sobre as imagens. 

Musk acredita que a intenção da OSA é suprimir o povo

Musk já criticou a Lei de Segurança Online (OSA) do Reino Unido, alegando que sua intenção é suprimir a liberdade de expressão das pessoas. Segundo Musk, a OSA britânica corre o risco de infringir a liberdade de expressão por meio de suas medidas para proteger crianças de conteúdo prejudicial. Musk observou que as intenções "louváveis" da lei incluem a implementação rigorosa por meio da Ofcom.

Alexander Ngaire, chefe da linha direta da organização beneficente Internet Watch Foundation, disse à BBC que ferramentas como o Grok corriam o risco de levar imagens de IA com conteúdo sexual explícito para crianças à mídia convencional. Ela classificou o material como Categoria C segundo a legislação do Reino Unido, a categoria mais baixa para fins criminais. Ela acrescentou que o usuário que carregou as imagens havia usado uma ferramenta de IA diferente, não o Grok, para criar uma imagem de Categoria A, considerada o material criminoso mais grave.

Segundo Ngaire, a IWF está preocupada com a facilidade e rapidez com que as pessoas conseguem gerar material de abuso sexual infantil (CSAM) com qualidade fotorrealista. A fundação tem como objetivo remover esse material da internet por meio de uma linha direta para denúncias de CSAM suspeitos, onde seus analistas avaliam sua legalidade e gravidade. Os analistas da IWF constataram que o material aparecia apenas na dark web e não foi encontrado na plataforma X.

Segundo a Grok, serão tomadas medidas contra conteúdo ilegal em sua plataforma, incluindo CSAM (sensibilização sexual infantil), por meio da remoção do conteúdo e suspensão permanente de contas, além da colaboração com governos locais e autoridades policiais quando necessário. A plataforma social alerta que qualquer pessoa que incitar a Grok a criar conteúdo ilegal enfrentará as mesmas consequências como se o tivesse publicado. 

Se você está lendo isso, já está na frente. Acompanhe nossa newsletter .