Tóquio se junta à repressão global contra a Grok por imagens abusivas de IA

Na sexta-feira, o Japão anunciou que está investigando o caso X devido às imagens impróprias geradas pelo serviço de IA de Musk, o Grok. O governo planeja explorar todas as medidas para impedir a criação de imagens impróprias.

O ministro da Segurança Econômica, Kimi Onoda, afirmou que o Gabinete do Governo do Japão solicitou à empresa X que implementasse melhorias imediatas, mas a empresa ainda não respondeu.

Tóquio pressiona a X por respostas sobre os controles de Grok

Autoridades de Tóquio enviaram perguntas por escrito a X sobre medidas para impedir a criação de deepfakes e imagens que violem a privacidade, a propriedade intelectual e os direitos de imagem.

Onoda, que também é ministra de Estado para a Estratégia de IA, afirmou em uma coletiva de imprensa na sexta-feira que todas as opções, incluindo medidas legais, estão sendo consideradas caso não haja melhorias. Ela acrescentou que responderão se problemas semelhantes surgirem em outras de mídia social .

A ministra afirmou ser preocupante que as pessoas ainda consigam gerar imagens desse tipo. No entanto, ressaltou que a IA em si não é a culpada. Ela acredita que o governo japonês precisa explorar diversas soluções para o verdadeiro problema.

Onoda falou depois que a Grã-Bretanha e o Canadá anunciaram que estão avançando em suas investigações sobre o Grok.

O Japão busca regulamentar a IA, visando rivalizar com os EUA e a China nesse campo vital. Sua lei de IA , em vigor desde setembro, não prevê penalidades e restringe a atuação do governo a investigações e orientações oficiais para casos de violação.

Autoridades do mundo todo tomam medidas contra a Grok

Autoridades em todo o mundo têm procurado restringir o chatbot de IA depois que usuários descobriram que ele podia produzir imagens sexualizadas de mulheres e menores de idade.

Este mês, o Grok enfrentou duras críticas de usuários e governos em países que vão da Malásia à Itália, devido à facilidade com que podia ser usado para alterar fotos de forma sexual ou degradante

As Filipinas e a Indonésia proibiram temporariamente o acesso ao Grok devido à geração de imagens explícitas.

O Canadá, a Califórnia, a UE e membros da UE como a França estão analisando se as imagens da Grok violam as leis locais.

Na noite de quarta-feira, a xAI anunciou mudanças para impedir que usuários do Grok alterem imagens de pessoas reais usando roupas reveladoras, como biquínis.

A xAI afirmou que restringe os usuários, com base na localização, de criar imagens de pessoas com roupas reveladoras em locais onde isso é ilegal, mas não especificou quais áreas.

Desde então, limitou seus recursos de geração de imagens e os colocou atrás de um paywall.

Na quarta-feira, Elon Musk afirmou que não tinha conhecimento de nenhuma imagem de nudez de menores criada pela Grok. 

Ele afirmou que “não tem conhecimento de nenhuma imagem de menores de idade nus gerada pelo Grok. Literalmente zero. Obviamente, o Grok não gera imagens espontaneamente, ele faz isso apenas de acordo com as solicitações dos usuários.”

De acordo com o Copyleaks, cerca de uma imagem é carregada a cada minuto no X. Genevieve Oh, uma pesquisadora independente dent internet, analisou as postagens de @Grok no X durante 24 horas. Cerca de 6.700 imagens por hora geradas pelo chatbot foram sinalizadas como sexualmente sugestivas ou insinuantes.

Seja visto onde importa. Anuncie na Cryptopolitan Research e alcance os investidores e criadores mais experientes em criptomoedas.