Tokio se suma a la ofensiva global contra Grok por las imágenes abusivas de IA

El viernes, Japón anunció que está investigando a X debido a las imágenes inapropiadas generadas por Grok, el servicio de inteligencia artificial de Musk. El gobierno planea explorar todas las medidas necesarias para detener la creación de imágenes inapropiadas.

El ministro de Seguridad Económica, Kimi Onoda, declaró que la Oficina del Gabinete de Japón solicitó a X que realizara mejoras inmediatas, pero la compañía aún no ha respondido.

Tokio presiona a X para obtener respuestas sobre los controles de Grok

Los funcionarios de Tokio enviaron preguntas escritas a X sobre los pasos a seguir para detener las falsificaciones profundas y las imágenes que violan la privacidad, la propiedad intelectual y los derechos de imagen.

Onoda, quien también es ministra de Estado para la Estrategia de IA, declaró en una conferencia de prensa el viernes que se están considerando todas las opciones, incluyendo acciones legales, si no se observan mejoras. Añadió que responderán si surgen problemas similares en otras de redes sociales .

La ministra afirmó que es preocupante que la gente aún pueda generar este tipo de imágenes. Sin embargo, señaló que la IA en sí no es la culpable. Cree que el gobierno japonés debe explorar diversas soluciones al verdadero problema.

Onoda habló después de que Gran Bretaña y Canadá anunciaran que están avanzando en sus investigaciones sobre Grok.

Japón busca regular la IA, a la vez que busca rivalizar con Estados Unidos y China en este campo vital. Su ley de IA , vigente desde septiembre, no prevé sanciones y limita la acción gubernamental a investigaciones y orientación oficial en caso de infracciones.

Autoridades de todo el mundo actúan contra Grok

Las autoridades de todo el mundo han buscado restringir el chatbot de inteligencia artificial después de que los usuarios descubrieron que podía producir imágenes sexualizadas de mujeres y menores.

Este mes, Grok enfrentó fuertes críticas de usuarios y gobiernos en países desde Malasia hasta Italia por la facilidad con la que podía usarse para alterar fotos de manera sexual o degradante

Filipinas e Indonesia han prohibido temporalmente el acceso a Grok debido a la generación de imágenes explícitas.

Canadá, California, la UE y miembros de la UE como Francia están examinando si las imágenes de Grok infringen las leyes locales.

El miércoles por la noche, xAI anunció cambios para evitar que los usuarios de Grok alteren imágenes de personas reales que usen ropa reveladora como bikinis.

xAI afirmó que restringe a los usuarios según su ubicación la creación de imágenes de personas con ropa reveladora en lugares donde es ilegal, pero no especificó en qué áreas.

Desde entonces, ha limitado sus funciones de generación de imágenes y las ha colocado detrás de un muro de pago.

El miércoles, Elon Musk declaró que no sabía de ninguna imagen de menores desnudos creada por Grok. 

Dijo que no tiene conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna. Obviamente, Grok no genera imágenes espontáneamente, solo lo hace según las solicitudes de los usuarios.

Según Copyleaks, se sube aproximadamente una imagen cada minuto a X. Genevieve Oh, investigadora independiente dent internet, revisó las publicaciones de @Grok en X durante 24 horas. Unas 6700 imágenes por hora generadas por el chatbot fueron marcadas como sexualmente sugerentes o que incitan al desnudo.

Hazte notar donde importa. Publicita en Cryptopolitan Research y llega a los inversores y creadores de criptomonedas más inteligentes.