España investiga a X, Meta y TikTok por supuestos contenidos de abuso infantil con IA

España ha iniciado acciones legales contra X, Meta y TikTok por afirmar que sus modelos de inteligencia artificial ayudaron a crear y difundir material de abuso sexual infantil.

El presidente del Gobierno español, Pedro Sánchez, anunció el martes que el Consejo de Ministros invocará el artículo 8 del Estatuto Orgánico del Ministerio Fiscal. Escribió:

“Hoy, el Consejo de Ministros invocará el artículo 8 del Estatuto Orgánico del Ministerio Público para solicitar que se investiguen los delitos que X, Meta y TikTok podrían estar cometiendo mediante la creación y difusión de pornografía infantil a través de su IA”

Pedor añadió: «Estas plataformas están atacando la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no puede permitirlo. La impunidad de los gigantes debe terminar»

Dos semanas antes de esta solicitud legal, Pedro había compartido nuevos planes para abordar el abuso en línea en España, prometiendo que bloquearía el acceso a las redes sociales para cualquier persona menor de 16 años.

En noviembre, Pedro dijo que el parlamento español investigaría a Meta por posibles violaciones de privacidad que afectan a los usuarios de Facebook e Instagram.

Los datos de la Fundación Internet Watch, con sede en el Reino Unido, muestran la rapidez con la que crece el problema. El año pasado, detectó 3440 vídeos de abuso sexual infantil generados por IA. El año anterior, solo reportó 13.

Europa continúa endureciendo la aplicación de leyes contra las grandes empresas tecnológicas

La acción de España agrava la creciente tensión entre los gobiernos europeos y las grandes empresas tecnológicas estadounidenses. Estas empresas cuentan con el apoyo de la administración de Donald Trump, el 47.ºdent de Estados Unidos, elegido en 2024 y en el cargo en 2026.

Los líderes europeos argumentan que las plataformas deben proteger a los usuarios. Políticos y ejecutivos tecnológicos estadounidenses argumentan que una regulación estricta podría limitar la libertad de expresión. El desacuerdo se está dirimiendo ahora en tribunales y agencias reguladoras.

En diciembre, la Unión Europea multó a X con 120 millones de euros (unos 140 millones de dólares) en virtud de la Ley de Servicios Digitales. Fue la primera sanción impuesta bajo dicha ley. Este mes, la policía francesa registró las oficinas locales de X como parte de una investigación por ciberdelito relacionada con la difusión de pornografía infantil y la negación del Holocausto en la plataforma.

La Comisión de Protección de Datos de Irlanda también ha intervenido. El organismo regulador, encargado de hacer cumplir el Reglamento General de Protección de Datos de la Unión Europea, anunció el lunes por la noche la apertura de una investigación formal sobre la creación y publicación de imágenes sexualizadas "potencialmente dañinas" realizadas por Grok.

La preocupación es que estas imágenes puedan haber implicado el procesamiento de datos personales pertenecientes a usuarios en la UE.

Grok está integrado directamente en las redes sociales de X. Fue desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk, que adquirió X el año pasado. A principios de este mes, xAI se fusionó con SpaceX, la empresa de cohetes de Musk. La operación creó un grupo combinado valorado en 1,5 billones de dólares.

La investigación irlandesa es la última medida tomada por reguladores de todo el mundo contra X. A principios de enero, se generaron miles de imágenes deepfake sexualizadas de mujeres usando Grok. Las imágenes se difundieron rápidamente en línea. La reacción fue inmediata. Usuarios, expertos en seguridad en línea y políticos reaccionaron contron.

Graham Doyle, comisionado adjunto del regulador irlandés, afirmó que la agencia ya se había puesto en contacto con X tras la publicación de los primeros informes en los medios hace semanas. Añadió que dichos informes denunciaban que los usuarios podían incitar a la cuenta @Grok en X a generar imágenes sexualizadas de personas reales, incluidos niños.

¿Quieres que tu proyecto esté presente en las mentes más brillantes del mundo de las criptomonedas? Preséntalo en nuestro próximo informe del sector, donde los datos se combinan con el impacto.