La Comisión Europea inicia un procedimiento formal contra el chatbot de inteligencia artificial Grok de xAI

La Comisión Europea ha abierto un procedimiento formal contra la plataforma de redes sociales X de Elon Musk después de que se descubriera que su chatbot de inteligencia artificial Grok producía imágenes sexuales de personas reales sin su permiso, incluidas fotografías de niños.

Usuarios de X han estado creando versiones de fotografías reales alteradas por IA, pidiéndole a Grok que las creara. Un estudio publicado la semana pasada por el Centro para la Lucha contra el Odio Digital reveló que Grok creó aproximadamente tres millones de imágenes deepfake de mujeres y niños en tan solo unos días.

La controversia ha provocado solicitudes de investigación en varios países. En Irlanda , varios ministros del gobierno han cerrado sus cuentas X como respuesta.

Regina Doherty, diputada del Fine Gael al Parlamento Europeo, confirmó la decisión de la Comisión contra la empresa en un comunicado publicado esta mañana. Doherty manifestó su apoyo a la decisión de iniciar una investigación formal.

“Cuando surgen informes creíbles sobre el uso de sistemas de inteligencia artificial de formas que perjudican a mujeres y niños, es esencial que se examine y aplique la legislación de la UE sin demora”, afirmó Doherty.

Agregó que el caso plantea serias preocupaciones sobre si las plataformas están cumpliendo con sus responsabilidades legales de verificar los riesgos y detener la propagación de material ilegal y dañino.

Doherty enfatizó que la investigación debe tener consecuencias reales.

“Ninguna empresa que opera en la UE está por encima de la ley”, afirmó.

También señaló que la situación muestra problemas mayores en cómo se regula y monitorea la nueva tecnología de IA, y pidió que se tomen más medidas a nivel de la UE.

Este caso subraya por qué la Ley de IA debe seguir siendo una ley vigente. Si se detectan deficiencias en la aplicación o la supervisión, es nuestra responsabilidad abordarlas. Las leyes de la UE deben ser aplicables en tiempo real cuando se produzcan daños graves, afirmó Doherty.

La investigación se retrasó debido a la crisis de Groenlandia

Según la fuente de noticias alemana Handelsblatt , la Comisión había planeado iniciar los procedimientos bajo la Ley de Servicios Digitales de la UE el lunes pasado, pero la decisión se retrasó porque el bloque tuvo que lidiar con las amenazas del presidente estadounidense dent Trump de apoderarse de Groenlandia.

Esta no es la primera vez que X enfrenta problemas con los reguladores de la UE. En diciembre de 2025, la plataforma recibió una multa de 120 millones de euros de la UE por infringir la Ley de Servicios Digitales. Las infracciones incluían marcas azules engañosas, falta de transparencia en la publicidad e impedir el acceso de los investigadores a la plataforma.

Los funcionarios de la administración Trump criticarontronla multa. El secretario de Estado, Marco Rubio, y eldent , J.D. Vance, la criticaron duramente, calificándola de ataque a las plataformas tecnológicas estadounidenses.

Centrarse en la evaluación de riesgos y la moderación de contenidos

La última investigación se centra específicamente en si X evaluó adecuadamente los riesgos de su chatbot de IA y tomó las medidas necesarias para prevenir la creación y difusión de contenido dañino. La Ley de Servicios Digitales exige que las grandes plataformas en líneadenty aborden los riesgos relacionados con el contenido ilegal y los daños a los usuarios.

La rápida producción de un volumen tan grande de imágenes inapropiadas en un período de tiempo tan corto hizo sonar las alarmas entre los defensores de la seguridad digital y los legisladores.

La situación se ha convertido en un caso de prueba sobre cómo la normativa de la UE gestionará las tecnologías emergentes de IA. Si bien la Ley de IA se aprobó para regular los sistemas de inteligencia artificial, este caso se está tramitando al amparo de la Ley de Servicios Digitales, que abarca las responsabilidades de las plataformas en línea.

La investigación podría dar lugar a multas adicionales o a la exigencia de que X modifique la forma de operar de Grok. La Comisión tiene la facultad de imponer sanciones de hasta el seis por ciento de los ingresos anuales globales de una empresa por infracciones graves de la Ley de Servicios Digitales.

X aún no ha hecho comentarios públicos sobre la nueva investigación. La gestión de la situación por parte de la compañía será seguida de cerca mientras otros países consideran sus propias respuestas regulatorias . Varios países ya han exigido medidas urgentes para abordar la capacidad del chatbot para crear imágenes inapropiadas.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis .