Gran Bretaña considera prohibir X después de que Grok supuestamente produjera imágenes inapropiadas

Elon Musk está considerando la posible prohibición de la app X en Gran Bretaña debido a la aparición de imágenes presuntamente inapropiadas en la dark web, que según los usuarios fueron generadas por el chatbot Grok AI. Se solicitó a Ofcom, el organismo de control de internet del Reino Unido, que desestimara todas las opciones, incluyendo multas millonarias o incluso el bloqueo total del acceso a la app X. 

La organización benéfica Internet Watch Foundation (IWF) reveló que sus analistas descubrieron imágenes de niñas de entre 11 y 13 años, aparentemente generadas por Grok en un sitio web oscuro. Según la Oficina de Comunicaciones (Ofcom), organismo regulador de medios, las imágenes constituían material ilegal de abuso sexual infantil. 

Kier Starmer insta a Ofcom a poner todas las opciones sobre la mesa

El primer ministro del Reino Unido, Kier Starmer, solicitó a la Oficina de Comunicaciones (Ofcom), el organismo de control de internet del Reino Unido, que presentara todas las opciones al considerar el caso de Musk después de que Grok, la aplicación de xAI, generara presuntamente imágenes delictivas de mujeres jóvenes y niños. Según un informe del Telegraph, la Ley de Seguridad en Línea del Reino Unido permite al país imponer multas millonarias a la aplicación X, o incluso bloquear el acceso a X en Gran Bretaña. 

La aplicación X tiene más de 650 millones de usuarios en todo el mundo, de los cuales al menos 20 millones son del Reino Unido. El primer ministro Starmer advirtió en Greatest Hits Radio que X debería actuar con sensatez y retirar el material, añadiendo que se tomarán medidas contra la aplicación de Musk porque simplemente es intolerable. Advirtió después de que aparecieran varias imágenes de mujeres y niños desnudos junto a otros en bikini, supuestamente generadas por el Grok .

X tiene que controlar esto, y Ofcom cuenta con todo nuestro apoyo para tomar medidas al respecto. Esto está mal. Es ilegal. No lo vamos a tolerar. He solicitado que se consideren todas las opciones

-Kier Starmer, primer ministro del Reino Unido 

Hasta el momento, se espera que el regulador siga el debido proceso legal antes de aplicar la prohibición, incluyendo investigaciones y resoluciones provisionales. Si X no resuelve las preocupaciones de Ofcom, el regulador podría intentar bloquear el sitio web en el Reino Unido. Ofcom ya contactó a la plataforma de redes sociales esta semana, indicando que podría iniciar una investigación sobre las imágenes. 

Musk cree que la intención de la OSA es la supresión del pueblo

Musk ha criticado la Ley de Seguridad en Línea (OSA) británica, alegando que su objetivo es reprimir a la ciudadanía. Según Musk, la OSA del Reino Unido corre el riesgo de vulnerar la libertad de expresión con sus medidas para proteger a los niños de contenido dañino. Musk señaló que las intenciones "loables" de la ley incluían una implementación agresiva a través de Ofcom.

Alexander Ngaire, director de la línea directa de la organización benéfica Internet Watch Foundation, declaró a la BBC que herramientas como Grok corrían el riesgo de introducir imágenes sexuales de IA dirigidas a menores en los medios de comunicación tradicionales. Clasificó el material como Categoría C según la legislación del Reino Unido, la categoría más baja para fines delictivos. Añadió que el usuario que subió las imágenes había utilizado una herramienta de IA diferente, no Grok, para crear una imagen de Categoría A, considerada el material delictivo más grave.

Según Ngaire, a la IWF le preocupa la facilidad y rapidez con la que se genera material de abuso sexual infantil (MASI) fotorrealista. La fundación busca eliminar dicho material de internet a través de una línea directa donde se denuncian casos sospechosos de MASI, y sus analistas evalúan su legalidad y gravedad. Los analistas de la IWF descubrieron que el material solo aparecía en la red oscura y no se encontraba en la plataforma X.

Según X, se tomarán medidas contra el contenido ilegal en su plataforma, incluido el abuso sexual infantil (CSAM), eliminándolo y suspendiendo permanentemente las cuentas, además de colaborar con los gobiernos locales y las fuerzas del orden cuando sea necesario. La plataforma social advierte que cualquiera que incite a Grok a crear contenido ilegal enfrentará las mismas consecuencias que si lo hubiera subido él mismo. 

Si estás leyendo esto, ya estás al tanto. Sigue leyendo nuestro boletín .