Los expertos han advertido sobre las imágenes de abuso racista de Grok AI en la plataforma X

Los expertos han expresado su preocupación y advertido sobre las imágenes de abuso racista creadas por Grok AI de X que inundaron la plataforma en diciembre.

Según Signify, una organización que trabaja con destacados grupos y clubes deportivos para trac y denunciar el odio en línea, habrá una escalada en las imágenes en Internet y en la plataforma, especialmente en breve.

Las imágenes de abuso inundaron X después de que Grok se actualizó

Según The Guardian , ha habido varios informes sobre imágenes racistas supuestamente creadas por Grok AI después de su actualización, incluidas imágenes racistas fotorrealistas de jugadores y entrenadores de fútbol. Entre las imágenes, una de ellas muestra a un jugador negro recogiendo algodón, mientras que otra muestra a un jugador comiendo plátanos y rodeado de monos.

Otras imágenes muestran a varios otros jugadores y entrenadores reuniéndose y charlando con figuras históricas controvertidas como Osama Bin Laden, Adolf Hitler y Saddam Hussein.

Signify ha notado con preocupación el repentino aumento de imágenes generadas por computadora que se crearon usando Grok AI e inundaron la plataforma X. La organización también está preocupada por esta tendencia y cree que es probable que se vean más imágenes de este tipo en las redes sociales, ya que la introducción de la IA fotorrealista lo hará más fácil y aumentará la prevalencia de dichas imágenes.

“Es un problema ahora, pero en realidad es sólo el comienzo de un problema venidero. Va a empeorar mucho y apenas estamos en el comienzo; espero que en los próximos 12 meses se vuelva increíblemente grave”.

Significar.

La herramienta de IA generativa de X fue lanzada en 2023 por Elon Musk. Recientemente agregó una nueva función de conversión de texto a imagen conocida como Aurora, que crea imágenes fotorrealistas de IA basadas en indicaciones simples de los usuarios.

Anteriormente, una versión menos avanzada conocida como Flux también generó controversia a principios de este año, ya que se descubrió que hacía cosas que muchos otros programas similares no harían, según The Guardian. Estos incluían representar personajes protegidos por derechos de autor y figuras públicas en posiciones comprometedoras, consumiendo drogas o cometiendo actos de violencia.

X se convirtió en una plataforma para el odio

El jefe de investigación del Centro para Contrarrestar el Odio Digital (CCDH), Callum Hood, acusó a la plataforma X de ser una plataforma para el odio. Hood dijo que X se había convertido en una plataforma que incentivaba y recompensaba la difusión del odio a través del reparto de ingresos, y las imágenes de IA lo hacían más fácil que nunca.

"Lo que ha hecho X, en un grado que ninguna otra plataforma convencional lo ha hecho, es ofrecer incentivos cash a las cuentas para que hagan esto, por lo que las cuentas en X están publicando deliberadamente el mayor odio y desinformación posible".

Capucha.

Los expertos expresaron su preocupación por la relativa falta de restricciones sobre lo que los usuarios pueden pedirle a la IA generativa que produzca con tanta facilidad que permite a Grok eludir las pautas de la IA mediante el "jailbreaking".

Un informe del CCDH muestra que cuando se le dieron diferentes indicaciones de odio, el modelo de IA creó el 90% de ellas, el 30% de las cuales se crearon sin respuesta. También creó otro 50% después de una fuga.

La Premier League admitió conocer las imágenes de los futbolistas. Dijeron que habían asignado un equipo dedicado para ayudar a encontrar y denunciar abusos racistas hacia los atletas, lo que, según dijeron, podría dar lugar a acciones legales.

Esto se produce cuando la administración del fútbol reveló que recibieron más de 1.500 informes de abuso en 2024 y que se introdujeron filtros para que los jugadores los usaran en las cuentas de redes sociales para ayudar a bloquear grandes cantidades de abuso.

“La discriminación no tiene cabida en nuestro juego ni en la sociedad en general. Seguimos instando a las empresas de redes sociales y a las autoridades pertinentes a abordar el abuso en línea y a que se tomen medidas contra los infractores de este comportamiento inaceptable”, dijo un portavoz de la FA.

Consiga un trabajo Web3 bien remunerado en 90 días: la hoja de ruta definitiva