Los expertos han advertido sobre las imágenes de abuso racista de Grok AI en la plataforma X

Fuente Cryptopolitan

Los expertos han expresado su preocupación y advertido sobre las imágenes de abuso racista creadas por Grok AI de X que inundaron la plataforma en diciembre.

Según Signify, una organización que trabaja con destacados grupos y clubes deportivos para trac y denunciar el odio en línea, habrá una escalada en las imágenes en Internet y en la plataforma, especialmente en breve.

Las imágenes de abuso inundaron X después de que Grok se actualizó

Según The Guardian , ha habido varios informes sobre imágenes racistas supuestamente creadas por Grok AI después de su actualización, incluidas imágenes racistas fotorrealistas de jugadores y entrenadores de fútbol. Entre las imágenes, una de ellas muestra a un jugador negro recogiendo algodón, mientras que otra muestra a un jugador comiendo plátanos y rodeado de monos.

Otras imágenes muestran a varios otros jugadores y entrenadores reuniéndose y charlando con figuras históricas controvertidas como Osama Bin Laden, Adolf Hitler y Saddam Hussein.

Signify ha notado con preocupación el repentino aumento de imágenes generadas por computadora que se crearon usando Grok AI e inundaron la plataforma X. La organización también está preocupada por esta tendencia y cree que es probable que se vean más imágenes de este tipo en las redes sociales, ya que la introducción de la IA fotorrealista lo hará más fácil y aumentará la prevalencia de dichas imágenes.

“Es un problema ahora, pero en realidad es sólo el comienzo de un problema venidero. Va a empeorar mucho y apenas estamos en el comienzo; espero que en los próximos 12 meses se vuelva increíblemente grave”.

Significar.

La herramienta de IA generativa de X fue lanzada en 2023 por Elon Musk. Recientemente agregó una nueva función de conversión de texto a imagen conocida como Aurora, que crea imágenes fotorrealistas de IA basadas en indicaciones simples de los usuarios.

Anteriormente, una versión menos avanzada conocida como Flux también generó controversia a principios de este año, ya que se descubrió que hacía cosas que muchos otros programas similares no harían, según The Guardian. Estos incluían representar personajes protegidos por derechos de autor y figuras públicas en posiciones comprometedoras, consumiendo drogas o cometiendo actos de violencia.

X se convirtió en una plataforma para el odio

El jefe de investigación del Centro para Contrarrestar el Odio Digital (CCDH), Callum Hood, acusó a la plataforma X de ser una plataforma para el odio. Hood dijo que X se había convertido en una plataforma que incentivaba y recompensaba la difusión del odio a través del reparto de ingresos, y las imágenes de IA lo hacían más fácil que nunca.

"Lo que ha hecho X, en un grado que ninguna otra plataforma convencional lo ha hecho, es ofrecer incentivos cash a las cuentas para que hagan esto, por lo que las cuentas en X están publicando deliberadamente el mayor odio y desinformación posible".

Capucha.

Los expertos expresaron su preocupación por la relativa falta de restricciones sobre lo que los usuarios pueden pedirle a la IA generativa que produzca con tanta facilidad que permite a Grok eludir las pautas de la IA mediante el "jailbreaking".

Un informe del CCDH muestra que cuando se le dieron diferentes indicaciones de odio, el modelo de IA creó el 90% de ellas, el 30% de las cuales se crearon sin respuesta. También creó otro 50% después de una fuga.

La Premier League admitió conocer las imágenes de los futbolistas. Dijeron que habían asignado un equipo dedicado para ayudar a encontrar y denunciar abusos racistas hacia los atletas, lo que, según dijeron, podría dar lugar a acciones legales.

Esto se produce cuando la administración del fútbol reveló que recibieron más de 1.500 informes de abuso en 2024 y que se introdujeron filtros para que los jugadores los usaran en las cuentas de redes sociales para ayudar a bloquear grandes cantidades de abuso.

“La discriminación no tiene cabida en nuestro juego ni en la sociedad en general. Seguimos instando a las empresas de redes sociales y a las autoridades pertinentes a abordar el abuso en línea y a que se tomen medidas contra los infractores de este comportamiento inaceptable”, dijo un portavoz de la FA.

Consiga un trabajo Web3 bien remunerado en 90 días: la hoja de ruta definitiva

Descargo de responsabilidad: Sólo con fines informativos. Rentabilidades pasadas no son indicativas de resultados futuros.
placeholder
WTI enfrenta presión alcista en medio de los ataques en Oriente Próximo a pesar de las proyecciones de oferta récordEl precio del petróleo West Texas Intermediate (WTI) se mueve poco tras registrar ganancias moderadas el día anterior, cotizando alrededor de 83.00$ por barril durante las horas asiáticas del viernes.
Autor  FXStreet
8 hace una horas
El precio del petróleo West Texas Intermediate (WTI) se mueve poco tras registrar ganancias moderadas el día anterior, cotizando alrededor de 83.00$ por barril durante las horas asiáticas del viernes.
placeholder
Plata Análisis del Precio: El XAG/USD languidece en torno a los 45.00$ ante las apuestas por una subida de tipos de la FedEl precio de la Plata (XAG/USD) consolida las pérdidas alrededor de 45.00$ en la sesión europea del jueves, después de alcanzar nuevos mínimos de 14 meses en 44.54$ más temprano durante la jornada.
Autor  FXStreet
El dia de ayer 09: 25
El precio de la Plata (XAG/USD) consolida las pérdidas alrededor de 45.00$ en la sesión europea del jueves, después de alcanzar nuevos mínimos de 14 meses en 44.54$ más temprano durante la jornada.
placeholder
El petróleo WTI se mantiene por debajo de 83.00$ mientras el aumento de las reservas estadounidenses calma la preocupación por el suministroLos precios del petróleo reanudaron su tendencia bajista el miércoles, ya que un aumento en los inventarios de petróleo crudo de EE.UU. ha calmado los temores de los inversores sobre interrupciones en el suministro.
Autor  FXStreet
11 Mes 18 Día Mier
Los precios del petróleo reanudaron su tendencia bajista el miércoles, ya que un aumento en los inventarios de petróleo crudo de EE.UU. ha calmado los temores de los inversores sobre interrupciones en el suministro.
placeholder
Plata Análisis del Precio: El XAG/USD sube hasta 47.50$ pero se mantiene cerca de los mínimos anualesLa Plata (XAG/USD) mantiene modestas ganancias el martes, impulsada por un ligero retroceso del Índice del Dólar, con la tendencia general bajista aún intacta. El par XAG/USD cotiza alrededor de 47.50$ después de rebotar desde los mínimos anuales de 46.56$, pero sigue por debajo de los mínimos anteriores en la zona de 48.60$
Autor  FXStreet
11 Mes 17 Día Mar
La Plata (XAG/USD) mantiene modestas ganancias el martes, impulsada por un ligero retroceso del Índice del Dólar, con la tendencia general bajista aún intacta. El par XAG/USD cotiza alrededor de 47.50$ después de rebotar desde los mínimos anuales de 46.56$, pero sigue por debajo de los mínimos anteriores en la zona de 48.60$
placeholder
NVDA cae un 4,12% y acumula dos sesiones a la baja antes de sus resultados del tercer trimestreNVDA acumula dos sesiones a la baja: cayó cerca del 2% el 15 de noviembre hasta 162,85 dólares y un 4,12% el 16 de noviembre hasta 156,14 dólares, con cierre cerca del mínimo del día. La dimisión del consejero delegado y la reducción de posiciones antes de los resultados del 17 de noviembre presionaron el precio.
Autor  Mitrade Team
11 Mes 17 Día Mar
NVDA acumula dos sesiones a la baja: cayó cerca del 2% el 15 de noviembre hasta 162,85 dólares y un 4,12% el 16 de noviembre hasta 156,14 dólares, con cierre cerca del mínimo del día. La dimisión del consejero delegado y la reducción de posiciones antes de los resultados del 17 de noviembre presionaron el precio.
goTop
quote