Alemania advierte sobre los riesgos de las imágenes del Holocausto creadas por inteligencia artificial en las redes sociales

Alemania ha advertido a las redes sociales sobre la difusión de imágenes falsas del Holocausto realizadas con inteligencia artificial. El gobierno y las instituciones conmemorativas del Holocausto han pedido a las redes sociales que detengan la difusión de imágenes falsas, que, según afirman, distorsionan y trivializan la historia.

Los sitios conmemorativos y centros de documentación de campos de concentración expresaron su preocupación en una carta reciente, criticando el aumento de la llamada chatarra de IA o imágenes falsificadas en torno a la matanza de más de seis millones de judíos a manos de los nazis en Alemania durante la Segunda Guerra Mundial. Estas imágenes incluyen ilustraciones emotivas de incidentes inventados dent como reuniones de reclusos de campos de concentración con sus liberadores o niños tras alambradas.

Alemania quiere frenar la difusión de imágenes falsas del Holocausto generadas por inteligencia artificial

En la carta enviada por las organizaciones, señalaron que el contenido generado por IA distorsiona la historia al trivializar sucesos graves ocurridos hace mucho tiempo. Mencionaron que dichas imágenes podrían contribuir a la desconfianza entre los usuarios de documentos históricos auténticos. Wolfram Weimer, ministro de Estado de Cultura y Medios de Comunicación de Alemania, expresó su apoyo a las medidas y esfuerzos de las instituciones conmemorativas en este caso, afirmando que es la medida correcta.

Wolfram también mencionó que apoyaba la decisión de marcar las imágenes generadas por IA del antiguodenty, en los casos necesarios, eliminarlas de las redes sociales. Mencionó que se trata de una cuestión de respeto por los millones de personas que fueron asesinadas y perseguidas bajo el régimen de terror de la Alemania nazi. Según la carta de las instituciones conmemorativas, señalaron que los creadores de las imágenes aparentemente las usaron para generar interés en línea y obtener ingresos.

Las organizaciones también mencionaron que los perpetradores también pretendían, en parte, diluir los hechos, cambiar los roles de víctima y perpetrador, y difundir narrativas revisionistas. Entre las instituciones se incluyen centros conmemorativos de Belsen, Buchenwald, Dachau y otros campos de concentración donde fueron asesinados judíos, así como otras personas, como romaníes y sintis. Solicitaron a las plataformas de redes sociales que actuaran proactivamente contra las imágenes falsas de IA sobre el Holocausto, en lugar de esperar a que los usuarios las denunciaran.

Las organizaciones del Holocausto quieren que las imágenes generadas por IA estén etiquetadas

Además, pidieron a las plataformas que las etiquetaran claramente, ya que creen que esto impediría que los usuarios que generaron las imágenes pudieran monetizarlas. La difusión de material basura de IA de baja calidad, que incluye texto, imágenes o vídeos falsos, ha alarmado a muchos expertos. Creen que contaminaría el panorama informativo y dificultaría a los usuarios distinguir la verdad de la falsedad. Estedent sigue al que enfrentan actualmente las empresas de IA, en particular xAI de Elon Musk, propietaria del chatbot Grok.

La compañía ha estado bajo presión durante las últimas semanas debido a que ciertos usuarios generaron miles de imágenes deepfake sexualizadas de mujeres y menores y las difundieron en varias plataformas de redes sociales. La amenaza ha llevado a varios líderes de países a llamar la atención de la compañía, mientras que otros les han pedido que implementen las medidas de seguridad adecuadas para abordar los incidentes dent Países como Indonesia también han anunciado la prohibición temporal del chatbot hasta que se resuelva el problema.

Mientras tanto, la plataforma ha confirmado que bloqueará geográficamente la capacidad de los usuarios de Grok y X para generar deepfakes de personas en lugares donde estas acciones se consideran ilegales. Sin embargo, queda por ver si las nuevas medidas de seguridad se aplicarán a su aplicación independiente o a su sitio web. También queda por ver si las medidas impedirán que los usuarios generen este tipo de imágenes o los impulsarán a buscar nuevas formas de acceder al servicio.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete !