El Consejo de Supervisión de Meta ordena la eliminación de deepfakes y considera inadecuadas las normas sobre IA
El Consejo de Supervisión de Meta ha dictaminado que la empresa debe retirar un vídeo generado por inteligencia artificial de una concejala laborista escocesa que la mostraba falsamente apoyando la violencia sexual cometida por refugiados.
La empresa decidió inicialmente mantenerlo activo, y además de revocar esa decisión, el consejo de supervisión también advirtió que la forma en que Meta maneja los deepfakes pone a los usuarios en riesgo de ser engañados.
¿Qué vídeo manipulado debe eliminar Meta?
En noviembre de 2025, apareció en Facebook un vídeo que utilizaba la imagen de un político local del Partido Laborista de Escocia. En el vídeo, la imagen decía: «Los refugiados son bienvenidos aquí, incluso si violan a nuestras mujeres, porque los blancos también lo hacen»
El Comité de Supervisión de Meta describió la representación como realista pero artificial, señalando que el audio no coincidía con sus movimientos faciales. El video fue hallado en un álbum que también contenía una fotografía de varias mujeres identificadas, incluida la concejala, en una protesta contra la extrema derecha.
Dos personas, una de ellas la propia concejala, denunciaron el vídeo en virtud de las normas de Meta sobre acoso e intimidación, pero los sistemas de Meta nunca lo remitieron a un revisor humano y permaneció publicado a pesar de dos apelaciones.
Un tercer usuario llevó el caso ante la Junta, e incluso después de que lo denunciaran, Meta sostuvo que el video no infringía ninguna norma y no justificaba una etiqueta de IA. El consejero le dijo a la Junta que el video era "bastantematic"
La mayoría de la Junta consideró que el vídeo infringía la política de Meta sobre conducta de odio, ya que acusaba a los refugiados como grupo de delitos graves y comportamiento sexual depredador, rechazando la afirmación de Meta de que solo atacaba a algunos refugiados. La Junta no lo consideró desinformación eliminable, pero indicó que debería haber llevado la etiqueta de «Inteligencia Artificial de Alto Riesgo».
La Junta sí estuvo de acuerdo en un punto a favor de Meta, a saber, que las normas sobre acoso e intimidación no exigían la destitución porque un funcionario electo es una figura pública con derecho a menos protección que una persona privada.
¿Qué recomendaciones tiene el Consejo de Supervisión para Meta?
La junta también intervino en un segundo caso, que involucraba una entrevista manipulada por IA a una mujer que promovía la educación sobre la salud menstrual. Tras la intervención de la junta, Meta retiró el video por acoso.
Los dos fallos llevaron a la Junta a calificar las medidas de seguridad de Meta como "sistemática y fundamentalmente inadecuadas"
El Consejo recomendó que Meta redujera el umbral para las etiquetas de "alto riesgo" para que no se reserven para elecciones o crisis, y que sustituyera algunas etiquetas por anuncios intersticiales con clics. También sugirió que el contenido de IA de alto riesgo se desmonetizara, se degradara o se eliminara de las recomendaciones, con sanciones progresivas para quienes lo compartieran repetidamente.
También exige que Meta priorice el contenido sospechoso de ser creado con IA para su revisión humana cuando se denuncie, publique datos anuales sobre la frecuencia con la que aplica etiquetas de IA, incluso a publicaciones sobre políticos, y que redacte sus normas de votación y censo para que se apliquen a nivel mundial en lugar de solo en Estados Unidos. Meta tiene 60 días para responder a la junta.
Gobiernos y plataformas de todo el mundo están endureciendo sus normas sobre contenido sintético. Por ejemplo, el Tribunal Popular Supremo de China estableció el 7 de septiembre normas de responsabilidad que estipulan que crear o compartir una réplica de la cara o la voz de una persona mediante inteligencia artificial sin su autorización constituye una infracción. Cryptopolitan informó que Pekín eliminó más de 14 000 productos de IA en la primera fase de su programa de depuración de datos "Qinglang" a principios de este año.
El Código de Buenas Prácticas de la Unión Europea sobre la Transparencia del Contenido Generado por IA insta a los proveedores a marcar los resultados de la IA y a los implementadores a etiquetar los deepfakes.
La política de contenido generado por IA de Google Play prohíbe a los usuarios publicar material sexual deepfake no consensuado y contenido electoral que sea "manifiestamente engañoso o falso".
Solo un número limitado de usuarios tiene permitido usar IA en la escritura sin revelar su identidad en Medium, y la plataforma prohíbe de plano la desinformación generada por IA .
Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!
Artículos Recomendados
