El Tribunal Supremo de China emite directrices sobre responsabilidad legal ante el creciente problema de las falsificaciones profundas mediante IA

El Tribunal Popular Supremo de China ha tomado medidas el 7 de septiembre para establecer directrices adecuadas sobre quién se enfrenta a la responsabilidad legal por los deepfakes y la clonación de voz generados por IA, en un intento por establecer salvaguardias en torno al contenido generado por IA.

La tecnología de inteligencia artificial se ha desarrollado hasta el punto en que cualquiera puede generar dobles digitales convincentes simplemente extrayendo algunas fotos o grabaciones cortas de Internet o las redes sociales y difundiendo ese contenido para obtener ganancias económicas o para impulsar narrativas.

China traza la línea en torno al consentimiento 

Según el Tribunal Popular Supremo de China, la línea que separa el contenido de IA basado en la réplica de una persona de lo legal a lo ilegal es el consentimiento. Se infringen los derechos de alguien cuando se crea o comparte una recreación de IA de una persona, su rostro o su voz, sin su consentimiento. 

El nivel de infracción aumenta cuando esa réplica de IA se utiliza para difundir afirmaciones falsas o crear narrativas falsas. 

Cuando la intención del contenido falso se vuelve maliciosa hasta el punto de incluir afirmaciones sexuales falsas y difamatorias, la víctima puedetracel proceso solicitando una orden judicial en lugar de esperar un largo y tedioso proceso judicial.

Los proveedores de inteligencia artificial que las personas utilizan para generar dicho contenido también se enfrentan a responsabilidades, especialmente si han recibido notificaciones de posibles violaciones de derechos debido a las capacidades de sus plataformas. 

Las responsabilidades seguirán aplicándose si el modelo de IA difundió información falsa o inexacta debido a alucinaciones de la IA.

Cabe destacar que, según informes locales, actores como Joey Wong, Lawrence Ng e incluso personas comunes han comenzado a ceder los derechos de imagen a plataformas de IA, como parte de un mercado en auge para formalizar la replicación mediante IA. Se informa que más del 95 % de los 128 000 microdramas estrenados en China durante el primer trimestre de 2026 utilizaron IA en su producción. 

¿Quién más se enfrenta a responsabilidades por el mal uso de la IA? 

El tribunal también mencionó la equidad en las transacciones comerciales como parte de las mismas directrices. Por ejemplo, una empresa no puede utilizar algoritmos para cobrar tarifas distintas a diferentes clientes sin una base razonable que justifique la diferencia de precios. 

Las empresas que sean sorprendidas incurriendo en esta práctica se enfrentarán ahora a responsabilidades por los daños que causen a los compradores afectados.

«No podemos esperar que todos los consumidores se conviertan en expertos en detectar el engaño», declaró Zhou Jiahai, director de la oficina de investigación del SPC, en el informe de Xinhua. «La ley debe intervenir con prontitud para proteger los derechos e intereses legítimos de los consumidores»

¿Cómo gestionó China los casos de deepfakes creados con IA? 

Antes de las directrices emitidas hoy por el tribunal supremo, los jueces de los tribunales inferiores tenían que dictar resoluciones discrecionales caso por caso. 

el Tribunal de Internet de Pekín emitió el primer fallo de la ciudad sobre la falsificación profunda mediante IA, al multar a un operador de aplicaciones con 3.500 yuanes (unos 482 dólares) por permitir a los usuarios utilizar plantillas de intercambio para generar contenido de dos modelos sin obtener el debido consentimiento. 

Según el National Business Daily, el Tribunal de Internet de Guangzhou ha dictado sentencia en unos 700 casos de robo de identidad mediante inteligencia artificial en tan solo tres años. 

Un impulso regulatorio en varios frentes

Las directrices del SPC son solo una parte de una represión más amplia. El 2 de septiembre, la Administración del Ciberespacio de China anunció que había eliminado más de 5,61 millones de contenidos dañinos o ilegales y aproximadamente 49.000 cuentas en 2.400 sitios web y aplicaciones, entre ellas Douyin, Kuaishou, RedNote y WeChat, en una campaña contra el contenido basura generado por la IA, las noticias falsas y la suplantación de identidad, según informó el South China Morning Post.

Desde enero, ByteDance también ha retirado más de 85.000 vídeos que contenían reproducciones no autorizadas mediante inteligencia artificial de rostros y voces humanas.

Campañas anteriores abordaron el mismo problema en el comercio. En noviembre de 2025, Xinhua informó que las autoridades eliminaron más de 8700 artículos que no cumplían con las normas y sancionaron a más de 11 000 cuentas que utilizaban inteligencia artificial para imitar a celebridades en transmisiones en vivo de compras, incluyendo clones falsificados de la actriz Wen Zhengrong y campeones olímpicos que promocionaban productos cotidianos.

Desde el 1 de septiembre de 2025, las normas chinas de etiquetado de contenido exigen que el material generado por IA esté marcado, aunque su aplicación ha sido lenta, ya que los infractores ocultan o eliminan losdent.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.