España aprueba leyes para combatir deepfakes con IA y normas de consentimiento con generación de imágenes

España está aprobando leyes que hacen ilegal el uso de IA para generar imágenes y voces de personas para su uso en anuncios sin su consentimiento.

Las leyes españolas contra el uso ilegal de IA incluyen excepciones para el contenido creativo que involucra a figuras públicas y que está claramente etiquetado como generado por IA. Otros países, como Indonesia y Malasia, también han tomado medidas para prevenir la difusión de contenido inapropiado generado por IA.  

¿Cuáles son las leyes de España respecto a los deepfakes? 

El Consejo de Ministros de España ha aprobado un proyecto de ley que establece nuevos requisitos de consentimiento para imágenes digitales y deepfakes de IA. La legislación reforzará la protección de los menores y establecerá los 16 años como la edad mínima a partir de la cual las personas pueden consentir el uso de su propia imagen.

Esta ley aborda directamente las preocupaciones sobre la seguridad digital de los niños en una era en la que las herramientas de IA pueden manipular o replicar fácilmente el contenido personal. 

El ministro de Justicia, Félix Bolaños, afirmó que el hecho de que personas compartan sus imágenes personales o familiares en redes sociales no les da a otros la libertad de usar esas imágenes como quieran. 

La ley incluye excepciones para usos creativos, satíricos o ficticios. Por ejemplo, el contenido que involucre a figuras públicas seguirá siendo admisible, siempre que esté claramentedentcomo generado por IA. 

Las nuevas normas de la UE también exigen que todos los estados miembros penalicen las falsificaciones sexuales no consentidas para 2027. 

¿Son legales los deepfakes en España?

Grok, el chatbot xAI de Elon Musk, ha sido investigado recientemente por imágenes deepfake sexualmente explícitas. Como informó la semana pasada, Grok tuvo problemas al generar aproximadamente una imagen sexualizada no consensuada por minuto en su punto máximo, mostrando a mujeres y menores en poses reveladoras o quitándoles la ropa de las fotos subidas.

Durante eldent de principios de este mes, el gobierno español solicitó que los fiscales determinaran si cierto contenido generado por IA podía considerarse pornografía infantil.

Antes de convertirse en ley, el proyecto pasará por consultas con las partes interesadas y luego regresará al gobierno para su aprobación final antes de ser presentado al parlamento. 

Además de España, Indonesia y Malasia también han tomado medidas contra Grok tras generar miles de deepfakes sexualmente explícitos no consentidos, incluyendo imágenes de niños. Ambos países fueron los primeros en bloquear completamente el chatbot.

El regulador de medios del Reino Unido, Ofcom, está iniciando una investigación formal sobre el incidente dent podría resultar en multas de hasta el 10% de los ingresos globales de X o una prohibición total.

Afila tu estrategia con mentoría + ideas diarias: 30 días de acceso gratuito a nuestro programa de trading