India da a las plataformas tecnológicas 9 días para etiquetar todo el contenido de IA y eliminar los deepfakes en 3 horas

India acaba de lanzar un desafío que podría ser imposible de superar. A partir del 20 de febrero, las empresas de redes sociales que operan en el país deben etiquetar todo contenido falso de IA y eliminar los deepfakes ilegales en un plazo de tres horas. La tecnología para hacerlo correctamente aún no existe .

Las normas, anunciadas el martes, presionan a plataformas como Meta, Google y X para que implementen sistemas que capturen y marquen imágenes, vídeos y audios generados por IA antes de que los usuarios los vean. Las empresas también deben impedir que las personas eliminen u oculten estas etiquetas. Incluso con miles de millones de dólares en recursos, estos gigantes tecnológicos tienen dificultades para que sus herramientas de detección actuales funcionen de forma fiable.

La mayoría de las grandes plataformas ya utilizan algo llamado C2PA, que introduce información invisible dentro de los archivos para mostrar cómo se crearon . Es como una etiqueta nutricional para contenido digital. Cuando funciona, se puede saber si una foto proviene de una cámara real o de un generador de IA. Facebook, Instagram, YouTube y LinkedIn intentan marcar este contenido, pero las etiquetas son fáciles de pasar por alto se filtra mucha información

El sistema presenta importantes deficiencias . Las herramientas y aplicaciones de inteligencia artificial de código abierto que crean fotos falsas de desnudos a menudo omiten por completo el proceso de etiquetado . Incluso cuando existen etiquetas, estas desaparecen durante la carga de archivos en muchos sitios. Los defensores de C2PA llevan años afirmando que la tecnología solo necesita una adopción más amplia para tener éxito. India está a punto de poner a prueba esta afirmación con 500 millones de usuarios de redes sociales.

Por qué el poder de mercado de la India lo cambia todo

India tiene 481 millones de usuarios de Instagram, 403 millones de usuarios de Facebook, 500 millones de usuarios de YouTube y 213 millones de usuarios de Snapchat. X considera a India su tercer mercado más grande . Cuando un país tan grande establece nuevas reglas, las empresas tecnológicas globales suelen ajustar sus sistemas en todas partes, no solo en un lugar.

Esta iniciativa surge después de que India pasara meses lidiando con una crisis . Cryptopolitan informó en octubre pasado que los actores de Bollywood Abhishek Bachchan y Aishwarya Rai Bachchan presentaron una demanda por videos falsos que usaban sus rostros, solicitando casi medio millón de dólares en daños y perjuicios. La pareja alegó que los entrenadores de inteligencia artificial de YouTube tomaron contenido público sin permiso para entrenar sistemas que luego crearon contenido falso con sus imágenes. Casos como estos, junto con los videos falsos virales de la actriz Rashmika Mandanna, impulsaron a las autoridades a actuar .

El momento coincide con las ambiciones de la India en materia de IA. Google está construyendo un centro de IA de 15 000 millones de dólares en Visakhapatnam, que se convertirá en la mayor instalación de la compañía fuera de Estados Unidos. El sitio contará con una potencia informática de gigavatios y su apertura está prevista para julio de 2028. Con la llegada de este tipo de infraestructura de IA, los reguladores quieren que se implementen primero las normas de seguridad del contenido.

Los críticos advierten de una “censura rápida”

Los plazos ajustados preocupan a los defensores de la libertad de expresión. La Fundación para la Libertad en Internet afirma que el plazo de tres horas para la eliminación de contenido obligará a las empresas a utilizar sistemas automatizados que eliminan demasiado contenido por error. Lo llaman crear "censores de fuego rápido" porque hay tiempo para que los humanos revisen los informes adecuadamente.

Plataformas como X, que no han implementado ningún etiquetado de IA, ahora tienen solo nueve días para construir sistemas completos desde cero. Meta, Google y X declinaron hacer comentarios. Adobe, la empresa detrás de C2PA, también guardó silencio .

Los funcionarios que redactan las normas parecen saber que la tecnología actual no está lista. Los requisitos establecen que las plataformas deben utilizar métodos de detección "en la medida en que sea técnicamente factible", un lenguaje legal que admite que no se espera la perfección. Los líderes de la India creen que la presión impulsará la innovación. Apuestan a que, cuando se obligue a las empresas tecnológicas a desarrollar mejores sistemas o a perder el acceso a cientos de millones de usuarios, lo resolverán rápidamente .

Queda por ver si realmente existe una mejor tecnología de detección de IA que pueda desarrollarse, o si India simplemente ordenó a las empresas que entregaran algo que aún no se puede fabricar Lo sabremos en nueve días.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete !