Un video falso de IA sobre políticos nepaleses genera temores de desinformación antes de las elecciones anticipadas

Ante las inminentes elecciones anticipadas del 5 de marzo, una película falsa protagonizada por tres políticos prominentes de Nepal ha revelado cómo se está utilizando la IA como arma.

El video, que fue generado completamente por computadora, mostraba al ex alcalde de Katmandú Balendra Shah, al ex jefe del sector eléctrico Kulman Ghising y al líder del Partido Rastriya Swatantra, Rabi Lamichhane, caminando juntos.

Mucha gente pensó que estaba surgiendo una nueva alianza política cuando el video se viralizó en internet. Sin embargo, como todo el encuentro fue generado por computadora, los tres políticos nunca llegaron a conocerse.

Falsificaciones de audio difundidas por redes

El video falso es solo un ejemplo del contenido generado por IA que ahora satura los espacios digitales de Nepal a medida que se acercan las elecciones. Las elecciones se celebran apenas seis meses después de las violentas manifestaciones lideradas por jóvenes que exigían el fin de la corrupción. Dichas protestas obligaron a la dimisión del entonces primer ministro KP Sharma Oli y sumieron en el caos el sistema político del país.

Las falsificaciones digitales dirigidas a personas conocidas han proliferado como resultado de esta crisis de confianza. Eldentdel Partido Rastriya Swatantra, Swarnim Wagle, presentó una denuncia ante la Oficina de Ciberseguridad de la Policía de Nepal. Se grabó una grabación falsa para simular una conversación con el primer ministro de la India, que nunca tuvo lugar.

Estas falsificaciones de audio plantean riesgos únicos en Nepal, como lo demuestran las iniciativas de verificación de datos de Poynter . Los mensajes de voz se transmiten rápidamente a través de grupos de chat familiares y redes sociales, y a menudo llegan a receptores que no pueden confirmar su legitimidad. La poca fiabilidad de las herramientas utilizadas para identificar dent alterados implica que la gente común tiene pocas posibilidades de distinguir entre falsedades y verdades.

Los intentos del gobierno por controlar el problema han empeorado con frecuencia la situación. Debido a que no se registraron ante los reguladores, Facebook, X y YouTube fueron bloqueados por las autoridades durante las manifestaciones de septiembre.

La prohibición desencadenó más violencia en lugar de calmar las tensiones. Reuters documentó al menos 77 muertes y miles de heridos durante el caos posterior. Las autoridades finalmente levantaron las restricciones, pero eldent demostró por qué el bloqueo drástico no funciona. La información falsa simplemente se filtró a canales más difíciles de monitorear.

La Comisión Electoral de Nepal ha intentado abordar estos desafíos mediante políticas. Su "Política sobre el uso de las redes sociales en la gestión electoral " de 2021 estableció las directrices iniciales. Un nuevo borrador de código de conducta para las próximas elecciones prohíbe específicamente la información falsa y las cuentas falsas destinadas a influir en los votantes.

Sin embargo, los especialistas advierten que estas normas requieren actualizaciones inmediatas para la era de la IA generativa. Siguen sin respuesta preguntas: ¿Qué constituye exactamente los medios sintéticos? ¿Deberían las campañas divulgar contenido creado con asistencia de IA? ¿Quién es responsable de la difusión de información falsa?

Los expertos piden una respuesta

Sin una regulación perfecta, especialistas y grupos de monitoreo impulsan soluciones más amplias. Poynter y organizaciones de medios similares recomiendan varias medidas: las agencias de noticias y los verificadores de datos deberían investigar cada video viral como si fuera un delito, tracsu origen y demostrando cómo lo verificaron.

Los partidos políticos y los candidatos deberían prometer no usar deepfakes y etiquetar claramente cualquier material creado con IA. Las empresas de redes sociales deberían establecer equipos de respuesta rápida familiarizados con los idiomas y la política de Nepal. Los ciudadanos deberían adoptar una estrategia de "triaje de diez segundos", deteniéndose, comprobando y confirmando antes de compartir afirmaciones impactantes.

La Oficina de Ciberseguridad de la Policía de Nepal ya se está preparando para ataques más avanzados desde el punto de vista técnico. SP Ray, funcionario de la oficina, afirmó: «La IA está creciendo y se utiliza de más maneras. Pronto podríamos presenciar delitos y ciberataques facilitados por la IA » .

Ray también señaló que la relativa novedad de la tecnología podría brindar cierto margen de maniobra. Cree que la IA aún está en sus inicios y apenas está siendo adoptada por el público, por lo que podría llevar un poco más de tiempo usarla como herramienta de destrucción.

“Estamos bien equipados para combatir estos crímenes y amenazas, y deberíamos estarlo”, dijo Ray. Añadió tranquilidad: “La Policía de Nepal puede investigar cualquier acción. Lo único que llevará tiempo investigar son los ataques desde territorio extranjero ” .

Reclama tu asiento gratuito en una comunidad exclusiva de comercio de criptomonedas , limitada a 1000 miembros.