La alta comisionada de la ONU para los derechos humanos pide que se establezcan salvaguardias de seguridad para la IA ante las preocupaciones sobre el "riesgo existencial para la humanidad"

El Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ONU), Volker Türk, advirtió públicamente hoy, 7 de septiembre, en el Consejo de Derechos Humanos de Ginebra, sobre el creciente desarrollo de las capacidades de la inteligencia artificial, que están llegando a convertirse en una amenaza existencial para la humanidad.

Türk instó a los gobiernos a actuar con rapidez para reforzar las medidas de protección y frenar a los laboratorios de IA que lideran la carrera por el desarrollo de la tecnología de sistemas autónomos, evitando así que se descontrolen en medio de un número creciente de infracciones edentde seguridad.

El mayor quebradero de cabeza para el ejecutivo de la ONU es que los sistemas que utilizan la tecnología de IA crecen más rápido de lo que los sistemas que actualmente la rigen pueden trac. Este crecimiento descontrolado ha exacerbado las amenazas, pasando de la desinformación y la pérdida de empleos a ámbitos existenciales como la seguridad, la rendición de cuentas y la supervisión excesiva de sistemas altamente autónomos. 

El jefe de derechos humanos de la ONU pide medidas internacionales urgentes 

Türk citó la inminente oportunidad de poner a prueba las capacidades de la IA como la razón principal de su llamado a una acción coordinada internacionalmente. Asimismo, señaló que el ritmo y la dirección del avance en este campo están desproporcionadamente en manos de un pequeño grupo de ejecutivos y empresas tecnológicas. 

Türk propuso una solución a las señales de alerta que había señalado. Su alternativa consiste en que los países donde tienen su sede estas empresas líderes en IA y aquellos que controlan cadenas de suministro críticas tomen la iniciativa y establezcan límites claros sobre hasta dónde están dispuestos a permitir que llegue esta tecnología.

La Alta Comisionada de las Naciones Unidas para los Derechos Humanos retoma un tema que el organismo internacional abordó en el primer Diálogo Mundial sobre Gobernanza de la IA, celebrado en la misma ciudad suiza en julio. 

En su intervención en la cumbre IA para el Bien Social de la UIT, donde se inició el debate, Türk afirmó: «No consideramos que las normas de seguridad para medicamentos, automóviles o aeronaves sean obstáculos para el progreso», según imágenes de la ONU. «Son la razón principal por la que la gente confía en esas tecnologías». Añadió que la supervisión humana «no puede ser simplemente un mero trámite».

Parte de la evidencia que impulsó el debate en esa cumbre fue presentada por Sonia Livingstone, del Panel Científico Mundial sobre IA, organismo creado por mandato de la ONU. Hasta ese momento, al menos un niño por aula afirmó haber sido víctima de deepfakes de contenido sexualmente explícito generados por IA, según un estudio que abarcó 11 países del Sur Global. 

La directora de ONU Mujeres, Sima Bahous, también señaló el sesgo de género presente en todo esto. Según ella, alrededor del 88% de los principales investigadores de IA. Asimismo, informó que al menos una de cada cuatro activistas y periodistas encuestadas por su agencia había sufrido acoso en línea asistido por IA.

Los laboratorios de IA y los legisladores se han dado cuenta de los problemas

La ONU no es la única que ha dado la voz de alarma este verano. El senador estadounidense Bernie Sanders ha pedido una pausa inmediata en el trabajo avanzado de IA y una prohibición permanente de la superinteligencia, mientras que un grupo multipartidista de parlamentarios británicos presionó para que se exigieran por ley "interruptores de apagado" de la IA tras lo que describieron como una serie dedentde IA descontrolada. 

Esas inquietudes surgieron tras la afirmación de OpenAI, vinculada a su modelo GPT-6 Astra, de que su tecnología había alcanzado la inteligencia artificial general, y la admisión de Anthropic de que sus propios modelos "no estaban perfectamente alineados" con los valores humanos.

Parte de esa presión proviene del interior de la industria. En un ensayo publicado en junio y reseñado por Axios, el director ejecutivo de Anthropic, Dario Amodei, argumentó que los gobiernos deberían tener la potestad legal para bloquear o revertir implementaciones peligrosas de IA, y que los modelos de vanguardia deberían someterse a pruebas obligatorias, al igual que los automóviles, los aviones o los nuevos medicamentos. 

En su propia actualización del Consejo, Türk extendió el tema al campo de batalla, respaldando los llamamientos para prohibir las armas que pueden matar sin la intervención humana.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.