El rey Carlos advierte a los líderes de la IA que tomen el control antes de que sea "demasiado tarde"

Durante una cumbre celebrada en Escocia, el rey Carlos III les dijo a los directivos de las mayores empresas de inteligencia artificial del mundo que debían encontrar la manera de mantener la tecnología bajo control humano. 

El rey advirtió que quienes lo construyeron ahora temen que pueda desarrollar "capacidades más oscuras" e incluso ser utilizado para matar. 

¿Qué opina el rey Carlos III sobre la inteligencia artificial? 

El rey Carlos III pronunció un discurso en Dumfries House, en East Ayrshire, en una reunión organizada por la Fundación Ditchley que congregó a unos 30 ejecutivos, funcionarios e investigadores, entre ellos el ministro británico de IA, Kanishka Narayan, el director ejecutivo de Nvidia, Jensen Huang, el cofundador de DeepMind, Demis Hassabis, la jefa de finanzas de OpenAI, Sarah Friar, y el director de asuntos globales de Anthropic, Tino Cuéllar.

Según se informa, la lista privada de invitados a la que tuvo acceso Bloomberg también incluía nombres como el del jefe del MI6, Blaise Metreweli, el del autor Yuval Noah Harari y el de Xue Lan, de la Universidad de Tsinghua.

Charles, de 77 años, habló apenas unos 20 minutos antes de abandonar la sala, esperando que la conversación fuera productiva. Quienes valoran la esencia moral de la humanidad, dijo, buscan con urgencia su confirmación de que no perderemos el control de nuestro destino ni de nuestras almas.

Charles calificó el ritmo de la tecnología como "intrigante y profundamente preocupante a partes iguales". Reconoció y elogió su trayectoria en medicina y ciencias de la vida, antes de plantear una pregunta directa: "¿Acaso no necesitamos medios de control suficientes antes de que sea demasiado tarde?"

En su advertencia, el rey hizo referencia a las preocupaciones de los creadores de la tecnología de IA. También afirmó que estos sistemas corren el riesgo de desarrollar capacidades más oscuras, incluso la de quitar la vida. Añadió que los ejecutivos deberían considerar los peligros existenciales que supone que estas herramientas caigan en manos equivocadas. 

Anteriormente, Charles envió un mensaje en vídeo a la Cumbre de Seguridad de la IA del Reino Unido de 2023 en Bletchley Park, expresando sentimientos similares. 

El asesor del Vaticano en materia de IA, Paolo Benanti, estuvo presente en la Cumbre, y el Papa León XIV escribió en una encíclica de mayo que la IA no debe permanecer en manos "de unos pocos"

¿Se ralentizará el desarrollo de la IA? 

Hassabis les dijo a los delegados que la inteligencia artificial general —sistemas que podrían igualar o superar a los humanos en muchas tareas— probablemente estaría a "tan solo unos pocos años de distancia" 

Afirmó que la tecnología podría tener un impacto potencial diez veces mayor que el de la Revolución Industrial. Añadió que la probabilidad de que algo saliera mal era «definitivamentedefide cero», aunque luego concluyó diciendo que «el futuro aún no está escrito»

Friar afirmó que el creciente poder de esta tecnología plantea interrogantes sobre cómo mantenerla al servicio de la gente, y que "ninguna empresa ni gobierno puede hacerlo solo" 

Huang, cuya empresa Nvidia está valorada en cerca de 5,15 billones de dólares, afirmó ante los presentes que la seguridad era primordial y que un producto debía ser retirado del mercado si no estaba listo. Abogó por regular los productos de IA en lugar de la tecnología en sí misma y defendió los modelos abiertos como una forma de evitar que los países más pequeños y los investigadores quedaran excluidos.

La cumbre se celebra tras la publicación de la dimisión, que se hizo viral, del investigador de Anthropic, Jacob Coxon, y la predicción de su colega, Evan Hubinger, de que la IA tiene un 10% de probabilidades de causar la extinción humana, lo que ha generado preocupación.

Cryptopolitan ha informado de que Dario Amodei, de Anthropic, publicó un ensayo en el que instaba a los laboratorios a "marcar el ritmo de la frontera", y de que OpenAI lanzó esta semana un sistema que revelaría la mala conducta de los modelos tras registrar seis incidentesdentcomportamiento preocupante. 

Sin embargo, no todos están de acuerdo en que el peligro sea real: eldent Donald Trump ha calificado esos temores de "farsa"

Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.