Bailey advierte al G20 que la IA de vanguardia podría desestabilizar el sistema financiero

Andrew Bailey, gobernador del Banco de Inglaterra, ha advertido a los principales responsables financieros del mundo que los modelos de inteligencia artificial más avanzados amenazan actualmente la estabilidad del sistema financiero global.

Bailey afirma que los ciberataques son uno de los peligros que deberían preocupar en primer lugar a los reguladores. 

¿Por qué el riesgo cibernético derivado de la IA es una gran preocupación en este momento?

En una carta dirigida a los ministros de finanzas del G20, Andrew Bailey, gobernador del Banco de Inglaterra, advirtió que los modelos de inteligencia artificial más avanzados representan una amenaza para el sistema financiero global. La carta fue enviada antes de la cumbre del G20 que se celebrará en Asheville, Carolina del Norte, donde estarán presentes banqueros centrales y ministros de finanzas. 

Bailey emitió la advertencia como presidente del Consejo de Estabilidad Financiera (FSB), un grupo internacional que supervisa los riesgos financieros. En la carta, describió los modelos de IA de vanguardia como sistemas que “muestran una autonomía y capacidad de resolución de problemas cada vez más sofisticadas, así como capacidades para generar amenazas” 

Cryptopolitan Según , los bancos británicos llevan meses intentando obtener acceso de prueba al modelo Mythos de Anthropic para comprender mejor los riesgos que conllevan estas herramientas de IA, pero no lo han conseguido debido a las tensiones políticas en Estados Unidos. 

Cabe destacar que, a pesar de estar destinada a la defensa, la herramienta pertenece a la misma clase de tecnología que la carta de Bailey al G20 señala como una amenaza sistémica.

Bailey quiere que los gobiernos se pongan de acuerdo sobre las normas para la liberación segura de modelos de IA potentes antes del próximo gran avance en este campo. Argumenta que, dado que los bancos dependen del mismo pequeño grupo de proveedores de tecnología y sistemas informáticos compartidos, un ciberataque a un banco puede propagarse rápidamente a otros a través de las fronteras.

Bailey escribió que la IA de vanguardia podría tener la capacidad de alterar sustancialmente la velocidad, la escala y la economía del riesgo cibernético, lo que significa que la IA podría hacer que los ciberataques se produzcan más rápido, causen más daño y cuesten menos a los atacantes. 

Las advertencias de Bailey no carecen de fundamento. El personal de OpenAI detectó recientemente indicios de mal comportamiento en agentes de IA de vanguardia antes de que estos escaparan de su entorno de entrenamiento. Anthropic también informó recientemente que sus modelos de IA habían pirateado tres organizaciones por su cuenta durante una prueba privada.

En junio, la subgobernadora del Banco de Inglaterra, Sarah Breeden, comunicó a los banqueros centrales en Sintra que el Banco estaba estudiando los "interruptoresde emergencia", que son herramientas que podrían detener las operaciones en todo el mercado si los modelos de IA provocan un colapso. 

Cryptopolitan publicó su advertencia posterior de que los sistemas basados en agentes representan riesgos crecientes para los mercados, la ciberseguridad y los sistemas de pago.

¿Podría el auge de las acciones de IA provocar una caída del mercado?

La segunda parte de la carta de Bailey trataba sobre el aumento de los niveles de deuda en los mercados de bonos y acciones. Advirtió que las altas valoraciones bursátiles, la concentración del mercado y el entusiasmo de los inversores por la IA se combinan de forma arriesgada, lo que «podría amplificar una futura corrección del mercado»  

Por ejemplo, Nvidia (NASDAQ: NVDA) ahora vale más de 5,2 billones de dólares. La compañía recaudó recientemente 500 mil millones de dólares de un grupo de bancos e inversores estadounidenses, y sus acciones han subido un 850% en cinco años.

La preocupación de Bailey radica en que los inversores se endeudaron considerablemente para invertir en un pequeño grupo de empresas de inteligencia artificial. Si el valor de esas acciones cae, estos inversores se verían obligados a vender otros activos para cubrir sus pérdidas. Esta venta masiva podría provocar una mayor caída de los precios y desencadenar un desplome generalizado del mercado.

También señaló que el endeudamiento estadounidense ya ha superado los 40 billones de dólares, lo que ejerce presión sobre los mercados de bonos, que ya son sensibles a los cambios en los tipos de interés.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.