O Banco da Inglaterra está preocupado com os agentes de IA e propõe uma reforma regulatória

Sarah Breeden, vice-governadora do Banco da Inglaterra para a estabilidade financeira, alertou que os sistemas autônomos de IA representam uma ameaça crescente aos mercados financeiros, à segurança cibernética e à infraestrutura de pagamentos, e instou os bancos centrais de todo o mundo a analisarem regulamentações mais eficazes para o setor.

Em seu discurso no fórum anual do Banco Central Europeu em Sintra, Portugal, Breeden explicou que a IA ativa está avançando mais rápido do que os reguladores previam. Segundo ela, em 2019, a duração das tarefas de software que os principais modelos de IA conseguiam concluir dobrava a cada sete meses. No entanto, em 2024, essa duplicação ocorrerá a cada quatro meses.

Os avanços na detecção de vulnerabilidades cibernéticas nesta primavera sugerem que esse ritmo pode ter acelerado.

“Fomos surpreendidos nesta primavera e devemos estar preparados para mais surpresas tecnológicas”, disse no evento de 30 de junho.

Da geração de conteúdo à ação autônoma

Breeden enfatizou três fases importantes do desenvolvimento da IA, explicando que, no início da década, os sistemas de IA generativa produziam conteúdo apenas quando solicitados. No final de 2024, os modelos foram treinados para raciocinar sobre problemas de múltiplas etapas. Agora, os sistemas agentes podem planejar e executar sequências de decisões de forma totalmente autônoma, sem qualquer supervisão humana.

Quando aplicada ao setor financeiro, essa trajetória aponta para um sistema em que agentes de IA podem negociar títulos, processar pagamentos e responder a ameaças cibernéticas com intervenção humana limitada. Breeden prosseguiu descrevendo um sistema financeiro que “opera de forma mais autônoma, em grande escala e com maior velocidade”, com agentes atuando em nome de consumidores, comerciantes e plataformas de negociação.

Banco da Inglaterra é o mais preocupado com os riscos cibernéticos

Dentre os diversos riscos à estabilidade financeira, Breeden destacou a segurança cibernética como a questão mais crítica. Ela citou o Instituto de Segurança de IA do governo britânico, quedentuma grande melhoria no que a IA ativa pode fazer na internet.

As mesmas ferramentas que ajudam os defensores a encontrar e corrigir vulnerabilidades também permitem que os atacantes as descubram e as explorem. Breeden alertou que o uso malicioso dessas capacidades "aumenta significativamente a probabilidade de ataques que podem prejudicar a estabilidade financeira"

As observações de Breeden incluíram uma sugestão de que as ferramentas de negociação autônomas podem precisar de "interruptores de segurança" integrados para evitar choques de mercado, o que representaria um desvio das regulamentações atuais.

O boom de investimentos acarreta enormes riscos

Breeden mencionou outra preocupação relativa ao financiamento desses agentes de IA. O Comitê de Política Financeira do Banco concluiu, em abril, que, embora as grandes empresas de tecnologia tivessem inicialmente financiado a criação e a manutenção da infraestrutura de IA com fluxo cash e capital próprio, o uso de financiamento por dívida estava aumentando rapidamente e assumindo novas formas complexas.

Isso significa que uma queda repentina na avaliação de ativos relacionados à IA poderia causar um ripple enorme nos mercados de crédito. O vice-governador do Banco da Inglaterra afirmou que o comitê considerou que “as consequências para a estabilidade financeira de qualquer queda nos preços dos ativos relacionados à IA poderiam aumentar consideravelmente”

Uma avaliação mais aprofundada do comitê sobre este tema é esperada para 7 de julho.

Breeden também argumentou que os bancos centrais precisam se adaptar para usar a IA eles mesmos na supervisão desses sistemas, e não apenas se concentrar em gerenciar os riscos introduzidos pela IA.

Se você está lendo isto, já está um passo à frente. Continue assim assinando nossa newsletter.