Gary Gensler pede regulamentação nos Estados Unidos para os riscos da IA para a estabilidade financeira

Gary Gensler pressiona por regulamentação nos EUA sobre os riscos da IA para a estabilidade financeira

A rápida adoção da inteligência artificial (IA) no setor financeiro pode representar riscos significativos para a estabilidade financeira e levar a outra crise dentro da próxima década, alertaram os principais reguladores.

Numa recente entrevista ao Financial Times, Gary Gensler, presidente da Comissão de Valores Mobiliários dos EUA (SEC), afirmou que a concentração de poder em poucas plataformas dominantes de IA está criando riscos sistêmicos perigosos que podem desencadear uma crise já no final dos anos 2020.

Segundo Gensler, é “quase inevitável” que a IA desencadeie uma crise financeira dentro de uma década. O que preocupa os reguladores é o potencial para comportamento em rebanho se muitas empresas confiarem nos mesmos modelos de IA e agregadores de dados subjacentes.

Por exemplo, as instituições de crédito imobiliário podem usar um sistema de IA de uma empresa de tecnologia para avaliar a capacidade de crédito. Se esse modelo tiver falhas, isso poderia levar a um aumento nos inadimplementos e ameaçar o mercado imobiliário.

Acho que no futuro teremos uma crise financeira… E nos relatórios pós-ação, as pessoas vão dizer: ‘Eureka! Havia um único agregador de dados ou um único modelo em que confiamos’. Talvez seja no mercado imobiliário. Talvez seja em algum setor do mercado de ações.

Gensler acrescentou que a “economia de redes” da IA torna esse cenário provável. Quanto mais empresas usarem um sistema de IA, melhores serão suas previsões com mais dados. Isso cria um ambiente em que um ou dois modelos de IA dominam uma indústria.

O problema de regulamentar os riscos “horizontais” da IA

Grande parte da regulamentação financeira atual concentra-se em empresas individuais e setores, o que representa desafios para a supervisão dos riscos da IA que atravessam mercados.

“Honestamente, é um desafio difícil […] É uma questão difícil de estabilidade financeira para abordar, porque a maior parte da nossa regulamentação é sobre instituições individuais, bancos individuais, fundos de mercado monetário individuais, corretores individuais; é apenas na natureza do que fazemos. E isso é sobre um assunto horizontal, em que muitas instituições podem confiar no mesmo modelo básico subjacente ou agregador de dados subjacente.”

A SEC propôs exigir que corretoras e consultores de investimentos divulguem potenciais conflitos de interesse em suas análises preditivas. Mas Gensler disse que isso “ainda não aborda essa questão horizontal” de dependências de IA interconectadas.

Os reguladores dos EUA estão explorando a coordenação entre agências e novas estruturas de supervisão para monitorar os riscos sistêmicos da IA, embora o progresso tenha sido lento. Gensler levantou a questão em organismos internacionais como o Conselho de Estabilidade Financeira.

Os riscos de concentração da IA como serviço

Outra preocupação é a consolidação do fornecimento de IA pelas grandes empresas de tecnologia. Empresas como Google, Amazon e Microsoft possuem infraestrutura de nuvem robusta para hospedar modelos de IA complexos e vendê-los “como serviço” para instituições financeiras.

“Quantos provedores de nuvem [que tendem a oferecer IA como serviço] temos neste país?”

Essa concentração cria pontos únicos de falha. Se um modelo de IA nos servidores da Amazon tiver problemas, poderá afetar muitos bancos, seguradoras e empresas de negociação que dependem dele.

A Europa lidera a governança da IA

Enquanto os reguladores dos EUA ainda estão estudando os riscos da IA, a Europa adotou uma ação mais decisiva. NESTE ANO, a União Europeia está prestes a aprovar legislação que impõe requisitos rigorosos em relação à transparência, privacidade de dados e redução de viés nos sistemas de IA.

O presidente da SEC tem uma agenda regulatória ambiciosa, abordando questões como divulgações sobre mudanças climáticas, supervisão de criptomoedas e regras de private equity – todas enfrentando desafios legais. Garantir a estabilidade da IA pode ser um dos testes mais complexos para os reguladores dos EUA nos próximos anos.

Crédito da imagem em destaque: Tara Winstead; Pexels; Obrigado!