Acordo inédito de segurança de IA expõe o poder do Vale do Silício, dizem os críticos

Acordo inédito de segurança de Inteligência Artificial expõe o poder do Vale do Silício, afirmam os críticos

Críticos afirmam que a declaração inédita sobre IA, acordada na quarta-feira, não terá impacto real e foi manipulada pelas gigantes de tecnologia.

O comunicado foi assinado por 28 países – e pela União Europeia – que juntos abrangem seis continentes. Eles divulgaram seu pacto na Cúpula de Segurança de IA do Reino Unido em Bletchley Park, onde os decifradores de códigos quebraram a máquina Enigma da Alemanha Nazista durante a Segunda Guerra Mundial.

O novo acordo leva o nome do local. Conhecida como “Declaração de Bletchley”, o comunicado estabelece uma compreensão compartilhada dos perigos e oportunidades da IA.

“Muitos riscos decorrentes da IA são intrinsecamente internacionais e, portanto, são melhor tratados por meio de cooperação internacional”, diz a declaração.

O comunicado também pede ação internacional sobre a “IA de fronteira”. Uma palavra da moda favorita na cúpula, a IA de fronteira engloba modelos avançados e de propósito geral, como o ChatGPT da OpenAI. De acordo com o governo britânico, esses são os sistemas que representam os riscos mais perigosos e urgentes.

Os signatários da declaração concordaram que “riscos substanciais” podem surgir da IA de fronteira. Em alguns casos, alertaram, a IA de fronteira pode causar “danos sérios, até mesmo catastróficos, tanto deliberados como não intencionais”. Mas os críticos argumentam que tais temores foram inflados deliberadamente.

Lewis Liu, CEO da start-up de aprendizado de máquina Eigen Technologies, está entre os críticos mais veementes. O aviso apocalíptico, segundo ele, “é exageradamente influenciado por uma análise profundamente falha e por uma agenda definida por essas grandes empresas de tecnologia que buscam dominar o processo de formulação de políticas”.

“Esse tipo de alarmismo ecoa as palavras da OpenAI e de seus parceiros, que têm sido alguns dos lobistas corporativos mais influentes no período que antecede a Cúpula”, acrescentou ele.

“Existe um verdadeiro medo na comunidade de start-ups de que esse será um fórum onde as gigantes de tecnologia assumirão o controle do volante, tentando regular os sistemas de IA de código aberto, definir os termos do debate e, ao fazer isso, eliminar a concorrência.”

O foco na IA de fronteira também tem irritado os pesquisadores. Sandra Wachter, professora de tecnologia e regulamentação na Universidade de Oxford, argumenta que a automação de empregos, a discriminação e os impactos ambientais são preocupações mais urgentes.

“Infelizmente, isso está fora do escopo desta Cúpula e o foco predominante é no ‘risco de perder o controle’ da IA, no sentido de que a IA desenvolve uma ‘vontade própria’ e representa um risco ‘existencial’ para a humanidade”, disse ela.

“No entanto, não há evidências científicas de que estamos seguindo tal caminho, ou que tal caminho sequer existe. Mas isso distrai dos riscos existenciais reais e já existentes.”

Estilo sobre substância?

Embora a declaração faça advertências audaciosas, ela é muito superficial em detalhes. O que é mais notável é a coalizão de nações que apoiaram o pacto.

Os signatários incluem os Estados Unidos e a China, que fizeram um acordo raro em nível mundial.

Em uma demonstração adicional de união, a secretária de Comércio dos EUA, Gina Raimondo, e o vice-ministro chinês de ciência e tecnologia, Wu Zhaohui, sentaram-se lado a lado em uma sessão, onde cada um deles fez discursos sobre IA.

Entretanto, sua colaboração será extremamente limitada na prática. O comunicado pede “cooperação internacional” e “diálogo global inclusivo”, mas não propõe regras específicas, roteiro ou princípios éticos.

“Esta declaração não terá nenhum impacto real na forma como a IA é regulamentada”, disse Martha Bennett, vice-presidente e analista principal da empresa de consultoria empresarial Forrester.

Bennett observa que já existem várias políticas que contêm substância muito maior. Entre elas estão o Ato de IA da União Europeia, a Ordem Executiva da Casa Branca sobre IA e o “Código de Conduta Internacional” do G7 para a IA.

“Além disso”, acrescentou Bennett, “os países e entidades representados na Cúpula de IA não teriam concordado com o texto da Declaração de Bletchley se ele contivesse algum detalhe significativo sobre como a IA deve ser regulamentada.”

Apesar de ter dúvidas sobre os impactos no mundo real, Bennett acredita que o acordo pode servir a um propósito útil.

“A Cúpula e a Declaração de Bletchley são mais sobre [enviar] sinais e demonstrar disposição para cooperar, e isso é importante”, disse ela. “Temos que esperar para ver se boas intenções são seguidas por ações significativas.”

Talvez não tenhamos que esperar muito. Durante o evento de Bletchley Park, foi anunciado que a Coreia do Sul sediará uma segunda cúpula em seis meses. Outra acontecerá na França. No entanto, pelo que se sabe, a legislação nacional obstruirá qualquer acordo internacional significativo.