Podemos perder o controle de forma irreversível da IA autônoma, alertam os principais acadêmicos

Alerta dos principais acadêmicos a IA autônoma pode assumir o controle de forma irreversível

Cartas abertas de aviso sobre os riscos da IA estão se acumulando – com os principais tecnólogos e pesquisadores soando o alarme sobre o desenvolvimento incontrolável, ameaças existentiais e a falta de regulamentação.

Agora, apenas uma semana antes da AI Summit em Londres, uma nova carta pede às empresas e governos que assegurem o uso seguro e ético da IA. Os signatários incluem um número de acadêmicos europeus, três ganhadores do Prêmio Turing e até mesmo os chamados “godfathers” da IA, Yoshua Bengio e Geoffrey Hinton.

Não por coincidência, em maio passado, Hinton deixou o Google para falar livremente sobre os perigos iminentes da inteligência artificial. Para adicionar à atmosfera distópica, um mês antes, Elon Musk alertou que a IA poderia levar à “destruição da civilização” e Sundar Pichai, do Google, admitiu que os perigos “o mantêm acordado à noite”.

Na carta, publicada na terça-feira, os signatários ressaltaram que, embora as capacidades da tecnologia possam ter um impacto imensamente positivo na humanidade, a falta de investimento em segurança e mitigação de danos pode ter o efeito exatamente oposto.

Eles observaram que a IA já superou as habilidades humanas em certos domínios, alertando que “habilidades e comportamentos imprevistos” podem surgir sem programação explícita.

“Sem cautela suficiente, podemos perder irreversivelmente o controle de sistemas autônomos de IA, tornando a intervenção humana ineficaz”, diz a carta. Isso poderia levar a uma série de perigos preocupantes e crescentes, que vão desde crimes cibernéticos e manipulação social até perda em larga escala da biosfera e… extinção.

Tendo em vista os riscos envolvidos, os signatários estão pedindo que as empresas destinem pelo menos um terço de seus orçamentos de P&D para segurança e ética da IA. Eles também estão instando os governos a impor padrões e regulamentações e facilitar a cooperação internacional, a fim de evitar imprudência e uso indevido.

O próximo AI Act da União Europeia será a primeira regulamentação específica para IA no mundo, buscando estabelecer um conjunto claro de regras para o desenvolvimento da tecnologia. Mas, apesar dos avisos, o setor empresarial expressou preocupações diferentes, temendo que a regulamentação possa sufocar a inovação.

De fato, conciliar a regulamentação da IA e o progresso parece ser um dos maiores desafios enfrentados pelos governos hoje. No entanto, a dificuldade apresentada não significa (e não deve significar) que a segurança e o gerenciamento sejam de importância secundária.

“Para direcionar a IA para resultados positivos e afastá-la de catástrofes, precisamos nos reorientar. Existe um caminho responsável, se tivermos sabedoria para segui-lo”, concluem os acadêmicos.