Os EUA falharam em aprovar regulamentação de IA. Nova York está intervindo
Os Estados Unidos fracassaram na aprovação da regulação da inteligência artificial. Nova York está intervindo.
Enquanto o governo federal dos EUA luta para regulamentar a IA de maneira significativa – ou até mesmo funcionar – a cidade de Nova York está preenchendo a lacuna de governança.
Esta semana, a cidade apresentou um Plano de Ação em IA que o prefeito Eric Adams chama de primeiro do tipo no país. O conjunto de cerca de 40 iniciativas políticas tem o objetivo de proteger os residentes contra danos como viés ou discriminação causados pela IA. Isso inclui o desenvolvimento de padrões para IA adquirida por agências da cidade e novos mecanismos para avaliar o risco da IA usada pelos departamentos da cidade.
A regulamentação da IA em Nova York pode em breve se expandir ainda mais. A vereadora Jennifer Gutiérrez, membro do comitê de tecnologia do órgão, apresentou hoje uma legislação que criaria um Escritório de Integridade de Dados Algorítmicos para supervisionar a IA na cidade de Nova York.
Se estabelecido, o escritório forneceria um local para os cidadãos registrarem reclamações sobre sistemas de tomada de decisão automatizados usados por agências públicas, funcionando como um ombudsman para algoritmos nos cinco distritos. Também avaliaria os sistemas de IA quanto a viés e discriminação antes de sua implementação pela cidade.
Vários senadores dos EUA sugeriram criar uma nova agência federal para regular a IA este ano, mas Gutiérrez diz que aprendeu que não vale a pena esperar por ação em Washington, DC. “Temos uma responsabilidade única porque muita inovação acontece aqui”, diz ela. “É muito importante liderarmos.”
- A OpenAI está trabalhando em uma ferramenta para detectar imagens g...
- A IA está se tornando mais poderosa, mas também mais secreta
- O DALL-E 3 da OpenAI já está disponível para usuários do ChatGPT Pl...
A vereadora Jennifer Gutiérrez, da cidade de Nova York, deseja criar um escritório para regular a IA.
Fotografia: William Alatriste
Gutiérrez apoia um requisito de teste para algoritmos usados pelo governo da cidade porque a IA está começando a ser amplamente utilizada, segundo ela. Os departamentos da cidade estão interessados em usar software de IA para tarefas administrativas, como avaliar o risco de uma criança se tornar vítima de abuso ou as taxas de aprendizado dos alunos. Ela também está cautelosa com o gosto do prefeito Eric Adams por tecnologias como cães robóticos e IA para fazer ligações automáticas em idiomas que ele não fala. A cidade de Nova York tem uma reputação como campo de testes para tecnologia de vigilância, desde o crescente uso de drones ao uso questionável do reconhecimento facial em habitação e estádios, bem como pela polícia.
Nova York já estava à frente do governo federal em relação à regulamentação da IA, mesmo antes desta semana. Uma força-tarefa da cidade foi formada em 2018 para avaliar seu uso da tecnologia. Uma lei que exige que os algoritmos de contratação utilizados pelas empresas sejam verificados quanto a viés entrou em vigor este ano. No entanto, algumas proteções foram reduzidas. Em janeiro de 2022, Adams cancelou uma ordem executiva assinada por seu antecessor, Bill de Blasio, que criou um Oficial de Política e Gestão de Algoritmos para trabalhar com agências da cidade na implementação equitativa da IA. Um relatório emitido pelo oficial em 2020 afirmou que as agências da cidade utilizavam 16 tipos de algoritmos que poderiam ter um impacto substancial nos direitos das pessoas, mas não examinou todos os modelos de IA utilizados pelo Departamento de Polícia de Nova York.
Gutiérrez diz que ainda não possui uma compreensão abrangente dos algoritmos utilizados pelas agências da cidade. Uma auditoria divulgada em fevereiro pelo controlador do estado de Nova York constatou que a cidade possui uma abordagem ad hoc e incompleta em relação à governança da IA. Isso significa que a cidade não pode “assegurar que o uso de IA pela cidade é transparente, preciso e imparcial e evita impactos díspares”.
Julia Stoyanovich, uma pesquisadora de IA e diretora do Centro de IA Responsável da Universidade de Nova York, ajudou a compilar esse relatório, e ela diz que apoia a legislação proposta por Gutiérrez, desde que a agência resultante funcione como um órgão independente e externo. Isso será determinado se o projeto conseguir apoiadores no conselho da cidade e avançar para aprovação.
Stoyanovich é menos elogiosa em relação à escolha da cidade de lançar o Plano de Ação de IA nesta semana no mesmo dia em que a cidade expandiu um chatbot chamado MyCity, que foi projetado para responder perguntas de pequenas empresas sobre coisas como licenças e autorizações necessárias. Ela considera problemático que o projeto tenha escapado das disposições do Plano de Ação de IA, como a busca de opinião pública. O porta-voz do escritório do prefeito, Jonah Allon, diz que o chatbot foi lançado ao mesmo tempo para servir como um teste de pressão para o processo de avaliação descrito no plano, que abordará o uso atual e futuro de IA.
Nova York pode ter sido uma das primeiras a regular a IA, mas não tem sido consistente, diz Stoyanovich. “Especialmente considerando que fomos os primeiros a começar, me dói muito ver que não chegamos muito longe cinco ou seis anos depois e não há uma articulação de princípios de governança de IA dentro do governo da cidade”, diz ela.
Nos poucos lugares onde os estados, cidades e autoridades dos EUA se moveram para regular a IA, a ideia de exigir que os sistemas sejam avaliados para avaliar possíveis danos antes da implantação se tornou uma abordagem comum. Isso está presente em um decreto executivo assinado pelo governador da Califórnia, Gavin Newsom, no mês passado, e em um acordo voluntário feito pelo presidente Biden com grandes empresas de IA em julho. Um ponto comum de desacordo é se tais avaliações podem ser feitas internamente ou por uma terceira parte independente. Espera-se que a Casa Branca publique um decreto executivo que trate da regulamentação da IA nas próximas semanas, fontes familiarizadas com o assunto disseram ao ENBLE. Enquanto a Câmara tem lutado para eleger um novo presidente nesta semana, é improvável que o Congresso debata ou aprove uma legislação sobre IA em breve.
