Até a OpenAI desistiu de tentar detectar o plágio do ChatGPT | ENBLE

OpenAI desistiu de detectar plágio no ChatGPT | ENBLE

OpenAI, o criador do chatbot de inteligência artificial (IA) extremamente popular ChatGPT, encerrou a ferramenta que desenvolveu para detectar conteúdo criado por IA em vez de humanos. A ferramenta, chamada de Classificador de IA, foi fechada apenas seis meses após seu lançamento devido à sua “baixa taxa de precisão”, afirmou a OpenAI.

Desde que o ChatGPT e serviços concorrentes dispararam em popularidade, houve uma reação coordenada de vários grupos preocupados com as consequências do uso descontrolado da IA. Uma das preocupações é que educadores têm sido particularmente perturbados pela possibilidade de estudantes usarem o ChatGPT para escrever seus ensaios e trabalhos, e depois apresentá-los como se fossem seus.

Rolf van Root / Unsplash

O Classificador de IA da OpenAI era uma tentativa de tranquilizar esses e outros grupos. A ideia era que ele pudesse determinar se um texto foi escrito por um humano ou por um chatbot de IA, oferecendo às pessoas uma ferramenta para avaliar os estudantes de forma justa e combater a desinformação.

No entanto, desde o início, a OpenAI não parecia ter muita confiança em sua própria ferramenta. Em um post no blog anunciando a ferramenta, a OpenAI declarou que “Nosso classificador não é totalmente confiável”, observando que ele identificava corretamente textos escritos por IA de um “conjunto de desafio” apenas 26% das vezes.

A decisão de abandonar a ferramenta não foi anunciada com muito alarde, e a OpenAI não publicou uma postagem dedicada em seu site. Em vez disso, a empresa atualizou o post em que revelou o Classificador de IA, afirmando que “o classificador de IA não está mais disponível devido à sua baixa taxa de precisão”.

A atualização continuou: “Estamos trabalhando para incorporar feedback e atualmente pesquisando técnicas de procedência mais eficazes para texto, além de nos comprometermos a desenvolver e implementar mecanismos que permitam aos usuários compreender se o conteúdo de áudio ou visual é gerado por IA”.

São necessárias ferramentas melhores

Matheus Bertelli / Pexels

O Classificador de IA não é a única ferramenta desenvolvida para detectar conteúdo criado por IA, já que rivais como o GPTZero existem e continuarão a operar, apesar da decisão da OpenAI.

Tentativas anteriores de identificar textos escritos por IA resultaram em falhas espetaculares. Por exemplo, em maio de 2023, um professor reprova acidentalmente toda a sua turma depois de usar o ChatGPT para detectar plágio nos trabalhos dos alunos. Desnecessário dizer que o ChatGPT errou feio, assim como o professor.

É motivo de preocupação quando até mesmo a OpenAI admite que não consegue perceber corretamente o plágio criado por seu próprio chatbot. Isso ocorre em um momento de crescente ansiedade sobre o potencial destrutivo dos chatbots de IA e pedidos de suspensão temporária do desenvolvimento nessa área. Se a IA tiver tanto impacto quanto algumas pessoas estão prevendo, o mundo vai precisar de ferramentas mais robustas do que o falido Classificador de IA da OpenAI.