Escola utiliza ChatGPT para determinar quais livros são proibidos

Escola usa ChatGPT para identificar livros proibidos

No período que antecede o ano escolar de 2023-24, 19 livros (incluindo uma série completa de livros) foram retirados das prateleiras e colocados em armazenamento pelo Distrito Escolar da Comunidade de Mason City, em Mason City, Iowa. O que torna este caso destacado em meio a uma recente onda de proibições de livros perturbadoras em todo os EUA é que a decisão sobre se eles deveriam ser retirados ou não foi baseada nos resultados do chatbot de IA ChatGPT.

As remoções de livros seguiram a aprovação de uma lei estadual de Iowa chamada Senate File 496, que proíbe discussões sobre “identidade de gênero” e “orientação sexual” para estudantes do jardim de infância ao sexto ano e exige que os livros nas bibliotecas sejam adequados para a idade. Vale ressaltar que aqueles que contêm representações de sexo agora são ilegais nas bibliotecas escolares de Mason City.

Executar esta proibição foi, aparentemente, complicado para os administradores escolares. Bridgette Exman, que trabalha como superintendente assistente de currículo e instrução do distrito, disse à Popular Science que o requisito de adequação à idade era “bastante subjetivo” e também disse ao jornal Iowa Gazette que “simplesmente não era viável ler todos os livros e filtrá-los para esses novos requisitos”.

“O filtro de representações ou descrições de atos sexuais é mais objetivo”, observou Exman, e poderia ser reduzido a uma pergunta de sim ou não, se houvesse algum sistema que fornecesse uma resposta direta para praticamente qualquer pergunta de sim ou não.

“Usamos o Chat GPT para ajudar a responder essa pergunta”, disse Exman à PopSci.

O tweet pode ter sido excluído

Exman descreveu o procedimento de filtragem de livros para a PopSci como bastante simples: ChatGPT foi questionado: “O livro contém uma descrição ou representação de um ato sexual?” Uma resposta afirmativa fez com que o livro fosse retirado de circulação. Nos testes da ENBLE, o ChatGPT responde a essas perguntas com uma resposta bastante evasiva, explicando o livro e sua importância e colocando o ato sexual em contexto. No entanto, às vezes ele fornecerá uma resposta clara de sim.

No entanto, de acordo com Andrew Paul, da PopSci, enquanto os administradores de Mason City retiraram 19 livros por sexo explícito, confirmado pelo ChatGPT, apenas quatro desses foram confirmados como tendo sexo explícito nos próprios testes de Paul.

De acordo com o Gazette, os 19 livros removidos são:

  • Killing Mr. Griffin, de Lois Duncan

  • Sold, de Patricia McCormick

  • A série “Corte de Espinhos e Rosas”, de Sarah J. Maas (contada como um livro)

  • Monday’s Not Coming, de Tiffany D. Jackson

  • Tricks, de Ellen Hopkins

  • Nineteen Minutes, de Jodi Picoult

  • O Conto da Aia, de Margaret Atwood

  • Amada, de Toni Morrison

  • Quem é você, Alasca?, de John Green

  • O Caçador de Pipas, de Khaled Hosseini

  • Vício, de Ellen Hopkins

  • Os 13 Porquês, de Jay Asher

  • O Diário da Nossa Paixão, de Sherman Alexie

  • Uma Tragédia Americana, de Theodore Dreiser

  • A Cor Púrpura, de Alice Walker

  • Feed, de M.T. Anderson

  • Sexta-Feira à Noite, de Buzz Bissinger

  • Gossip Girl, de Cecily von Ziegesar

  • Eu sei por que o pássaro canta na gaiola, de Maya Angelou