Grimes quer ser menos famosa (e substituída por IA)

Grimes wants to be less famous (and replaced by AI)

NO EPISÓDIO DESTA SEMANA do Have a Nice Future, Gideon Lichfield e Lauren Goode são acompanhados por c, ou como ela é mais conhecida, Grimes. No início deste ano, ela lançou o Elf.tech, um site onde seus fãs podem usar IA para criar suas próprias músicas da Grimes com base em sua voz e partes isoladas. Eles falam sobre por que c quer empurrar os limites da arte de IA e por que, apesar de ser uma otimista em relação à tecnologia, ela está preocupada com o futuro da IA.

Confira a Grande Entrevista com c feita por Steven Levy na edição de setembro da ENBLE. Se você perdeu nosso episódio com Puja Patel, editora-chefe da Pitchfork, sobre a nova onda de IA generativa na música – e o Drake gerado por IA – você pode se atualizar aqui. Também temos muitas outras histórias sobre tudo relacionado à inteligência artificial.

Lauren Goode é @LaurenGoode. Gideon Lichfield é @glichfield. Ligue para a linha direta principal em @ENBLE.

Você sempre pode ouvir o podcast desta semana através do player de áudio nesta página, mas se você quiser se inscrever gratuitamente para receber todos os episódios, veja como:

Se você está em um iPhone ou iPad, basta tocar neste link ou abrir o aplicativo chamado Podcasts e procurar por Have a Nice Future. Se você usa Android, pode nos encontrar no aplicativo Google Podcasts apenas tocando aqui. Você também pode baixar um aplicativo como Overcast ou Pocket Casts e procurar por Have a Nice Future. Estamos também no Spotify.

Observação: Esta é uma transcrição automatizada, que pode conter erros.

Gideon: Eu odeio o fato de começar cada frase com “então”. Isso é tão… é tão sem imaginação!

Lauren: Olá, eu sou Lauren Goode.

Gideon: E eu sou Gideon Lichfield. E este é o Have a Nice Future, um podcast sobre o quão assustadoramente rápido tudo está mudando.

Lauren: A cada semana, conversamos com alguém que tem ideias grandes, audaciosas e às vezes inquietantes sobre o futuro, e perguntamos a eles como podemos nos preparar para viver nele.

Gideon: Nosso convidado desta semana é a músico c, ou como ela é mais conhecida, Grimes. Você nos ouvirá nos referir a ela pelos dois nomes neste episódio. Na primavera passada, ela lançou o Elf.Tech, onde seus fãs podiam criar músicas com uma versão gerada por IA de sua voz e som.

[Música]

Grimes (áudio de arquivo): Estou interessada em ser menos famosa. Estou interessada em fazer arte mais complicada para um público menor que esteja mais interessado em coisas mais filosoficamente conduzidas, em arte mais complicada que talvez tenha menos apelo popular. Tipo, eu só quero fazer coisas que não tenham sido feitas antes. Mais do que ter um sucesso ou algo assim.

Lauren: Então, nossos super fãs podem se lembrar que alguns meses atrás estávamos conversando com Puja Patel, editora-chefe da Pitchfork, sobre a nova onda de IA generativa na música e como todos estavam pirando com o Drake gerado por IA. Nos bastidores, estávamos tentando entrar em contato com c, porque achávamos que suas ideias seriam muito valiosas, e finalmente conseguimos trazê-la para o programa.

Gideon: Também temos uma entrevista com ela feita por Steven Levy na edição de setembro da ENBLE, que acabou de ser publicada online no ENBLE.com esta semana.

Lauren: Isso mesmo. E queríamos conversar com c no podcast porque ela é uma artista que está abraçando a IA em vez de fugir dela com medo.

Gideon: Certo. Então ela colocou sua própria música e voz online e disse aos seus fãs, basicamente, “Façam o que quiserem com isso.” E se isso parece um pouco fora do comum, bem, isso resume um pouco a conversa que você está prestes a ouvir. Também falamos muito sobre as aplicações práticas da IA.

Lauren: Sim, ela fala muito sobre LLMs, ou modelos de linguagem grandes, que são a base dessa nova era da IA. E ela é geralmente otimista, mas também ouvimos um pouco sobre áreas em que ela está preocupada com a IA. E acho que a perspectiva dela é especialmente interessante aqui, porque ela está mais imersa nessa tecnologia do que alguns outros artistas. Ela até está passando tempo em empresas de tecnologia atualmente, incubando ideias. E, é claro, ela está criando dois filhos com Elon Musk.

Gideon: Nossa conversa, como você pode imaginar, foi em várias direções diferentes. Falamos sobre arte, educação, política e a natureza da masculinidade.

Lauren: Sim, a última foi uma verdadeira surpresa. Mas antes de irmos para a entrevista, um pouco de negócios. Queremos ouvir você. De verdade. Nós lemos as críticas. Temos um endereço de e-mail. Você pode nos enviar um e-mail em [email protected], ou apenas deixar algumas notas em seu aplicativo de podcast favorito. Nos diga o que você quer ouvir mais. Nos diga o que você não gosta. Nós aguentamos, somos adultos aqui. Mas apenas nos mande uma mensagem. Adoramos ouvir nossos ouvintes.

Gideon: E com isso fora do caminho, nossa conversa com C está chegando logo após esse intervalo.

[Música]

Gideon: OK. Bem, c, a artista também conhecida como Grimes, seja bem-vinda ao Have a Nice Future.

Grimes: Sim, obrigada por me receberem.

Lauren: Você está tendo um futuro agradável?

Grimes: Ah, na verdade, estou tendo um futuro bastante bom. Não tenho certeza se todo mundo está tendo um bom futuro, o que me deixa triste, mas, tipo, pessoalmente, estou tendo um bom futuro.

Lauren: O que você quer dizer com isso?

Grimes: Ah, acho que as pessoas estão muito estressadas, e não sem motivo, mas, eu, eu sou bastante otimista. Sim. Na verdade, estou mais otimista do que eu estava alguns anos atrás.

Gideon: Bem, queríamos conversar com você porque você parece, pelo menos de certa forma, o epítome do otimista tecnológico nas artes. Porque quando aquela música falsa do Drake/The Weeknd foi lançada – a gerada por IA – sua reação não foi entrar em pânico como todo mundo, mas foi meio que o oposto exato. Você disse: “Eu quero que as pessoas façam isso com a minha música”. E você lançou o site Elf.Tech, que permite às pessoas usar sua voz e suas partes para criar sua própria música gerada por IA. Então, de onde veio esse instinto de correr de cabeça para a coisa nova assustadora?

Grimes: Bem, eu sinto que há algumas coisas. Uma das razões pelas quais eu não senti uma quantidade louca de preocupação é que a indústria da música é estranhamente, eu diria patologicamente, litigiosa. Então eu pensei, sabe, isso na verdade não é uma ameaça para as pessoas, porque os poderes constituídos não vão permitir que isso se torne uma força destrutiva, como é fácil retirar coisas assim. Eu sempre odiei o quão litigiosa é a indústria da música. Sempre foi uma das coisas que mais odeio nela, mas, eu, acho que é realmente bom para a IA, porque acho que vai retardar artificialmente como a IA é usada – e especialmente coisas generativas – em música especificamente. É meio que a indústria perfeita para estudos de caso, porque teremos um pouco mais de tempo do que todo mundo.

Lauren: Você deve ter pensado em usar IA na música por um tempo antes, sabe, da atenção que veio para o mashup do Drake e The Weeknd, certo? Quanto tempo você vem pensando nisso?

Grimes: Ah, na verdade, tentamos fazer isso em 2019, ou algo assim. Nós, a tecnologia simplesmente não estava disponível, mas sempre quisemos tornar o Grimes de código aberto. Antes, isso simplesmente não era tecnicamente possível, mas isso é algo que temos tentado descobrir ativamente há muito tempo, na verdade.

Lauren: Acho que há essa concepção de que não há muita arte envolvida na criação de faixas de música com IA. As pessoas pensam, ah, sabe, é como o DALL-E, você apenas digita uma dica e há como um “bip bop bop” de música de robô e, de repente, você tem uma música falsa da Grimes. Como isso realmente funciona?

Grimes: Sim. Então, uma das grandes coisas que eu realmente me importo é que, eu realmente acho que os humanos, sabe, precisamos trabalhar, sabe, precisamos nos desafiar. Não aprendemos se não fizermos isso. Eu sou meio contra, sabe, apenas IA generativa. Acho que talvez haja alguma utilidade nisso, mas acho que precisamos pensar sobre isso com muito cuidado. Mas, ah, a maneira como isso funciona, especificamente, é mais como um sintetizador. Tipo, se você tem uma faixa vocal, pode alterar o timbre dela. Então, ele usa, tipo, o timbre vocal da minha voz em vez da sua voz. Portanto, você pode pegar qualquer acapella e ter a voz da Grimes. Mas a maneira como isso funciona é que as pessoas ainda estão escrevendo, produzindo e até cantando essas músicas. Elas estão apenas basicamente trocando a voz delas pela minha voz.

Lauren: O que mais te surpreendeu sobre o que foi feito usando AI Grimes até agora?

Grimes: Existem algumas músicas que são como, eu realmente, realmente, realmente gostaria de tê-las feito. E essas são as que mais me surpreenderam, onde eu fiquei tipo, é tão bizarro. É, é tipo, sabe, eu venho falando sobre fazer, tipo, techno viking, como um techno viking etéreo, há muito tempo, e eu pessoalmente tentei e falhei nisso algumas vezes.

Gideon: Techno viking etéreo. Eu quero ouvir isso agora.

[Risadas]

Lauren: Sim. Existe uma categoria para isso no Spotify?

Grimes: Sim, não, mas foi apenas como, foi tão louco porque foi tipo, eles fizeram essa coisa. Como, assim como as pessoas que fizeram, elas têm certas habilidades tanto em termos de produção de techno quanto em termos de como, tipo, a garota que cantou tem meio que, obviamente, é treinada em algum tipo de estilo de canto celta viking que eu não sou treinada. E eles fizeram algo que eu fiquei tipo, “Meu Deus, eu queria ter feito isso tanto.” Mas então eu fiquei tipo, isso é exatamente como, a razão pela qual isso é ótimo é como se eu tivesse que aprender e estudar tudo isso para fazer isso, e eu, eu, eu não sei, tipo, isso realmente me impressionou. Tipo, eu fiquei extremamente emocionada com isso na verdade. Foi meio como, parecia, tipo, se você se orgulha do seu filho ou algo assim, é como se seu legado estivesse fazendo algo assim, eu não sei, como se eu fosse a avó chorona enquanto meu filho assume o negócio da família ou algo assim. Tipo, foi interessante ver alguém fazer, tipo, uma versão melhor da coisa que eu estava mirando.

Gideon: Você acha que Elf.Tech é algo que outros artistas vão usar, ou, sabe, algo assim, essa ideia de licenciar sua voz e suas faixas para o público? Ou é mais como uma manobra única que você fez por ser a primeira? Porque, eu acho que estou perguntando isso porque parece que vai haver um apetite limitado para o que é essencialmente fan fiction musical. E eu não sei quantos artistas vão sentir que vale a pena fazer isso, ou quantos ouvintes vão sentir que eles querem criar e ouvir esse tipo de coisa, mas eu posso estar errado.

Grimes: Acho que é muito difícil dizer. Acho que, tipo, eu queria que o Drake/The Weeknd fizesse isso, porque acho que se um artista realmente grande fizesse isso, faz mais sentido fazer com um artista maior do que eu, porque então se alguém escrevesse um sucesso legítimo, tipo, eu não sei, só teria mais, tipo, potencial. Estou curiosa para ver. Na verdade, ainda não fizemos nenhuma promoção das coisas dos fãs, estamos apenas organizando e classificando. Então estou curiosa para ver o que acontece quando realmente passarmos pelo processo promocional com isso, porque algumas coisas são muito boas.

Lauren: Isso não te ameaça de alguma forma? Ou por que não te ameaça que alguém esteja fazendo arte usando sua voz que você ainda não fez?

Grimes: Não sei se quero continuar muito com música. Não sei se você acompanhou todo o ciclo do Grimes, mas assim—

Lauren: Mm-hmm.

[Risadas]

Grimes: Eu sou uma figura muito controversa na internet, e na verdade eu prefiro ser, tipo, menos famosa? Tipo, eu quero me envolver mais com arte performática assim e com o lado tecnológico das coisas. E, sabe, Grimes sempre foi mais sobre arte performática e mais sobre como interagir com a tecnologia do que apenas músicas divertidas. Sempre foi meio que sobre o limite da tecnologia e o que posso fazer com isso. Minha identidade não está necessariamente muito ligada a Grimes como uma artista musical. Acho que minha identidade está mais ligada a, tipo, o que Grimes é de uma forma de arte performática. E eu sou meio que—

Lauren: Parece que você está em uma fase de reinvenção.

Grimes: Sim, como eu, eu, eu, eu, eu estou interessada em ser menos famosa. Estou interessada em fazer arte mais complicada para um público menor, que está mais interessado em algo mais filosófico, mais complicado, talvez com menos apelo popular. Eu só quero fazer coisas que nunca foram feitas antes, mais do que ter um sucesso.

Gideon: Vamos falar um pouco mais sobre o papel mais amplo da IA na arte. Então, quando você falou com nosso colega, Steven Levy, que te entrevistou para a revista, uma das coisas que você disse a ele foi: “O que me empolga na IA é que ela realmente interfere no que é um artista, no que é criatividade e no que é música. A arte me parece fundamental para a experiência humana”. Mas, ao mesmo tempo, você também disse que queria ser, eu acho – qual era a palavra? – uma artista autorreplicante replicada pela IA, e que a IA poderia substituir os artistas humanos. Então, onde, qual é a relação entre a IA e o criador humano?

Grimes: Eu acho que muitas pessoas pensam que é tudo ou nada; sim ou não; a IA substitui todos os artistas, ou não. Parte do que estou fazendo não é necessariamente, como, é abordar isso de forma muito amorale e é abordar isso mais como um experimento. Onde isso é destrutivo? Onde isso é positivo? Eu acho que um dos maiores perigos da IA agora é – estou menos preocupada com uma superinteligência de IA dominando o mundo do que estou com o fato de que os LLMs essencialmente desestimulam completamente qualquer pessoa de aprender a escrever novamente, e, como nossa relação com a linguagem está fundamentalmente danificada para sempre.

Gideon: Sim. Nós também nos preocupamos mais com isso.

Grimes: Sim. E tipo, você sabe, a maneira como as pessoas, tipo, fariam jailbreak nos LLMs iniciais e meio que os forçariam a fazer coisas ruins ou perigosas para que pudéssemos descobrir onde precisam estar as paradas e os sistemas de segurança –

Lauren: Mm-hmm.

Grimes: Tipo, eu meio que quero fazer coisas de arte perigosas e ver onde isso é realmente prejudicial.

Gideon: Tipo, o que seria um exemplo de uma coisa de arte perigosa?

Grimes: Acho que é possível que a música generativa – completamente generativa – possa ser muito ruim. Também pode ser muito bom, porém. Mas, tipo, quero, tipo, levar uma geração antes de lançarmos todas essas coisas de arte generativa. Tipo, se você tem algo em que pode apertar um botão, é como Midjourney, e pode apenas dizer: “Eu quero esse tipo de música.” E ela é treinada em toda a música já feita e apenas gera a melhor música que você já ouviu. Em que ponto estamos nos prejudicando como espécie? Tipo, acho que, sabe, é como a IA vai resolver partes da ciência e da medicina que levariam uma eternidade para nós ou talvez nem conseguíssemos resolver, ou, sabe, são apenas quantidades absurdas de processamento de dados que levariam anos e anos para as pessoas fazerem, se é que conseguiriam. Isso faz sentido para mim. Substituir fundamentalmente os artistas? Parece algo em que é apenas como, por quê?

Lauren: Hmm.

Grimes: Acho que é valioso buscar os limites da criatividade. Você sabe, não estou dizendo que não devemos construir essas ferramentas, mas estou dizendo que talvez essas ferramentas devam estar em museus, ou talvez essas ferramentas só devam produzir música de baixa qualidade, para que ainda precisemos saber como fazer música. Ainda precisamos ter agência no processo. Tipo, podemos gerar algo e ter ideias legais, mas, tipo, você ainda tem que voltar e, tipo, recriá-lo se quiser lançá-lo profissionalmente.

Lauren: Parece que você realmente tem preocupações morais sobre isso, porém. Tipo, você diz que não está abordando isso moralmente, está abordando isso experimentalmente. Você usou a palavra estressado algumas vezes no início deste podcast, isso realmente me chamou a atenção. Isso não está dizendo que você está estressado, mas que as pessoas estão estressadas com a tecnologia e suas implicações, e você sente fortemente que se tivéssemos apenas música totalmente gerada por IA, isso seria ruim. Ou se as crianças não estivessem aprendendo a escrever porque os LLMs estavam fazendo todo o trabalho, isso seria ruim. Quer dizer, isso está atribuindo um valor moral a essa tecnologia, certo? E isso parece ser realmente uma consideração importante para você enquanto a explora.

Grimes: Então, okay. Aqui está a coisa complicada. Acho errado não experimentar e ver, mas sim, o que estou dizendo é que a tecnologia deveria existir, mas talvez não deveria ser algo que se pode ter em casa. Sabe o que quero dizer? Acho que deveria haver limites para como ela é usada. Não sei se as LLMs deveriam ser algo a que as crianças têm acesso. Ou talvez tenhamos LLMs, mas não tenho certeza se devemos fazer LLMs como as de Shakespeare. É um grande debate que continuo tendo, porque tenho um amigo que está trabalhando para criar o maior escritor de todos os tempos, e eu pergunto, por que você quer criar o maior escritor de todos os tempos? Por que queremos…

Lauren: O maior escritor LLM, você quer dizer? Como um modelo?

Grimes: Sim, sim. Tipo, por que queremos fazer, por que queremos fazer um Shakespeare 10 vezes melhor? Por que queremos tirar isso dos seres humanos? Especialmente porque sinto que a linguagem especificamente é algo com o qual coevoluímos. A linguagem é algo muito diferente de resolver ciência. A linguagem faz parte de nós. Precisamos dela para sobreviver. A metáfora que sempre uso é que é como nossas mitocôndrias. As mitocôndrias não fazem parte de nós. Elas não compartilham nosso DNA, mas é uma relação simbiótica. Elas vivem em nossos corpos e precisamos delas para sobreviver. E a linguagem é, de certa forma, parecida, e sinto que antes de mudarmos fundamentalmente nossa relação com aquilo que realmente nos torna humanos, devemos fazer mais pesquisas, fazer testes. Devemos pensar muito, muito, muito, muito cuidadosamente sobre isso.

Lauren: Quero voltar a algo que aconteceu logo após você lançar o Elf.Tech. Inicialmente, você não impôs limites ao que as pessoas poderiam criar com suas amostras, mas logo depois teve que publicar um aviso dizendo que não queria letras tóxicas. Quero dizer, você basicamente fez um apelo pela decência na internet. Você sabe, sem hinos nazistas. Você mencionou — a menos que seja uma brincadeira — que realmente pediu para as pessoas não serem babacas. Quero dizer, que responsabilidade você acha que tem para tentar impedi-las como pessoa que criou uma plataforma, e onde você acha que essa linha deve ser traçada, sabe, em relação às pessoas que estão usando — ou potencialmente abusando — de algo como uma plataforma de geração de música?

Grimes: Acho que é mais sobre o experimento. Na verdade, acho que deepfakes deveriam ser potencialmente ilegais. Na verdade, acho que talvez não precisemos deles. Na verdade, talvez não haja uma utilidade em usar a voz da Grimes. Não vejo uma vantagem imensamente grande, mas vejo muitas desvantagens com deepfakes em geral — visual, áudio, qualquer coisa. Isso pode causar muita agitação — agitação política.

Lauren: Então você está adotando uma posição bem rígida. Você está dizendo que deepfakes simplesmente não deveriam ser legais. Eles não deveriam ser permitidos.

Grimes: Não tenho certeza. Acho que vale a pena considerar. Ou, tipo, a outra coisa é que deveria ser realmente orientado pelo consentimento. O que eu gosto é, sabe, potencialmente fazer, por exemplo, uma LLM que seja treinada em tudo que Aristóteles já escreveu e, sabe, se eu tivesse 18 anos e pudesse apenas sentar e fazer perguntas a Aristóteles por horas, isso poderia ser algo realmente bom. Não sei se você chamaria isso de deepfake nesse ponto, mas se você tivesse uma LLM treinada em todos os maiores pensadores de todos os tempos e, tipo, fosse um professor personalizado que você tem em casa, e em vez de seguir o sistema escolar regular, você faz, tipo, escola online e seu professor é, sabe, Leibniz e Nietzsche e, droga, tipo, todos os grandes pensadores de todos os tempos.

Gideon: Estamos anotando quais filósofos você mencionou, sabe, só…

[Risos]

Grimes: Acho que há algo — também há um potencial para, tipo, um enorme benefício. Imagine, todas as crianças poderiam ter acesso ao maior professor de todos os tempos. E, sabe, acho que há um grande potencial para educação em IA, uh, que é realmente, realmente, realmente legal.

Lauren: Num mundo ideal, como seria essa escola? Qual é o foco?

Grimes: Eu acho, principalmente, na construção de comunidade. E criar uma rede social para nossos filhos que seja realmente positiva, com famílias que pensam de forma diferente. Eu estava tendo muita dificuldade até começar a encontrar outras famílias com pais mais parecidos comigo. Sinto que o primeiro ano de ter um filho foi um dos anos mais difíceis e fodidos da minha vida. E então, à medida que comecei, sabe, a me relacionar realmente e a fazer amizades melhores – finalmente encontrando pais com quem posso me identificar e tal – ficou tão claro que é, tipo, suposto ser uma coisa comunal e tribal. Acho que algo realmente interessante aconteceu com os baby boomers, onde, em muitos aspectos, eles tiveram uma pausa necessária da cultura anterior – sabe, a revolução sexual e todas as coisas que aconteceram – e há muitas coisas sobre o passado em que muitas pessoas pensavam, sim, como a sociedade sempre foi, precisamos mudar isso. Precisamos mudar a forma como as coisas são em relação à raça. Precisamos mudar a forma como as coisas são em relação ao gênero. Precisamos apenas mudar muitos fundamentos. Mas, de muitas maneiras, acho que perdemos muito, tipo, cultura em que todos podem concordar. E muitas maneiras como a cultura costumava ser não davam espaço para todos, então as pessoas compreensivelmente tinham problema com elas, mas acho que uma das coisas mais importantes que podemos fazer agora é decidir reconstruir a cultura. Agora que meio que explodimos tudo e, tipo, desmontamos tudo e, e estamos meio que reavaliando quase todos os aspectos da forma como abordamos a moral e a educação e literalmente tudo – não podemos alinhar a IA até nos alinharmos e estamos super desalinhados. Os humanos estão super desalinhados agora.

Gideon: Eu entendo você navegando em um tipo, acho, de espaço político amplo. Eu ouço você falando como alguém que faz parte tanto de grupos políticos de esquerda quanto de direita. Você sabe, obviamente – muitas das pessoas com quem você convive no Vale do Silício, ou em torno do Elon, são libertários ou conservadores, e também há muitos progressistas, e pelas origens em que você habitualmente convive, eu suponho. Então estou certo em ver jovens tentando unir diferentes pontos de vista políticos e pensar em como podem ser integrados?

Grimes: Sim. Eu realmente acho que um dos nossos maiores problemas agora é a polarização. Tipo, eu me recuso a ser de esquerda ou de direita. Tipo, sabe, eu tenho medo do que estamos fazendo com os homens jovens e o discurso em torno dos homens agora.

Lauren: O que te assusta?

Grimes: Existem muitos problemas com a toxicidade masculina, mas, tipo – tipo, estamos seriamente apenas dizendo aos homens que eles são maus por coisas que eles não podem – tipo, a testosterona é como uma droga de guerra louca. Por que não pode haver uma plataforma política que, tipo, dê espaço e lugar para – e honre – a masculinidade, como a masculinidade tradicional, e a incentive a melhorar de forma construtiva, em vez de, tipo, desmontá-la, ainda se importando com os direitos das mulheres e o acesso ao aborto e os direitos trans. Tipo, por que essas coisas são dicotômicas? Tipo – tipo, por que elas estão lutando uma contra a outra? Tipo –

Lauren: O que você acha que é uma maneira eficaz de fazer isso, no entanto?

Grimes: Eu – eu acho que para mim, sempre se trata mais da cenoura do que do pau. O que eu adoraria ver é, tipo, uma celebração das partes boas da masculinidade. Como criar um discurso que encoraja os homens a se esforçarem mais e serem cavalheiros? E tipo – tipo, como romantizar, uh, um tipo de masculinidade que é realmente respeitoso com as mulheres e favorável à disciplina e tipo, eu não sei, tipo, todas as coisas com que todo mundo faz piada, mas tipo –

Gideon: Acho que entendo o que você está tentando dizer de novo. Quero dizer, parece que você está dizendo, simplesmente, que a maneira padrão de criticar a masculinidade tóxica é tentar desmontar a própria masculinidade. E, em vez disso –

Grimes: Acho que isso, acho que é o que está acontecendo demais, é como nas nossas tentativas de nos livrarmos das coisas que têm sido tão, tão destrutivas, acho que estamos desmontando a masculinidade como um todo.

Lauren: Devemos fazer uma rodada rápida?

Gideon: Claro, eu começo. O que te mantém acordado à noite?

Grimes: Temos uma crise educacional em todas as áreas, como globalmente.

Gideon: Hum.

Grimes: Quase tudo relacionado a como criamos os filhos.

Gideon: O que te deixa otimista?

Grimes: Jovens, crianças. Eu vejo muita coisa da Geração Z que é assustadora e ruim e traumatizante, mas todas as pessoas da Geração Z que eu conheço pessoalmente, eu só penso: “Uau, foda-se. Você é incrível. Meu Deus. E tão iluminado.” Quero dizer, meus filhos, tipo, você percebe que os seres humanos nascem realmente ótimos. Nós apenas estragamos tudo, mas começamos incríveis. Começamos iluminados, e, tipo, eu acredito que isso me dá muita fé, que o estado natural do ser humano é, tipo, um estado maravilhoso.

Lauren: Bem, Grimes, esta foi uma conversa realmente abrangente e divertida. Obrigado.

Gideon: Muito obrigado por se juntar a nós.

Grimes: Sim. Muito obrigado por arranjarem tempo. Muito apreciado.

[Música]

Gideon: Lauren, achei conversar com a Grimes uma viagem, tenho que dizer. Eu não sei exatamente o que estava esperando, mas acho que estava esperando uma coisa tipo se jogar de cabeça no futuro, vamos apenas abraçar a IA em todas as suas formas, e o que me impressionou foi um conjunto de pensamentos realmente refinados sobre o que devemos e não devemos usar a IA.

Lauren: Quero dizer, acho que quando você entrevista – vamos chamá-la de celebridade, porque ela é uma celebridade – há um pouco de perigo, e talvez seja o mesmo quando você entrevista um executivo de tecnologia de ponta, em tratá-los como um oráculo. Como se tudo o que eles dissessem fosse o futuro da IA. E acho que essa conversa me mostrou que ela está descobrindo à medida que avança, assim como o resto de nós. É meio encorajador que a pessoa que esteve na vanguarda desse movimento “se você não pode vencê-los, junte-se a eles” para a música de IA também esteja um pouco confusa sobre para onde isso pode ir. Ela ainda é uma otimista, mas tem preocupações reais, embora também parecesse que suas preocupações são menos sobre música, porque ela está se reinventando fora da música, e ela está mais preocupada com a educação em um sentido mais amplo e no sentido da sala de aula.

Gideon: A conexão que eu vi entre essas duas coisas é que ela estava alertando para o risco de grandes modelos de linguagem nos tornarem burros, porque, quer estejam gerando música do zero ou encurtando o processo de escrita, é muito fácil depender deles – contar com eles para fazer tarefas para as quais antes precisávamos aprender habilidades. E então, na educação, ela estava dizendo que quer que seu filho seja capaz de ler, escrever e aprender a usar a linguagem de forma muito profunda, da mesma forma que todos nós, até este momento, tivemos que aprender a usá-la, porque caso contrário, não estamos bem preparados para navegar pelo mundo.

Lauren: É interessante, porém, porque eu pensei que quando ela estava falando sobre o futuro da educação, foi quando ela começou a se contradizer um pouco. E, para ser justa, isso é realmente complexo e muitos de nós estamos tentando entender. Mas apenas como exemplo, ela perguntou: “Por que queremos criar uma IA de Shakespeare? Por que queremos criar um grande modelo de linguagem que é o melhor escritor do mundo?” Mas então, em outra parte da conversa, ela mencionou ter uma IA de Nietzsche ou uma IA de Newton disponível nas salas de aula para ensinar as crianças.

Gideon: Na verdade, eu não vi uma contradição ali, porque achei que ela estava dizendo que não queremos criar uma IA de Shakespeare que gera obras de teatro e poesia perfeitas, porque então estaríamos realmente tirando toda a criatividade humana. Mas a ideia de uma IA com a qual você pode interagir como uma ferramenta de ensino é algo totalmente diferente, e eu adoro a ideia de ter algo que seja suficientemente treinado para se envolver em um diálogo socrático com você e te forçar, como uma pessoa jovem, a examinar suas suposições, fazer perguntas sobre as coisas que você disse, fazer esse tipo de prática que, na verdade, os professores geralmente não têm tempo para fazer com as crianças por causa do tamanho das turmas. Isso é algo muito, muito diferente de pedir a algo que escreva obras melhores do que Shakespeare ou músicas melhores do que Bob Dylan.

Lauren: Eu acho que isso me faz pensar em uma próxima etapa inevitável de falarmos sobre IA, onde não estamos mais falando interminavelmente sobre LLMs, porque então os LLMs são apenas a tecnologia fundamental – é parte da IA – e estamos falando sobre esses tópicos como arte, como educação, como direitos autorais, que eu acho que são conversas mais importantes para se ter agora.

Gideon: Acho que ela está fazendo distinções interessantes entre os usos dos LLMs, em vez de dizer que os LLMs são bons ou ruins, mas parece que ela também está lutando para descobrir quais devem ser as regras. Eu não sei a resposta para isso também. Não tenho certeza se podemos criar regras. Isso faz parte da dificuldade aqui.

Lauren: Certo. E isso também se aplica à moderação de conteúdo, porque, sabe, de certa forma, a plataforma dela, Elf.Tech, resolve a questão da proveniência, certo? Que é essa ideia de entender de onde o material está vindo quando está sendo usado na arte gerada por IA. Mas a ideia de que alguém poderia então pegar essas faixas e usar a voz dela para fazer um hino nazista, e então a pergunta sobre quem é o responsável por moderar isso, ainda é uma pergunta sem resposta.

Gideon: E ela não respondeu realmente essa pergunta quando você tentou perguntar a ela.

Lauren: Não. E meu instinto diz que ela é um tanto responsável por isso. Mas se alguém compartilha essa faixa no YouTube, então isso se torna um problema do YouTube? E a plataforma dela é apenas a ferramenta onde foi criada? E você realmente pode atribuir responsabilidade à ferramenta? É uma pergunta realmente complicada. E sim, ela não pareceu ter uma resposta, sabe. E então eu vejo um pouco a luta dela com, tipo, a identidade dela de quem ela quer ser na internet e se ela realmente quer estar tão presente na internet, mas também, ao lançar arte para o mundo, quais são os limites em torno dessa arte.

Gideon: Ela também disse: “Na verdade, acho que deepfakes deveriam ser potencialmente ilegais.” E então ela pareceu voltar atrás nisso. Parece uma pergunta muito, muito confusa aqui. O que você acha – deepfakes deveriam ser ilegais?

Lauren: Isso abriu essa porta para o meu cérebro, tipo, ah sim, por que queremos deepfakes na sociedade? Como toda tecnologia, existem maneiras pelas quais ela pode ser usada como uma ferramenta para o bem, mas, tipo, em geral, quando penso em algo como o vídeo da Nancy Pelosi com a fala arrastada – que nem era um deepfake, era apenas usar a tecnologia para deixar sua fala mais lenta e fazê-la parecer intoxicada. Estamos entrando em uma era política realmente carregada no momento e os deepfakes serão absolutamente abusados. Então, quando ela disse isso, eu pensei, ah sim. Devemos ser mais rigorosos com os deepfakes?

Gideon: Bem, eu não acho que devemos. É exatamente esse problema que, como acontece com muitas dessas tecnologias, quando você tenta proibir uma tecnologia em si ou o uso de uma tecnologia como deepfakes, você se depara com inúmeros casos em que proibi-la para um determinado propósito parece desnecessariamente censor. Então, não tenho certeza de que você possa traçar linhas claras sobre o que é e não é permitido – tanto quanto uma tecnologia vai, ou mesmo uma aplicação específica dessa tecnologia.

Lauren: Então, provavelmente devemos falar sobre masculinidade. O que é algo que eu não esperava dizer no podcast Have a Nice Future, mas aqui estamos. Você fez uma pergunta bem pensada sobre política e as pessoas com quem ela anda e como parece que ela está tentando se equilibrar aqui. E então ela começou a falar sobre masculinidade e como ela está essencialmente preocupada com os homens. O que você achou da resposta dela a você?

Gideon: Achei interessante que ela tenha escolhido a masculinidade como o problema para ilustrar por que ela não se identifica nem com a esquerda nem com a direita. E eu me identifico com o que ela está dizendo. Houve uma coluna de opinião no The Washington Post algumas semanas atrás, escrita por Christine Emba, onde ela fala sobre o fato de que há uma sensação de que os homens jovens não têm bons modelos masculinos. E, como resultado, os direitistas como Jordan Peterson estão preenchendo essa lacuna e dominando o discurso sobre como a masculinidade deve ser. E isso está alimentando esses debates extremos, essas guerras culturais extremas. E uma das coisas que me ocorreu quando estava pensando nisso é que, como homem gay, sinto que há modelos de papel muito melhores para os homens gays em como ser masculino de maneiras que não sejam tóxicas. E acho que isso acontece porque na comunidade gay existe uma espécie de tradição de mentoria intergeracional e relacionamentos que dão aos jovens um exemplo de como é ser um homem mais velho que se comporta de maneira decente.

Lauren: Achei muito interessante que ela tenha mencionado a toxicidade masculina e os direitos dos homens quando você fez aquela pergunta sobre política, porque escolher esse tema em si é político. É um assunto muito polêmico. Honestamente, me fez desejar poder ser uma mosca na parede nas conversas dela sobre isso com, digamos, Elon Musk.

Gideon: E mesmo que não tenhamos perguntado sobre seu relacionamento com Elon Musk nesta entrevista, Steven Levy o fez na entrevista que está publicada em ENBLE.com esta semana, e você pode ler sobre isso lá.

Lauren: Então, Gideon, você acha que vai começar a ouvir mais música techno viking etérea?

Gideon: Eu quero saber o que é música techno viking etérea, mas me fez pensar em Sinead O’Connor, e tenho ouvido mais Sinead O’Connor recentemente.

Lauren: Como isso te fez pensar em Sinead O’Connor?

Gideon: Porque acho que foi a parte etérea. Havia algo na voz dela que – que atravessa a névoa e me faz pensar em terras tristes e distantes. E isso é talvez o que é – eu não sei o que é música techno viking etérea. Talvez eu deva fazer uma busca no Spotify por isso.

Lauren: Meu outro co-apresentador de podcast, Michael, me recomendou o psych-pop sueco, que comecei a ouvir neste fim de semana. Então ainda não estou muito no clima para música techno viking etérea, mas estou chegando lá. Tenho certeza de que os algoritmos vão começar a me recomendar em breve.

Gideon: Certo, quando você encontrar coisas boas, me avise do que se trata.

Lauren: Quando encontrarmos coisas boas, devemos provavelmente avisar a c sobre o que é.

Gideon: Ah, com certeza. É verdade. Ela disse que estava procurando.

Lauren: Talvez até seja dela.

Gideon: Isso é tudo para o nosso programa de hoje. Obrigado por ouvir. Se você quiser ouvir mais de c, ou Grimes, você pode conferir sua entrevista com Steven Levy online em ENBLE.com.

Lauren: Have a Nice Future é apresentado por mim, Lauren Goode.

Gideon: E por mim, Gideon Lichfield. Se você gosta do programa, você pode nos dizer, deixar uma avaliação e um comentário onde quer que você ouça seus podcasts, e não se esqueça de se inscrever para receber novos episódios toda semana.

Lauren: Você também pode nos enviar um e-mail em [email protected].

Gideon: Have a Nice Future é uma produção da Condé Nast Entertainment. Danielle Hewitt da Prologue Projects produz o programa. Nossa produtora assistente é Arlene Arevelo.

Lauren: Estaremos de volta aqui na próxima quarta-feira e, até lá, tenha um futuro brilhante.

Direção de movimento: Quenton Stuckey; fundos de IA: Sam Cannon; design de iluminação: Frank Rios; assistente de iluminação: Jack Duffy; tecnologia digital: Logan Bingham; PA: Bobbin Singh; design de produção: Wesley Goodrich; estilismo: Turner/The Wall Group; assistente de estilismo: Joey Sigala; cabelo: Preston Wada/Rare Creatives; assistente de cabelo: Amy Ruiz; SFX MUA: Malina Stearns; assistente de SFX MUA: Sasha Glasser; MUA: Alexandra French/Forward Artists; assistente de MUA: Kayli Rachelle Davis; unhas: Stephanie Stone/Forward Artists; XR Studios; SN37.*

Grimes: top e calça por Sami Miro Vintage.