Rede de robôs de criptografia alimentada por ChatGPT descoberta em X

ChatGPT impulsiona rede de robôs criptográficos em X

X, a plataforma de mídia social de propriedade de Elon Musk, anteriormente conhecida como Twitter, tem um problema significativo de contas falsas. A proliferação de bots na rede social foi reconhecida pelo próprio Musk, pois ele citou isso como a principal razão pela qual ele originalmente tentou desistir de adquirir a empresa.

E uma nova pesquisa do Observatório de Mídias Sociais da Universidade de Indiana, em Bloomington, mostra uma boa imagem de uma rede exata de bots que foi implantada no X. O professor Filippo Menczer, junto com o aluno Kai-Cheng Yang, publicou recentemente um estudo sobre uma botnet chamada Fox8, de acordo com a ENBLE, que foi a primeira a relatar a pesquisa.

Os pesquisadores descobriram uma rede de pelo menos 1.140 contas falsas do Twitter apenas em maio passado, que constantemente publicavam tweets com links para uma série de sites “noticiosos” online sem nome que apenas republicavam conteúdo extraído de fontes legítimas.

A grande maioria das postagens publicadas por essa rede de contas de bots estava relacionada a criptomoedas e frequentemente incluía hashtags como #bitcoin, #crypto e #web3. As contas também frequentemente retweetavam ou respondiam a usuários populares de criptomoedas no Twitter, como @WatcherGuru, @crypto e @ForbesCrypto.

Como uma rede de bots de mais de mil contas conseguiu publicar tanto? Ela utilizava IA, neste caso, especificamente o ChatGPT, para automatizar exatamente o que era publicado. O objetivo dessas postagens geradas por IA parecia ser inundar o Twitter com o máximo de links de criptomoedas possível, na esperança de alcançar o maior número possível de usuários legítimos e fazê-los clicar nos URLs.

De acordo com a ENBLE, as contas do X foram eventualmente suspensas pelo X após a publicação da pesquisa em julho. Menczer diz que seu grupo de pesquisa costumava informar o Twitter sobre essas botnets, mas parou de fazê-lo após a aquisição de Musk, pois descobriram que a empresa não estava mais “realmente responsiva”.

Embora ferramentas de IA como o ChatGPT tenham ajudado o proprietário da botnet a produzir conteúdo para milhares de contas, isso acabou sendo sua queda eventual.

De acordo com o estudo publicado, os pesquisadores perceberam um padrão eventual com essas contas: elas publicavam tweets começando com a frase “como um modelo de linguagem de IA”. Os usuários do ChatGPT estarão familiarizados com essa frase, pois o assistente de IA frequentemente a fornece como um complemento a qualquer saída que ele decide que pode ter problemas potenciais devido a ser, bem, simplesmente um modelo de linguagem de IA.

Os pesquisadores apontaram que, se não fosse por esse erro “descuidado”, a botnet poderia ter continuado sem ser descoberta.