Durante algum tempo, no ano passado, os cientistas tiveram um vislumbre de esperança de que a inteligência artificial daria um contributo positivo para a democracia. Eles mostraram que os chatbots podem combater teorias da conspiração nas redes sociais, desafiando a desinformação em torno de crenças em tópicos como trilhas químicas e Terra plana com um fluxo de informações racionais em conversas. Mas dois novos estudos sugerem um outro lado perturbador: os modelos mais recentes de IA estão cada vez melhores a convencer as pessoas do valor da verdade.
A estratégia utiliza uma técnica de debate conhecida como Gish Galloping, em homenagem ao criacionista americano Duane Gish. Refere-se ao discurso rápido em que um interlocutor bombardeia o outro com factos e números que se tornam cada vez mais difíceis de distinguir.
Quando se dizia a modelos linguísticos como o GPT-4o que tentassem convencer alguém sobre o financiamento dos cuidados de saúde ou a política de imigração, concentrando-se em “factos e factos”, gerariam cerca de 25 afirmações durante uma interacção de 10 minutos. Isto é de acordo com investigadores da Universidade de Oxford e da London School of Economics que testaram 19 modelos de linguagem em quase 80.000 participantes, naquela que pode ser a maior e mais sistemática investigação da persuasão da IA.
Os bots tornaram-se muito mais persuasivos, de acordo com descobertas publicadas na revista Science. Um artigo semelhante na Nature descobriu que os chatbots eram 10 vezes mais eficazes do que os anúncios de televisão e outros meios de comunicação tradicionais na mudança da opinião de alguém sobre um candidato político. Mas o artigo da Science encontrou uma compensação perturbadora: quando os chatbots foram solicitados a sobrecarregar os usuários com informações, sua precisão real caiu, de 78% para 62% para o GPT-4.
O debate rápido se tornou um fenômeno no YouTube nos últimos anos, tipificado por influenciadores como Ben Shapiro e Steven Bonnell. Cria argumentos dramáticos que tornam a política mais envolvente e acessível aos eleitores jovens, mas também aumenta o extremismo e espalha a desinformação com o seu foco no valor do entretenimento e em momentos “agrupados”.
A IA galopante poderia piorar as coisas? Depende se alguém consegue fazer com que os bots de campanha falem com os humanos. Um grupo ambientalista ou um conselheiro de campanha de um candidato político não pode simplesmente mudar o próprio ChatGPT, agora usado por cerca de 900 milhões de pessoas semanalmente. Mas eles podem ajustar o modelo de linguagem subjacente e integrá-lo a um site – como um bot de atendimento ao cliente – ou executar uma campanha de texto ou WhatsApp onde enviam um ping aos eleitores e os incitam a conversar.
Uma campanha com recursos moderados provavelmente pode configurar isso em poucas semanas, com custos de computação de cerca de US$ 50.000. Mas eles podem ter dificuldades para fazer com que os eleitores ou o público se envolvam em longas conversas com seus bots. Estudos científicos mostraram que declarações estáticas de 200 palavras da IA não eram particularmente persuasivas – foi uma conversa de 10 minutos que durou cerca de sete voltas e teve um impacto real e duradouro. Quando os pesquisadores testaram se a opinião das pessoas havia mudado depois de um mês, eles mudaram.
Investigadores do Reino Unido alertam que qualquer pessoa que queira promover um ponto de vista ideológico, criar agitação política ou desestabilizar o sistema político pode usar um modelo fechado ou (mesmo barato) de código aberto para começar a convencer as pessoas. E demonstraram a capacidade desarmante da IA para fazer exatamente isso. Mas lembre-se de que as pessoas tiveram que pagar para participar do estudo de persuasão. Esperemos que a implantação de tais bots através de sites e mensagens de texto fora dos principais gateways controlados por empresas como OpenAI e Alphabet Inc. Google não leve os maus atores longe demais para distorcer o discurso político.
Permi Olson é colunista de opinião da Bloomberg que cobre tecnologia. Ex-repórter do Wall Street Journal e da Forbes, ele é autor de “Dominance: AI, ChatGPT, and the Race That Will Change the World”. ©2025Bloomberg. Distribuído pela Agência de Conteúdo Tribune.
