Muitas das maiores e mais estabelecidas campanhas publicitárias online patrocinadas pelo Estado adotaram o uso de inteligência artificial, segundo um novo relatório – e muitas vezes são ruins nisso.
O relatório da empresa de análise de redes sociais Graphica analisou nove operações de influência online em curso – incluindo aquelas que diz estarem ligadas aos governos da China e da Rússia – e descobriu que cada uma, tal como as redes sociais, tem adoptado cada vez mais IA generativa para gerar imagens, vídeos, texto e traduções.
Os pesquisadores descobriram que os patrocinadores de campanhas publicitárias passaram a confiar na IA para tarefas importantes, como a criação de conteúdo e a criação de influenciadores de mídia social, simplificando algumas campanhas. Mas os pesquisadores dizem que o conteúdo é de qualidade inferior e gera menos engajamento.
Ao contrário do que muitos investigadores esperavam com a crescente sofisticação da IA generativa – inteligência artificial – os resultados imitam a fala humana, a escrita e as imagens em fotos e vídeos. A tecnologia melhorou rapidamente nos últimos anos e Alguns especialistas alertaram Os propagandistas que trabalham em nome de países autoritários aceitarão material sintético credível e de alta qualidade, concebido para enganar até os membros mais exigentes de uma sociedade democrática.
Surpreendentemente, porém, os pesquisadores da Graphica descobriram que o conteúdo de IA produzido por essas campanhas estabelecidas era “resíduo” de baixa qualidade, variando de repórteres de notícias sintéticas inesperados em vídeos do YouTube a traduções estranhas ou sites de notícias falsas que acidentalmente incluem avisos de IA nas manchetes.
“As operações de impacto estão integrando sistematicamente ferramentas de IA, e muitas delas são resíduos de IA baratos e de baixa qualidade”, disse Dina Sadek, analista sênior da Graphica e coautora do relatório. Como acontecia antes de tais campanhas começarem a usar IA rotineiramente, A grande maioria de suas postagens Pouca atenção é dada aos sites de mídia social ocidentais, disse ele.
As campanhas de influenciadores online que visam moldar a política americana e divulgar mensagens divisivas remontam a pelo menos uma década, quando Empresa de pesquisa na Internet com sede na Rússia Muitos criaram contas no Facebook e no Twitter e tentaram influenciar as eleições presidenciais de 2016.
Em alguns outros casos, como Segurança Cibernética E programaçãoA ascensão da IA não revolucionou a publicidade online, mas facilitou a automatização de algumas tarefas, disse Sadek.
“Pode ser conteúdo de baixa qualidade, mas é muito escalável em grande escala. Eles podem simplesmente ficar ali sentados, talvez uma pessoa apertando botões, para criar todo esse conteúdo”, disse ele.
Os exemplos citados no relatório incluem “doppelgangers”, uma operação do Departamento de Justiça Amarrado ao KremlinO que os pesquisadores dizem é usar IA para criar incríveis sites de notícias falsas e “spamoflúvios” que o Departamento de Justiça ligado à China E isso cria influenciadores de notícias falsas de IA para espalhar vídeos classificados, mas inacreditáveis, em sites de mídia social como X e YouTube. O relatório menciona várias operações usando áudio deepfake de baixa qualidade.
Um exemplo são os deepfakes postados por celebridades como Oprah Winfrey e o ex-presidente Barack Obama, que parecem comentar sobre a ascensão da Índia na política mundial. Mas os relatórios dizem que os vídeos não pareceram convincentes e não ganharam muita força.
Outro vídeo pró-Rússia, intitulado “As Olimpíadas caíram“Parece concebido para denegrir os Jogos Olímpicos de Verão de 2024 em Paris. Uma homenagem ao filme de Hollywood de 2013 “Olympus Has Fallen”, estrelou uma versão gerada por IA de Tom Cruise, que não apareceu no filme. Os relatórios sugerem que recebeu pouca atenção além dos relatos gerais de campanha de uma pequena câmara de eco.
Porta-vozes da embaixada da China em Washington, do Ministério das Relações Exteriores da Rússia, do X e do YouTube não responderam aos pedidos de comentários.
Mesmo que seus esforços não cheguem a muitas pessoas reais, há valor na era dos chatbots de IA que inundam a Internet para os anunciantes, disse Sadek. As empresas que desenvolvem esses chatbots estão constantemente treinando seus produtos para vasculhar a Internet em busca de textos que possam reorganizar e cuspir.
Um estudo recente do Institute for Strategic Dialogue, um grupo sem fins lucrativos pró-democracia, descobriu que a maioria dos principais chatbots de IA, ou grandes modelos de linguagem, citou meios de comunicação russos patrocinados pelo EstadoCom alguns meios de comunicação autorizados pela União Europeia nas suas respostas.
