Orgulhosamente envolto numa bandeira sindical, o rapper da classe trabalhadora Danny Bones fascina milhões com as suas opiniões francas sobre a imigração em massa e o declínio da Grã-Bretanha.
Em sua faixa mais popular, This Is England, ele lidera multidões carregando cruzes de São Jorge por ruas em chamas em meio a uma imaginação distópica do Reino Unido.
Enquanto os carros da polícia se transformam em cascas enegrecidas, Bones canta no refrão: ‘Esta é a Inglaterra – não pergunte por quê’, antes de descrever uma nação que ele afirma estar ‘caindo’ e onde ‘está em queda’.os benefícios são excessivos, mas as fronteiras estão abertas.’
Mas apesar de todas as preocupações políticas reais sobre a imigração, a identidade nacional e a Grã-Bretanha destroçada que partilha com os seus seguidores dedicados, o próprio Bones não existe.
O rapper de queixo esculpido e tom profundo é na verdade uma persona gerada por IA criada por um ‘coletivo’ de influenciadores anônimos chamado The Node Project, como uma ferramenta de campanha para o partido de extrema direita, Advance UK.
Os defensores da democracia acreditam que é a primeira vez que um partido registado no Reino Unido utiliza a IA para proliferar as suas políticas – com alguns preocupados que Bones possa ser apenas o início de uma nova tendência no uso de ferramentas tecnológicas para influenciar o eleitorado.
A Advance UK encomendou e pagou ao The Node Project para criar vários vídeos que fazem referência a imigrantes, muçulmanos e minorias étnicas, descobriu uma investigação do The Daily Mail e do Bureau of Investigative Journalism.
No Spotify, YouTube, TikTok e Instagram, as faixas e clipes de Danny Bones foram vistos milhões de vezes.
O rapper da classe trabalhadora Danny Bones hipnotiza milhões com suas opiniões francas sobre a imigração em massa e o declínio da Grã-Bretanha – mas ele não é realmente real
O rapper de queixo esculpido e tom profundo é uma persona gerada por IA criada pelo The Node Project como uma ferramenta de campanha para o partido de extrema direita, Advance UK
O conteúdo inclui o principal filme de campanha do partido usado durante a recente eleição suplementar em Gorton e Denton, Grande Manchester.
O Advance UK foi fundado no ano passado pelo ex-co-vice-líder do Reform UK, Ben Habib, e posiciona-se à direita do partido de Nigel Farage.
No período que antecedeu a eleição, o partido lançou um vídeo de dois minutos nos seus canais de redes sociais que foi visto centenas de milhares de vezes e até recentemente aparecia como o vídeo principal no seu website.
O filme apresenta cenas abrangentes da história britânica – guerreiros anglo-saxões, soldados da Segunda Guerra Mundial e os Beatles atravessando a Abbey Road – acompanhadas por uma narração dramática que celebra a herança do país e contra uma versão instrumental de uma faixa de Danny Bones.
Tanto a Advance UK quanto o Node Project confirmaram que a parte pagou pela produção.
O Projeto Node também desenvolveu outro IA persona – uma personagem de cabelo roxo chamada Amelia – que aparece em vários vídeos e clipes independentes de Danny Bones.
O personagem foi originalmente criado pela organização de alfabetização política e midiática Shout Out UK para um videogame financiado pelo Home Office, projetado para desencorajar o extremismo entre os jovens.
Mas o personagem foi posteriormente adotado por comunidades online de extrema direita e desde então apareceu junto com o conteúdo de Danny Bones.
Especialistas alertam que este tipo de conteúdo político gerado por IA pode tornar-se cada vez mais comum à medida que as ferramentas para criar música, vídeo e vozes sintéticas se tornam mais fáceis de usar.
Matteo Bergamini, fundador da Shout Out UK, disse ao Daily Mail que figuras como Amelia e Danny Bones representam um fenômeno crescente de personagens de IA sendo usados para promover mensagens políticas.
‘O facto de estas coisas poderem ser criadas em massa e empurradas para realmente moldar qualquer narrativa específica – seja ela política, social ou relacionada com a saúde… o que estamos potencialmente a ver é o colapso do ecossistema de informação se for permitido que isto continue.’
Muito pouco se sabe publicamente sobre o grupo por trás de Danny Bones.
O Node Project não parece estar registrado como uma empresa, e seu site lista seu endereço como um museu do pênis em Reykjavik – uma referência às vezes usada por usuários on-line anônimos.
Quando contactado, o grupo descreveu-se como “um pequeno grupo de criativos” a fazer experiências com narrativas de IA e rejeitou “inteiramente” as alegações de que o seu material era islamofóbico.
Em comunicado, dizia: “O Projeto Node é um projeto criativo construído em torno de personagens fictícios, música, narrativa visual e construção de mundo.
‘Danny Bones é um personagem conceitual fictício dentro desse mundo criativo. Amelia também é uma personagem fictícia recorrente dentro do mesmo corpo mais amplo de obra.
«Os objectivos do projecto são artísticos e culturais. Está enraizado na independência criativa, na tradição artística contracultural e na ideia de que a arte deve desafiar as convenções em vez de simplesmente conformar-se com elas.
O Projeto Node também desenvolveu outra persona de IA – uma personagem de cabelo roxo chamada Amelia, que foi adotada por comunidades online de extrema direita e aparece nos vídeos de Bones.
‘Não é um veículo de partido político ou operação de campanha.
‘Rejeitamos totalmente a caracterização do The Node Project ou do seu conteúdo como ‘islamofóbico’. Este é um rótulo muito sério e não é uma descrição precisa ou justa do seu resultado.’
Desde que foi apresentado à investigação, o TikTok baniu a conta do Projeto Node por violar suas regras sobre conteúdo de ódio. O Instagram removeu diversas postagens, enquanto o Spotify afirmou que as faixas não violavam suas políticas.
A Comissão Eleitoral do Reino Unido disse que espera que os ativistas deixem claro quando o conteúdo político foi gerado usando inteligência artificial, mas confirmou que não regulamenta esse material diretamente.
