UM A enfermeira começa a chorar ao afirmar que foi demitida por postar suas opiniões sobre imigração online. Um agricultor que acusa o governo trabalhista de destruir deliberadamente a agricultura britânica em favor de carne estrangeira importada. Um homem que observa os migrantes chegarem às costas da Inglaterra afirma que eles recebem acomodações luxuosas na chegada.
Esses vídeos politicamente sarcásticos sobre a Grã-Bretanha acumularam milhões de visualizações, mas todos são alimentados por inteligência artificial (IA) de pessoas a mais de 8.000 quilômetros de distância.
Life in Britain tem mais de 100.000 seguidores no Facebook. Apesar de todos os vídeos serem gerados por inteligência artificial, não há avisos em nenhum Facebook, que é propriedade da controladora Meta. Independente marcando-o com a empresa de tecnologia há mais de um mês.
As informações de transparência do Facebook na página mostram que os administradores da página estão baseados no Sri Lanka, apesar de produzirem conteúdo direcionado ao público do Reino Unido.
Especialistas da empresa de falsificação profunda e detecção de mídia sintética Resemble AI falaram sobre isso Independente a conta poderia fazer parte de uma campanha de influência alimentada por IA, projetada para amplificar as narrativas políticas britânicas online.
Semelhante AI analisou os vídeos Independente e descobriu vários recursos que foram gerados usando IA, incluindo falhas visuais e de áudio não naturais, como rostos distorcidos. Estima-se que 97% dos vídeos são gerados por inteligência artificial.
“Não é incomum receber ataques de engenharia social de empresas estrangeiras. Você recebe ligações fraudulentas que não têm origem no Reino Unido. É muito semelhante”, Zohaib Ahmed, fundador da empresa. Eles se parecem com IA contado Independente.
Facebook disse Independente em 29 de maio que estava investigando a conta depois que ela foi levada ao seu conhecimento, mas não deu um prazo para a investigação nem disse se alguma ação seria tomada.
Quando perguntado Independente se essa conta foi monetizada, o Facebook não respondeu.
Lukasz Olejnik, pesquisador sênior visitante do Departamento de Estudos de Guerra, disse à KCL Independente: “O uso de influência e conteúdo de propaganda gerados por IA está aumentando. Os vídeos gerados por IA são particularmente importantes porque podem criar evidências visuais falsas que são fáceis de compartilhar, emocionalmente atraentes e difíceis de verificar rapidamente. Essas ferramentas podem ser usadas por indivíduos, atores estatais e não estatais coordenados.”
Olejnik acrescentou: “Existe o risco no Reino Unido de que os eleitores possam acreditar num único vídeo falso, mas também de que divulgações repetidas possam minar a confiança nas instituições, no jornalismo, nas eleições e nas decisões de política externa”.
“E na liderança, inclusive em tempos de crise. Isto cria oportunidades para os atores externos explorarem debates políticos sensíveis, como segurança, migração, protestos, política de defesa e relações com aliados.”
As potenciais consequências deste tipo de conteúdo online não passaram despercebidas. No ano passado, foram apresentados estudos a Câmara dos Comuns o comitê de assuntos internos mostrou imagens de IA retratando os muçulmanos como uma ameaça que alimentou os distúrbios de Southport em 2024.
Contas de extrema-direita partilharam imagens manipuladas online que reforçaram estereótipos racistas, incluindo representações de muçulmanos com armas ou coletes suicidas.
O Um estudo da London School of Economics descobriram que as postagens nas redes sociais contendo essas representações visuais de teorias da conspiração racista foram expandidas 30% mais do que outras.
Investigadores da LSE alertaram que o aumento do material gerado pela IA, combinado com a forma como os algoritmos das redes sociais recompensam conteúdos divisivos, está a acelerar a radicalização e a tornar as ideias extremistas mais visíveis.
O aumento da desinformação online levou o presidente da Câmara de Londres, Sadiq Khan, a prometer 7 milhões de libras para resolver o problema no mês passado, depois de a capital ter sido alvo de um “ataque implacável e sem precedentes de mentiras e ódio”.
O anúncio seguiu uma relatório A Autoridade da Grande Londres (GLA) revelou um aumento de 200% nas publicações online que retratam Londres como uma cidade em declínio e cada vez mais perigosa nos últimos dois anos.
“Se eu quiser influenciar decisões, a maneira mais fácil de fazer isso agora é criar conteúdo gerado por IA, criar contas falsas de IA em plataformas de mídia social. E então você tem um canal de distribuição”, disse Ahmed.
Ele acrescentou: “Esses algoritmos vão levar esse conteúdo a milhões de pessoas para centenas de milhares de milhões de visualizações quase imediatamente. Portanto, torna-se quase um jogo de matemática.”
No início deste ano, Meta’s conselho fiscal independente alertou que a empresa deveria ser mais proativa e “mais frequente” na sinalização de conteúdo gerado por IA em sua plataforma.
Eles recomendaram que a Meta investisse em ferramentas mais fortes de detecção de conteúdo geradas por IA.
O Departamento de Ciência, Inovação e Tecnologia afirmou: “As plataformas têm obrigações legais de combater conteúdos ilegais, incluindo materiais que incitam à violência ou ao ódio, e esperamos que tomem medidas enérgicas para proteger os utilizadores”.
O Facebook tem diretrizes claras que proíbem discurso de ódio, desinformação prejudicial, comportamento enganoso e atividades inautênticas coordenadas, e afirma que lidará com conteúdo que viole as políticas.
No início deste ano, a plataforma tecnológica derrubou várias páginas vietnamitas do Facebook descritas como “fazendas de conteúdo” depois que a BBC Wales revelou que estavam espalhando narrativas falsas sobre a política britânica usando deep fakes.
Os proprietários da página Life in Britain no Facebook foram contatados para comentar.
