Instagram está sob pressão crescente depois que uma investigação descobriu que vídeos pró-nazistas, negadores do Holocausto e abertamente antissemitas estavam sendo enviados a milhões de usuários.
Um relatório de Fortuna descobriu que o conteúdo ofensivo foi colocado diretamente ao lado de anúncios de algumas das maiores corporações da América, incluindo JP Morgan e SUNY. As postagens apareceram até ao lado de anúncios do Exército dos EUA.
As revelações vêm poucos meses depois meta CEO Mark Zuckerberg afrouxou drasticamente as regras de conteúdo e desmantelou o programa de verificação de fatos da empresa nos EUA.
Zuckerberg defendeu a mudança como um retorno à “priorização da liberdade de expressão”, mas os críticos dizem que isso resultou na maior disponibilidade de propaganda extremista na plataforma.
No centro da polêmica está a conta extinta de uma marca de moda conhecida como @forbiddenclothes.
A conta parece ter sido excluída, mas postou anteriormente memes com temas fascistas para um envolvimento massivo, informou a Fortune.
Uma de suas bobinas fixadas, vista por Fortuna junto com 31 milhões de outras pessoas, apresentava um oficial nazista da SS do filme Bastardos Inglórios sendo usado como parte de um meme com a legenda: ‘Quando a família está discutindo sobre política e pede minha opinião de especialista’.
Os comentários condenando o uso do clipe para glorificar o nazismo foram em grande parte superados pelas respostas positivas, de acordo com o relatório, que também afirma que o envolvimento com o vídeo abriu uma porta para conteúdos mais flagrantes.
O Instagram está enfrentando intenso escrutínio depois que uma investigação descobriu que os algoritmos do aplicativo estavam circulando vídeos abertamente antissemitas, pró-nazistas e de negação do Holocausto para um vasto público.
As revelações ocorrem poucos meses depois que o CEO da Meta, Mark Zuckerberg, afrouxou drasticamente as regras de conteúdo e desmantelou o programa independente de verificação de fatos da empresa, pouco antes do presidente Trump retornar ao cargo.
Um vídeo que se seguiu mostrou uma “tradução” fabricada por IA de um suposto discurso de Adolf Hitler, com gráficos que alegavam identificar o povo judeu no gabinete de Trump e nas principais organizações de mídia.
O vídeo, visto 1,4 milhão de vezes, apresentava estrelas de David photoshopadas nos rostos das pessoas.
Os comentários incluíam: ‘Devemos desculpas ao grande homem’, referindo-se a Hitler. Outro usuário escreveu: ‘Ele estava certo sobre tudo’.
Um repórter da revista Fortune encontrou memes de negação do Holocausto, incluindo um que apresentava uma figura de “cérebro pequeno” dizendo “Ele matou milhões de pessoas com gás”. Leia um livro de história’, e uma figura de ‘cérebro grande’ respondendo: ‘Quem escreveu os livros de história?’
A postagem, que sugere que o Holocausto foi fabricado pelo povo judeu ao brincar com teorias de conspiração racistas sobre o povo judeu controlando a mídia, acumulou 3,2 milhões de visualizações e mais de 250 mil interações.
Depois Fortuna sinalizou as postagens para Meta, os clipes desapareceram silenciosamente, mas não antes de terem sido amplamente divulgados.
O conteúdo apareceu em um padrão que os especialistas dizem ser resultado do sistema de recompensa do algoritmo do Instagram.
Assim que um usuário interage com um único rolo codificado pelo fascismo, o mecanismo de recomendação do Instagram “personaliza” um feed que rapidamente se transforma em uma torrente de conspirações antissemitas, piadas racistas e glorificação de criadores de imagens nazistas, muitas vezes embalado como humor ou como uma estética ousada e irônica.
A investigação descobriu que este conteúdo estava sobreposto a publicidade paga de algumas das marcas mais respeitadas do país, desde o JPMorgan Chase à Nationwide Insurance, SUNY, Porsche e até ao Exército dos EUA.
O conteúdo extremista e os anúncios corporativos foram reproduzidos consecutivamente, de acordo com a investigação. Não há nenhuma sugestão de que as empresas soubessem a qual conteúdo seus anúncios estavam sendo colocados.
Meta retirou as postagens assim que foram sinalizadas, embora os vídeos já tivessem alcançado um grande público
A Meta, dona do Facebook e do Instagram, já foi uma plataforma que investiu dinheiro na moderação, mas desde então mudou de rumo
Um porta-voz do Exército dos EUA disse que os militares não controlam a colocação de anúncios da Meta.
A Meta emitiu uma breve declaração à Fortune: “Não queremos esse tipo de conteúdo em nossas plataformas e as marcas não querem que seus anúncios apareçam ao lado dele”.
A empresa disse que adicionou as postagens sinalizadas ao seu banco de dados de material proibido.
Meta não respondeu ao pedido de comentário do Daily Mail. O Daily Mail também contatou JPMorgan Chase, Nationwide Insurance, SUNY e Porsche.
As próprias políticas do proprietário do Instagram proíbem explicitamente a negação do Holocausto, as alegações de que o povo judeu controla as instituições financeiras e qualquer conteúdo que glorifique Hitler.
A investigação também revelou os ganhos financeiros da divulgação de conteúdo ofensivo.
Um operador de página de memes do Reino Unido explicou à Fortune como ganhou ‘mais de £ 10.000 (US$ 13.000)’ vendendo camisetas e mensagens, acrescentando que postagens com temas de Hitler ‘sempre ganham mais força’.
Um trabalhador de tecnologia baseado nos EUA disse que ganhou quase US$ 3.000 com bônus do Instagram antes de ser desmonetizado. Ele até admitiu que é judeu e não acredita no conteúdo, mas postou porque os reels ‘ofensivos e políticos’ aumentam as contas mais rapidamente.
Vários criadores disseram que viram seus ganhos dispararem depois que Zuckerberg decidiu encerrar a verificação de fatos por terceiros.
O presidente Trump e Mark Zuckerberg são vistos durante um jantar com líderes de tecnologia dos EUA no State Dining Room da Casa Branca em Washington, DC, em setembro
Zvika Krieger, ex-diretora de inovação responsável da Meta, disse à Fortune que após a mudança nas regras, os sistemas de moderação foram “intencionalmente tornados menos sensíveis”.
“O que quer que crie mais engajamento será recompensado neste algoritmo”, disse Krieger.
A ampla reversão da política de Zuckerberg ocorreu em 8 de janeiro de 2025, apenas duas semanas antes de Donald Trump retornar à Casa Branca.
Em um vídeo de cinco minutos que surpreendeu grupos de direitos civis e aplaudiu partes do mundo MAGA, Zuckerberg anunciou que a Meta estava encerrando o uso de verificadores de fatos independentes no Facebook e Instagram.
Em vez disso, foram substituídas por “notas da comunidade” no estilo X, onde os comentários sobre a precisão das postagens são deixados para os usuários.
Zuckerberg também observou que o limite necessário para remover o discurso de ódio seria aumentado em um esforço para “restaurar a liberdade de expressão” na plataforma.
Ele disse que as eleições de 2024 “parecem um ponto de viragem cultural para mais uma vez dar prioridade ao discurso”, acrescentando: “Vamos voltar às nossas raízes e concentrar-nos na redução de erros, na simplificação das nossas políticas e na restauração da liberdade de expressão nas nossas plataformas”.
No entanto, críticos, incluindo a Liga Anti-Difamação, notaram um aumento no conteúdo anti-semita após a mudança política.
Em maio, a ADL disse que os membros judeus do Congresso sofreram um aumento de cinco vezes no assédio no Facebook.
Meta defendeu o policiamento do conteúdo de seu site.
“Apenas no primeiro semestre de 2025, acionamos quase 21 milhões de peças de conteúdo por violarem nossa proibição de organizações e indivíduos perigosos”, disse Meta em um comunicado.
Tendo inicialmente reivindicado uma taxa de detecção proativa de 99%, a empresa admitiu mais tarde que o número real estava “na casa dos 90”.
