Do Facebook e TikTok ao Instagram e X, imagens e vídeos alimentados por IA retratando os momentos finais de Alex Pretti inundaram a Internet desde seu assassinato fatal por policiais federais em Minneapolis no fim de semana passado.
A rápida disseminação de mídias alteradas por inteligência artificial, a maioria das quais mostrava Pretty desmoronando segundos após o tiroteio, obscureceu o relato original do tiroteio nas redes sociais. Ao contrário de outros deepfakes gerados por IA que retratam cenas completamente irrealistas e são facilmente identificadas como falsas, muitas das imagens alteradas por IA das fotos de Pretty são baseadas em imagens verificadas, refletindo realidade suficiente para confundir e confundir muitos online.
E mesmo à medida que se espalha a consciência sobre as capacidades da inteligência artificial avançada, alguns online estão a expressar o seu cepticismo em relação aos meios de comunicação autênticos, alegando falsamente que as fotos e vídeos legítimos de Pretty foram alterados pela IA.
Uma imagem que parece ter sido manipulada com IA, Mostrando a enfermeira da UTI curvada para a frente enquanto um oficial federal aponta uma arma para ela, X tem mais de 9 milhões de visualizações (até recebeu uma nota da comunidade de que a imagem foi aprimorada por IA). Entre outros detalhes fabricados por IA, a imagem estática mostra um oficial do ICE sem cabeça.
O senador Dick Durbin, D-Ill., Exibiu a foto durante um discurso no plenário do Senado na quarta-feira. Aparentemente sem percepção A imagem não era autêntica.
Em uma declaração à NBC News, um porta-voz do senador Durbin escreveu: “Nosso escritório usou uma foto no plenário do Senado que foi amplamente divulgada online. A equipe não percebeu que a foto havia sido ligeiramente editada e lamenta que esse erro tenha ocorrido.”
Outras postagens mostram vídeos realistas, incluindo um vídeo gerado por IA no TikTok de Pretty Conversando com um oficial do ICE E um no Facebook O policial disparou acidentalmente a arma de Pretty. A postagem no Facebook, rotulada como “aprimorada por IA” com uma nota da comunidade, teve mais de 44 milhões de visualizações. Não foi apurado se o policial disparou a arma de Pretti.
Ben Coleman, cofundador e CEO da empresa de detecção de deepfake Defensor da RealidadeDisse que a enorme saturação de postagens com mídia relacionada à IA nas filmagens era preocupante, mas surpreendente. Imagens modificadas por IA mostram oficial do ICE tentando desmascarar Renee Nicole Goode foi morta a tirosOutro cidadão norte-americano morto em Minneapolis nas últimas semanas desencadeou uma campanha na Internet no início deste mês, levando a muitos ataques online. Identificando outras pessoas corretamente como agente.
“Nos últimos meses, vimos um grande número de fotos nas redes sociais que contêm ‘aprimoramentos’ gerados por IA em fotos granuladas e desfocadas”, disse Coleman à NBC News.
“Detalhes como a falta da cabeça de um homem na foto mostram o quão prejudicial é que essas fotos falsas se tornem virais”, disse Coleman, referindo-se à foto que Durbin compartilhou com o Senado. “Se considerarmos fotos falsas como reais, independentemente do contexto, isso pode ser confuso e desviar a atenção da realidade e da realidade.”
A proliferação de mídia de IA também levou muitos online a afirmar falsamente que os vídeos originais de Pretty não foram verificados. Os especialistas estão preocupados que isso possa permitir um fenômeno conhecido como dinâmica Dividendos do mentirosoOnde os malfeitores afirmam que a mídia autêntica é gerada por IA para criar desconfiança e evitar responsabilização.
Três vídeos verificados de forma independente pela NBC News mostram Pretty entrando em uma briga com agentes federais de imigração em Minneapolis apenas uma semana antes de sua morte. Mas os jornalistas gravaram um vídeo disso movimento de notíciasé Ser rotulado como gerado por IA por alguns usuários de mídia social.
O vídeo de Pretty chutando a traseira de um veículo usado pelos agentes antes de ser jogado no chão foi verificado por sua família por meio de um representante. Uma testemunha que gravou um segundo vídeo verificado mostrando o mesmo incidente disse à NBC News que após a briga com agentes federais, ele abraçou Pretty e perguntou se ele estava bem.
Existem ferramentas disponíveis para os consumidores de notícias que podem dizer com precisão se um conteúdo foi gerado ou manipulado pela IA. No X, o assistente de IA da plataforma, Grok, respondeu a perguntas sobre a autenticidade das imagens, algumas das quais A resposta é Reivindicar que o vídeo real “parece ter sido gerado ou modificado por IA”.
Uma proliferação de deepfakes de IA aumentou a desinformação que gira em torno do tiroteio de Pretty como vários influenciadores de direita. Prety foi identificado incorretamente Como outro residente de Minneapolis.
A desinformação e a confusão mediadas pela IA em torno das últimas notícias aumentaram tornou-se mais comum ao longo dos anosÀ medida que os sistemas avançados de IA são capazes de construir de forma incremental Fotos e vídeos de alta qualidade Essa linha do meio está borrada Fato e ficção.
