A Apple e o Google receberam cartas de cessação e desistência exigindo a remoção de aplicativos “nudificar” com tecnologia de IA de suas respectivas lojas de aplicativos.
Conforme relatado por com fioO procurador da cidade de São Francisco, David Chew, ordenou que os dois gigantes da tecnologia retirassem um total de 13 aplicativos que poderiam ser usados para criar fotos de nus falsas geradas por IA. As cartas apelam à Apple e ao Google para que parem de “ajudar e encorajar” a disseminação de imagens íntimas não consensuais e pedem que parem de trabalhar com os desenvolvedores de aplicativos em questão.
Esta não é a primeira vez que Chew enfrenta plataformas deepfake, tendo anteriormente registrado uma caso Contra 16 sites que permitem aos usuários transformar imagens de mulheres e meninas reais em pornografia usando IA. contado com fio Que a Apple e o Google provavelmente ganharam milhões com pagamentos em aplicativos de aplicativos ofensivos e suas lojas precisam de melhor moderação para garantir que não aprovem.
Apesar da indignação pública generalizada sobre o deepfake, ele surgiu no início deste ano, através de um Relatório de Projeto de Transparência Tecnológica (TTP)Aplicativos de nudificação que muitas vezes passam pelos moderadores da Apple e do Google E foi além, supostamente alguns deles estão até sendo promovidos ativamente na App Store e no Google Play. O relatório também alega que muitos desses aplicativos são classificados como “E” para todos, permitindo que crianças os baixem. Ele afirma que encontrar aplicativos é tão fácil quanto pesquisar termos como “nodificar” ou “despir-se”. Apesar de ambas as empresas terem políticas que proíbem conteúdo sexual ou pornográfico em suas plataformas.
Google e Apple não são as únicas empresas que lutam contra a disseminação de deepfakes na web. O Conselho de Supervisão da Meta apelou recentemente à empresa para reforçar as suas protecções para o público em geral que está a ser alvo, com as medidas preventivas existentes aparentemente a favor de figuras públicas. O xAI de Elon Musk também foi objeto de vários processos judiciais por causa de deepfakes não conformes.
Um porta-voz do Google disse esta informação com fio A empresa excluiu “centenas” de aplicativos com recursos de nudificação, incluindo cinco sobre os quais Chew os alertou. Ele também reiterou que suas políticas proíbem conteúdo sexual e disse que toma “ações rápidas” se algum aplicativo denunciado violar suas regras. com fio acrescentou que a Apple não forneceu comentários antes da publicação. Em comunicado ao Engadget, a Apple disse:
“A App Store foi projetada para ser um lugar seguro e confiável para os usuários, e sempre proibimos estritamente aplicativos projetados para criar, distribuir ou consumir pornografia. Aplicativos de ‘Nudificação’ são contra nossas diretrizes de revisão de aplicativos e rejeitamos ativamente muitos desses aplicativos e removemos muitos outros, incluindo três que removemos por meio de nossa ferramenta de relatório de aplicativos quando os usuários os sinalizaram. Suas contas de desenvolvedor estão sendo suspensas de nosso programa. Estamos entrando em contato com mais quatro. Aqueles em risco de violação de política ou remoção precisam ser abordados.”
Atualização, 18 de julho de 2026, 11h04 ET: Esta história foi atualizada para incluir uma declaração da Apple.
