Três senadores democratas pediram à Apple e ao Google que removessem os aplicativos de Elon Musk X e Grok em seu aplicativo Depois de usar a ferramenta de inteligência artificial Grok da XAI, X foi inundado com imagens sexualmente questionáveis de pessoas reais na loja na noite de quinta-feira.
Horas depois, X ajustou a forma como o bot de resposta Grok funcionava no site de mídia social, limitando sua geração de imagens a clientes pagantes premium e aparentemente restringindo os tipos de imagens que o bot de resposta Grok poderia gerar no X.
O bot de resposta Grok surgiu no X Milhares de fotos sensuais Uma hora esta semana, principalmente para mulheres, mas no horário infantil. Na sexta-feira, parecia estar caminhando para limitar esse recurso no aplicativo de mídia social. Mas na guia Grok do X e no aplicativo e site Grok autônomo, Grok ainda gerará deepfakes sexualizados.
Em uma carta aberta O CEO da Apple, Tim Cook, e o CEO do Google, Sundar Pichai, os senadores do Oregon Ron Wyden, Ed Markey de Massachusetts e Ben Ray Lujan do Novo México pediram às empresas que “aplicassem” termos de serviço que parecem proibir a atividade crescente no X e ainda ser possível no Grow.
Em um comunicado na sexta-feira, Wyden enfatizou que as mudanças de X não abordam as preocupações de que Groke ainda esteja inundando os feeds das redes sociais com imagens sexuais não consensuais.
“All X Changes está pagando alguns de seus usuários pelo privilégio de criar imagens horríveis no aplicativo X, enquanto Mask lucra com o abuso infantil”, disse ele em comunicado à NBC News.
Os termos de serviço da App Store da Apple e da Play Store do Google parecem proibir aplicativos que permitem que as pessoas tirem imagens sexuais sem o seu consentimento, escreveram os senadores. “A Apple e o Google devem remover esses aplicativos das lojas de aplicativos até que as violações da política de X sejam resolvidas.”
Por mais de uma semana, os usuários solicitaram que o chatbot oficial da Grok Reply criasse imagens sexualizadas de pessoas sem consentimento, colocando-as em roupas mais reveladoras, como trajes de banho e roupas íntimas. “Os usuários X usaram a ferramenta Grok AI do aplicativo para criar imagens sexuais não consensuais de cidadãos reais e particulares”, escreveram os senadores. “Essa tendência inclui a modificação das pinturas de Grok para retratar mulheres sendo abusadas sexualmente, humilhadas, espancadas e até mortas”.
“Fechar os olhos ao comportamento flagrante de X seria uma zombaria de seu exercício de contenção. Na verdade, não tomar medidas prejudicaria suas reivindicações ao público e aos tribunais de que suas lojas de aplicativos fornecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente para seus telefones”, disseram eles.
A ação de X na manhã de sexta-feira parece ser, pelo menos em parte, uma resposta à reação sustentada contra a produção de deepfakes sexuais de Grok, mas Musk e X não indicaram que haverá uma ampla reversão dos recursos de Grok em todas as plataformas, incluindo o aplicativo Grok para download, que permanece nas lojas de aplicativos do Google e da Apple.
No domingo, Musk e X reiteraram que a criação de conteúdo ilegal resultaria na expulsão da plataforma, embora a maior parte do conteúdo criado por chatbots não se enquadrasse nessa categoria.
da maçã Termos de Serviço afirma em sua App Store que “os aplicativos não devem incluir conteúdo ofensivo, sensível, perturbador, odioso, de excepcionalmente mau gosto ou simplesmente horrível.” Isso inclui “conteúdo abertamente sexual ou pornográfico, definido como ‘representações ou exibições explícitas de órgãos genitais ou atos destinados a estimular sentimentos eróticos em vez de estéticos ou emocionais’”. A App Store também afirma que os aplicativos não devem “tolerar conteúdo difamatório, discriminatório ou de avareza”, especificamente que conteúdo prejudicial ou ofensivo pode prejudicar os aplicativos. Indivíduos ou grupos-alvo.”
do Google Termos de Serviço Sua Play Store afirma que “não permite aplicativos que contenham ou promovam conteúdo relacionado a comportamento sexualmente predatório ou distribuam conteúdo sexual censurável”.
Ambos são maçãs E o Google tem antes Os aplicativos Move são dedicados a fotos “nuas” de pessoas reais.
Grok e X são atualmente populares nas lojas de aplicativos do Google e da Apple. Na manhã de sexta-feira, Grok, onde aparentemente ainda é permitido fazer deepfakes sexuais, ficou em 4º lugar na App Store da Apple e em 10º no Google.
Nenhuma das agências respondeu aos pedidos de comentários sobre a carta dos senadores, ou às perguntas anteriores da NBC News sobre como as agências estão considerando o papel de X nas imagens sexuais não consensuais.
Musk, proprietário da X e da xAI, a empresa de IA que alimenta Grok, há muito faz campanha contra a moderação pesada, que ele equipara a “censura”. Em dezembro, ele revelou uma versão do Grok que manipularia imagens de pessoas reais.
UM Crítica de notícias da NBC Algumas das imagens deepfake divulgadas esta semana mostravam principalmente mulheres retratadas vestindo roupas minúsculas, mas algumas com filhos. Em algumas imagens, os usuários conseguiram induzir Grok a fazer as pessoas usarem roupas íntimas transparentes ou semitransparentes, despindo-as efetivamente.
