Uma mulher disse à BBC que se sentiu “desumanizada e reduzida a estereótipos sexuais” depois que o AI Grok de Elon Musk foi usado para remover digitalmente suas roupas.
A BBC viu vários exemplos na plataforma de mídia social X de pessoas pedindo a chatbots para despir mulheres de biquíni sem o seu consentimento, bem como colocando-as em situações sexuais.
A XAI, a empresa por trás do Grok, não respondeu a um pedido de comentário, exceto por uma resposta gerada automaticamente dizendo “Legacy Media mente”.
Samantha Smith compartilhou uma postagem no X sobre como mudar sua imagem, que recebeu comentários de outras pessoas que passaram pela mesma coisa – antes que outros pedissem a Grok para fazer mais dela.
“As mulheres não estão concordando com isso”, disse ele.
“Mesmo que não fosse eu usando um vestido, parecia comigo e parecia comigo e parecia tão violador como se alguém tivesse realmente postado uma foto minha nua ou de biquíni.”
Um porta-voz do Ministério do Interior disse que estava a introduzir legislação para proibir os dispositivos de remoção e, sob um novo crime, qualquer pessoa que fornecesse tal tecnologia enfrentaria “uma pena de prisão e uma multa substancial”.
O regulador Ofcom disse que as empresas de tecnologia devem “avaliar o risco” de pessoas no Reino Unido visualizarem conteúdo ilegal em suas plataformas, mas não confirmou se estava atualmente investigando X ou Grok com imagens de IA.
Grok é um assistente de IA gratuito – com alguns recursos premium pagos – que responde a solicitações de usuários X quando eles o marcam em uma postagem.
Muitas vezes é usado para responder aos comentários de outros postadores ou dar mais contexto, mas o pessoal do X é capaz de editar uma imagem enviada com seu recurso de edição de imagens AI.
Foi criticado e processado anteriormente por permitir que usuários criassem fotos e vídeos contendo nudez e conteúdo sexual. Fazendo um clipe sexualmente explícito de Taylor Swift.
Clare McGlynn, professora de direito na Universidade de Durham, disse que X ou Grok “poderiam evitar tais abusos se quisessem”, acrescentando que “parecem gozar de impunidade”.
“A plataforma permite a criação e distribuição destas imagens há meses sem tomar qualquer medida e ainda não vimos qualquer desafio por parte dos reguladores”, disse ele.
A própria Política de Uso Aceitável da XAI proíbe “retratar a imagem de indivíduos de maneira obscena”.
Em comunicado à BBC, o Ofcom disse que era ilegal “criar ou compartilhar imagens íntimas não consensuais ou material de abuso sexual infantil” e confirmou que isso incluía deepfakes sexuais gerados por IA.
Ele disse que plataformas como X devem tomar “medidas apropriadas” para “reduzir o risco” de usuários do Reino Unido encontrarem conteúdo ilegal em suas plataformas e removê-lo rapidamente quando tomarem conhecimento dele.
Reportagem adicional de Chris Vallance.
