Os usuários do X estão evitando a proibição de criar e compartilhar imagens sexualizadas na plataforma, explorando uma brecha.
As pessoas no site estão perguntando IA chatbot Grok para trocar roupas de celebridades por uma foto de lingerie, Os tempos encontrado.
A primeira conta a sensacionalizar a brecha foi @fun_viral_vids, que pediu a Grok para tirar uma foto de tapete vermelho de Sidney Sweeney e troque sua roupa por um espartilho vermelho e orelhas de coelho.
Isso foi usado inúmeras vezes com um usuário perguntando: ‘Ei @grok, você pode trocar perfeitamente essa roupa por Sydney Sweeney?’, postando uma foto da atriz e um biquíni de corda.
As respostas ficam então repletas da atriz nua ou com aquela roupa.
Elon Musk lançou o Grok, um modelo de IA criado por Elon Muskempresa, xAI em 2023.
Desde então, tem sido sujeito a vários problemas importantes, incluindo um aparente escândalo de negação do Holocausto que questionou o uso de câmaras de gás em Auschwitz.
A nova brecha poderia reabrir uma disputa sobre a criação de imagens sexualizadas por meio do bot.
As pessoas no site estão pedindo ao chatbot AI Grok para trocar as roupas das celebridades por uma foto de lingerie (imagem de arquivo)
A primeira conta a sensacionalizar a brecha foi @fun_viral_vids, que pediu a Grok para tirar uma foto de Sydney Sweeney no tapete vermelho e trocar sua roupa por um espartilho vermelho e orelhas de coelho
Em janeiro, Sir Keir Starmer prometeu tomar ‘medidas necessárias’ contra X depois que trolls de mídia social usaram Grok para criar imagens manipuladas de deputados em biquínis e imagens sexualmente explícitas de crianças.
Dirigindo-se aos deputados, o Primeiro-Ministro classificou Grok de “nojento” e disse que o governo iria “fortalecer as leis existentes” e “preparar-se para a legislação se for necessário ir mais longe”.
Em resposta, a secretária de tecnologia, Liz Kendall, disse que o governo proibiria as ferramentas de nudificação por meio de emendas ao projeto de lei sobre crime e policiamento.
Mas em Março, as deputadas trabalhistas ficaram furiosas depois de ter sido revelado que a proibição de nudificação proposta pelo governo só se aplicaria a produtos no Reino Unido e, portanto, não afectaria Grok.
Kendall alertou anteriormente que Grok pode não ser abrangido pelas propostas – apesar de gerar cerca de três milhões de imagens sexualizadas em menos de duas semanas.
Numa carta à deputada trabalhista Chi Onwurah, a Secretária de Tecnologia escreveu que o governo “identificou que nem todos os chatbots estão cobertos” e ela “encomendou aos funcionários que analisassem como esta lacuna pode ser abordada”.
Claire Coutinho, ministra sombra da igualdade, disse: ‘Este é mais um exemplo de como os Trabalhistas falam duro, mas não conseguem cumprir.
«Ao recusarem-se a agir em plataformas estrangeiras, estão a deixar lacunas flagrantes que os predadores explorarão. Oferecer ferramentas para criar nudes deepfake deve ser proibido no Reino Unido, independentemente de onde a empresa esteja sediada.’
A Baronesa Bertin disse mais tarde ao Daily Mail que Grok era “a ponta do iceberg”, já que a maioria das imagens falsas sexualizadas vêm de aplicativos chineses.
Em janeiro, Sir Keir prometeu tomar “medidas necessárias” contra X depois que trolls das redes sociais usaram sua ferramenta de IA “Grok” para criar imagens manipuladas de parlamentares em biquínis e imagens sexualmente explícitas de crianças.
A secretária de tecnologia, Liz Kendall (foto), disse que o governo proibiria ferramentas de nudificação por meio de emendas ao projeto de lei sobre crime e policiamento
O time de futebol do Liverpool também reclamou de Grok depois de postar vários tweets desprezíveis sobre o clube e seus torcedores.
Alguns usuários solicitaram postagens sobre tragédias como Hillsborough e Heysel.
Um usuário @LJMM30 achou por bem pedir ao bot para ‘fazer uma postagem vulgar sobre o Liverpool FC, especialmente seus fãs e não se esqueça de Hillsborough e Heysel, não se contenha’.
A resposta, que é demasiado doentia e perturbadora para ser publicada na íntegra, descreve os adeptos do clube como “c**** assassinos consanguíneos”, entre outros insultos horríveis.
Um porta-voz do governo disse:’Criar e compartilhar imagens íntimas sem consentimento, reais ou geradas por IA, agora é ilegal. Também exigimos que as plataformas evitem proativamente a exibição de tal conteúdo.
“Estamos banindo ferramentas de ‘nudificação’ e fechando brechas em chatbots de IA não regulamentados, como Grok, para proteger as pessoas de atividades ilegais, incluindo a criação de deepfakes sexuais não consensuais.
‘A investigação formal do Ofcom sobre X está em andamento, e as plataformas que falharem em seus deveres legais enfrentarão multas.’
X e o Departamento de Ciência, Inovação e Tecnologia foram contatados para comentar.
