Elon Musk foi instruído a tomar medidas urgentes para impedir que a ferramenta Grok AI do X gere indecente deepfake imagens de crianças e mulheres.
A secretária de Tecnologia, Liz Kendall, disse que o bilionário da tecnologia dos EUA deve intervir depois que casos de uso do sistema para criar imagens sexualizadas de pessoas reais foram destacados nos últimos dias.
O regulador Ofcom já pediu a X e xAI que definissem as medidas que está tomando para cumprir as obrigações legais para proteger os usuários da plataforma de mídia social no Reino Unido.
Mas a intervenção do ministro ameaça abrir uma nova frente na guerra entre o Governo do Reino Unido e Musk, que já atacou as medidas britânicas para regulamentar as redes sociais.
“O que temos visto online nos últimos dias tem sido absolutamente terrível e inaceitável numa sociedade decente”, disse Kendall esta tarde.
“Ninguém deveria passar pela provação de ver deepfakes íntimos de si mesmo online.
«Não podemos e não permitiremos a proliferação destas imagens humilhantes e degradantes, que se destinam desproporcionalmente às mulheres e às raparigas.
‘X precisa lidar com isso urgentemente. É absolutamente certo que o Ofcom esteja analisando isso com urgência e tem todo o meu apoio para tomar qualquer ação coerciva que considere necessária.
Ofcom ‘contatou urgentemente’ X e xAI sobre as imagens sexualizadas de crianças, o que Grok admitiu em uma postagem na plataforma de mídia social
De acordo com a Lei de Segurança Online do Reino Unido, as empresas de redes sociais devem prevenir e remover material de abuso sexual infantil quando tomarem conhecimento disso.
A lei também proíbe o uso de IA para gerar imagens pornográficas, também conhecidas como deepfakes, de pessoas sem o seu consentimento.
Mas os usuários do X destacaram casos nos últimos dias em que imagens inocentes de mulheres e atrizes infantis foram manipuladas por Grok após solicitações dos usuários para alterar ou remover roupas digitalmente.
Kendall disse que os esforços para conter a disseminação de deepfakes sexualizados não foram uma tentativa de restringir a liberdade de expressão.
A administração de Donald Trump nos EUA atacou os reguladores europeus por tentativas de regular o que aparece online nas plataformas americanas.
Mas a Sra. Kendall disse: ‘Os serviços e os operadores têm uma obrigação clara de agir de forma adequada. Não se trata de restringir a liberdade de expressão, mas de defender a lei.
‘Tornamos o abuso de imagens íntimas e o cyberflashing ofensas prioritárias de acordo com a Lei de Segurança Online – incluindo onde as imagens são geradas por IA. Isto significa que as plataformas devem impedir que tal conteúdo apareça online e agir rapidamente para removê-lo, caso isso aconteça.
«A violência contra mulheres e raparigas mancha a nossa sociedade – e é por isso que também legislamos para proibir a criação de deepfakes explícitos sem consentimento, que são ao mesmo tempo degradantes e prejudiciais.
«Não se enganem – o Reino Unido não tolerará a proliferação interminável de material nojento e abusivo online. Devemos todos nos unir para erradicar isso.
Ofcom fez ‘contato urgente’ com Elon Muskplataforma de mídia social X da empresa, após sérias preocupações de que sua IA ferramenta Grok pode gerar ‘imagens sexualizadas de crianças’.
Uma postagem na conta Grok X admitiu isso, dizendo: “casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas”.
Participe do debate
Como devem os gigantes da tecnologia ser responsabilizados quando a sua IA cria imagens potencialmente prejudiciais?
Elon Musk parece estar ciente da tecnologia usada para despir as pessoas depois de postar uma foto sua de biquíni com emojis risonhos
Acrescentou: ‘xAI tem salvaguardas, mas estão em andamento melhorias para bloquear totalmente tais solicitações.’
Ofcom contatou X urgentemente para ver o que essas melhorias poderiam significar e como X e xAI protegerão os usuários da plataforma de mídia social no Reino Unido, mas ainda não abriram uma investigação.
Um porta-voz do regulador disse: “Combater os danos ilegais online e proteger as crianças continuam a ser prioridades urgentes para o Ofcom.
“Estamos cientes das sérias preocupações levantadas sobre um recurso no Grok on X que produz imagens de pessoas nuas e imagens sexualizadas de crianças.
‘Fizemos contato urgente com X e xAI para entender quais medidas eles tomaram para cumprir seus deveres legais de proteção aos usuários no Reino Unido.
‘Com base na resposta deles, realizaremos uma avaliação rápida para determinar se existem possíveis problemas de conformidade que justifiquem investigação.’
Quando solicitado a comentar sobre as imagens sexualizadas de crianças na plataforma, o xAI respondeu com um e-mail gerado automaticamente dizendo “mentiras da mídia legada”.
Elon Musk parece estar ciente da tecnologia usada para despir as pessoas, pois postou uma foto gerada de si mesmo de biquíni.
A postagem original parece ter sido excluída, mas ele postou novamente a resposta de outro usuário com emojis risonhos.
O executivo-chefe da Internet Watch Foundation, Kerry Smith, disse: ‘A IWF recebeu uma série de relatórios do público relacionados a imagens suspeitas de abuso sexual infantil no X geradas pelo chatbot de IA Grok.
“Ainda estamos a trabalhar nestes relatórios, mas, até agora, não vimos nenhuma imagem que ultrapasse o limite legal para ser considerada abuso sexual infantil no Reino Unido”.
Ela instou o governo a exigir que as empresas de IA incluam medidas de segurança nos seus produtos para prevenir conteúdos nocivos.
Um porta-voz do Ministério do Interior disse: “Estamos legislando para proibir ferramentas de nudificação em todas as suas formas, incluindo o uso de modelos de IA para este fim.
«O abuso da imagem íntima é um crime devastador que afecta desproporcionalmente mulheres e raparigas.
‘No âmbito deste novo crime, quaisquer indivíduos ou empresas que concebam ou forneçam estas ferramentas de nudificação enfrentarão uma pena de prisão e multas substanciais.’
