Malásia suspendeu o acesso a Elon Muskdo chatbot Grok sobre conteúdo pornográfico gerado por IA, disse o regulador de tecnologia do país no domingo.
A decisão segue a reação global depois que se descobriu que o recurso de criação de imagens de Grok permitia aos usuários sexualizar fotos de mulheres e crianças usando instruções de texto simples.
No sábado Indonésia tornou-se o primeiro país a negar todo o acesso à ferramenta, que foi restrita a assinantes pagantes em outros lugares.
A Comissão de Comunicações e Multimídia da Malásia disse em um comunicado que ‘dirigiu uma restrição temporária ao acesso ao Grok inteligência artificial para usuários na Malásia’ com efeito imediato.
Quando um repórter da AFP na capital da Malásia, Kuala Lumpur, deu instruções a Grok no domingo, não houve resposta.
“Esta ação segue-se ao uso indevido repetido de Grok para gerar imagens manipuladas obscenas, sexualmente explícitas, indecentes, grosseiramente ofensivas e não consensuais”, disse o regulador.
A declaração citou “conteúdo envolvendo mulheres e menores, apesar do envolvimento regulatório prévio e avisos formais” emitidos para a X Corp. de Musk e a startup xAI que desenvolveu o Grok.
A ferramenta de IA está integrada à plataforma de mídia social X.
A Malásia suspendeu o acesso ao chatbot Grok de Elon Musk por causa de conteúdo pornográfico gerado por IA, disse o regulador de tecnologia do país no domingo
Keir Starmer insistiu que o governo ‘tomará medidas’ contra as imagens sexualizadas de crianças que circulam na plataforma de mídia social X
O regulador malaio disse que considerou as salvaguardas da plataforma inadequadas, acrescentando que o acesso só seria retomado depois de verificadas as alterações exigidas.
A X Corp. “não conseguiu abordar os riscos inerentes colocados pela concepção e operação da ferramenta de IA”, baseando-se “principalmente em mecanismos de relatórios iniciados pelo utilizador”, disse o regulador.
Autoridades europeias e ativistas de tecnologia criticaram Grok na sexta-feira depois que seu polêmico recurso de criação de imagens foi restrito a assinantes pagantes, dizendo que a mudança não abordou as preocupações sobre deepfakes sexualizados.
Grok pareceu desviar as críticas com uma nova política de monetização, postando no X na quinta-feira que a geração e edição de imagens estavam agora “limitadas a assinantes pagantes”, juntamente com um link para uma assinatura premium.
Isso ocorre depois que o primeiro-ministro Keir Starmer insistiu que o governo “tomaria medidas” contra as imagens sexualizadas de crianças que circulam no X – enquanto ele instava Elon Musk a “se controlar”.
Starmer disse na quinta-feira que pediu que “todas as opções estivessem sobre a mesa” em meio à onda “vergonhosa” de imagens ilegais criadas pela ferramenta de IA do aplicativo.
Falando à Greatest Hits Radio, Sir Keir disse: “É vergonhoso, é nojento e não deve ser tolerado.
‘X precisa controlar isso e o Ofcom tem todo o nosso apoio para tomar medidas em relação a isso. Isso está errado; é ilegal – não vamos tolerar isso.’
Ele acrescentou que X precisava “atuar em conjunto” e “lançar o material”.
“Tomaremos medidas sobre isso porque simplesmente não é tolerável”, concluiu Sir Keir.
A ex-ministra dos transportes, Louise Haigh, disse que o governo e o Partido Trabalhista deveriam “retirar-se totalmente” do site de mídia social X.
Ela acrescentou que “a facilitação, se não o incentivo, do abuso sexual infantil significa que é injusto usar o site por mais um minuto” e instou os ministros a se juntarem a ela para abandoná-lo.
Ofcom ‘contatou urgentemente’ X e xAI sobre as imagens sexualizadas de crianças, o que Grok admitiu em uma postagem na plataforma de mídia social
Haigh disse: “Já era um lugar desagradável antes de ser assumido por Elon Musk, mas desde que ele aceitou o discurso de ódio e os abusadores on-line anônimos, tornou-se totalmente inutilizável.
‘Continuei a manter uma conta e a publicar ocasionalmente porque uma massa crítica de pessoas, incluindo o Governo e jornalistas com quem precisávamos de comunicar como deputados, permaneceu no site.’
O regulador Ofcom disse que fez “contato urgente” com a plataforma de mídia social de Musk.
Seguiu-se uma organização de segurança na Internet que afirmou que os seus analistas confirmaram a existência de “imagens criminosas de crianças com idades entre os 11 e os 13 anos que parecem ter sido criadas utilizando a ferramenta (Grok)”.
A Internet Watch Foundation (IWF) disse que o material estava sendo compartilhado em um fórum da dark web por usuários “se gabando de como usaram o Grok e de como foi fácil”.
No início desta semana, Jessaline Caine, uma sobrevivente de abuso sexual infantil, classificou a resposta do governo como “covarde”.
Ela disse ao Guardian que o chatbot ainda estava obedecendo a pedidos para manipular uma imagem dela aos três anos de idade para vesti-la com um biquíni.
Solicitações de imagens idênticas feitas pela Sra. Caine ao ChatGPT e Gemini foram rejeitadas.
O colega do Crossbench e ativista de segurança infantil online, Beeban Kidron, instou o governo a ‘mostrar alguma firmeza’ e disse que o regime da Lei de Segurança Online deveria ser ‘reavaliado para que seja mais rápido e tenha mais força’.
Referindo-se a X, ela acrescentou: ‘Se qualquer outro produto de consumo tivesse esse nível de dano, já teria sido recolhido.’
