UE sinaliza deepfakes ‘terríveis’ infantis gerados pela Grok AI de X | Notícias de mídia social

Aumentaram as reclamações sobre o novo recurso de ‘edição de imagem’ do Grok, que alguns usuários do X exploraram para despir pessoas digitalmente.

A Comissão Europeia condenou a alegada disseminação de conteúdo explícito e infantil na plataforma de redes sociais X, qualificando o material de “terrível” e “nojento”.

O porta-voz de assuntos digitais da União Europeia, Thomas Regnier, fez os comentários aos repórteres na segunda-feira, após semanas de reclamações sobre um novo recurso no X’s chatbot de IA integrado Grok usado para gerar conteúdo pornográfico, inclusive retratando crianças.

“Grok agora oferece um ‘modo picante’ que mostra conteúdo sexual explícito com alguns resultados gerados com imagens infantis”, disse Regnier. “Isso não é picante. Isso é ilegal. Isso é terrível. Isso é nojento.”

Regnier disse que a Comissão Europeia está “a analisar muito seriamente” o assunto e que tal conteúdo “não tem lugar na Europa”.

Entretanto, o Ministério Público de Paris, França, expandiu uma investigação sobre X para incluir acusações de que Grok – criado pela empresa xAI de Elon Musk – tem sido usado para gerar e difundir pornografia infantil.

‘Esperando para ser armado’

No final de dezembro, um novo recurso de “edição de imagem” no Grok permitiu aos usuários modificar qualquer imagem na plataforma. Alguns usuários decidiram pedir a Grok que removesse parcial ou totalmente as roupas de mulheres ou crianças nas fotos.

Grok atendeu a vários pedidos de usuários para alterar fotografias de mulheres para retratá-las em trajes reveladores, como biquínis translúcidos.

Grok admitiu na sexta-feira “lacunas nas salvaguardas” e disse que as está “corrigindo urgentemente”. “CSAM (Material de Abuso Sexual Infantil) é ilegal e proibido”, afirmou em um post.

Mas especialistas em segurança de IA disseram que a plataforma ignorou meses de avisos de que tal abuso era iminente.

“Em agosto, alertamos que a geração de imagens do xAI era essencialmente uma ferramenta de nudificação ‌esperando para ser transformada em arma”, disse Tyler Johnston, diretor executivo do grupo de vigilância de IA The Midas Project. “Isso é basicamente o que aconteceu.”

X, que Musk adquirido em 2022já enfrentou uma reação negativa da UE pelas suas políticas de publicidade e moderação de conteúdo.

Bruxelas emitiu em dezembro à plataforma uma multa de 120 milhões de euros (140 milhões de dólares) por violar as regras de conteúdo digital da UE sobre transparência na publicidade e por métodos de verificação de utilizadores.

X ainda continua sob investigação sob a Lei de Serviços Digitais da UE em uma investigação iniciada em dezembro de 2023.

Grok tem um histórico controverso, inclusive por gerar conteúdo a-histórico e preconceituoso. No ano passado, a empresa de Musk retirou postagens do chatbot que pareciam elogiar Adolf Hitler após reclamações de conteúdo antissemita.