Tribunal holandês proíbe Grok da xAI de gerar imagens de nudez não consensuais | Notícias de tecnologia

O tribunal rejeitou a alegação da xAI de que medidas foram tomadas depois que o demandante produziu um vídeo de uma pessoa nua pouco antes da audiência.

Um tribunal holandês ordenou que o xAI de Elon Musk parasse de gerar e distribuir imagens de nudez de pessoas sem o seu consentimento na Holanda, alertando que iria impor multas de 100.000 euros (115.350 dólares) por dia em caso de incumprimento.

O Tribunal Distrital de Amsterdã decidiu na quinta-feira que os xAI’s Grok A ferramenta de inteligência artificial e a plataforma X que a hospeda foram proibidas de “gerar e/ou distribuir imagens sexuais” apresentando pessoas “parcialmente ou totalmente despidas sem terem dado sua permissão explícita”.

A decisão num processo civil foi uma das primeiras vezes em que um juiz opinou sobre a responsabilidade da xAI na criação de ferramentas que podem ser usadas para criar imagens sexualizadas, no meio de uma enxurrada de queixas e investigações sobre Grok nas Américas, Europa, Ásia e Austrália.

Grok foi lançado por Almíscar em 2023 e distribuído por meio de sua plataforma de mídia social X, que agora faz parte de sua empresa de foguetes e exploração espacial SpaceX.

Offlimits, um centro holandês que monitora a violência online, tomou medidas legais em cooperação com o Fundo de Apoio às Vítimas, uma organização sem fins lucrativos, por causa de um recurso Grok que permite aos usuários solicitar a criação de montagens falsas hiper-realistas de mulheres e crianças nuas usando fotos reais.

Numa audiência este mês, os advogados da xAI argumentaram que era impossível garantir que o abuso na sua plataforma pudesse ser evitado e que a empresa não deveria ser punida pelas ações de utilizadores mal-intencionados.

Eles disseram que a empresa tomou medidas em janeiro para impedir que Grok editasse imagens de pessoas reais em roupas reveladoras, inclusive restringindo seus recursos de criação de imagens a assinantes pagos.

O site do tribunal disse que o juiz decidiu que a Offlimits demonstrou que havia dúvidas razoáveis ​​sobre a eficácia das medidas tomadas até o momento. “Por exemplo, a Offlimits conseguiu produzir um vídeo de uma pessoa nua usando Grok pouco antes da audiência”, afirmou.

O diretor da Offlimits, Robbert Hoving, disse que “o fardo recai sobre a empresa” para garantir que suas ferramentas não sejam usadas para criar e distribuir imagens sexuais não consensuais, inclusive de crianças.

Na quinta-feira, o Parlamento Europeu aprovou a proibição de sistemas de inteligência artificial que geram deepfakes sexualizados, após indignação global com nus não consensuais produzidos por Grok.