A cidade de Baltimore processou a empresa de inteligência artificial de Elon Musk, xAI, na terça-feira, alegando que sua ferramenta, Grok, Continuar a gerar Imagens sexuais consensuais violam a Lei de Proteção ao Consumidor e Práticas Enganosas da cidade.
A denúncia afirma que os usuários da plataforma de mídia social de Musk, X, correm o risco de serem expostos a conteúdo gerado por Grok “apenas usando uma plataforma de mídia social convencional” e que suas próprias fotos “correm o risco de serem transformadas em deepfakes sexualmente ofensivos sem o seu conhecimento ou consentimento”.
Baltimore disse que esses riscos são inconsistentes com o marketing da xAI, que afirma posicionar Grok e X como plataformas e produtos seguros para os usuários, de acordo com a ação movida no Tribunal do Circuito da Cidade de Baltimore.
“Os residentes de Baltimore têm uma expectativa razoável de que não serão expostos a esse conteúdo ilegal em X e que X não assediará seus próprios clientes com deepfakes gerados por Grok”, afirma a denúncia.
Em seu processo, a cidade disse que a “oferta mais controversa” de Grok, apelidada de “Modo Picante”, permite que os usuários peçam a Grok para se despir ou despir celebridades e cidadãos, incluindo crianças.
Como resultado, coloca muitos em “situações sexualmente sugestivas, degradantes ou violentas”, diz a denúncia.
Numa análise citada na denúncia, o Centro para Prevenção do Ódio Digital É relatado que entre 29 de dezembro e 8 de janeiro, Grok criou 3 milhões de imagens sexuais, incluindo aproximadamente 20.000 representando crianças.
Baltimore afirma que Groke fez “alterações indecentes e ofensivas” no material, incluindo colocar uma “esmalte de donut” no rosto de uma criança. Uma vítima alegou que, em outro caso, Groke “a despiu com relutância e acabou deixando-a completamente nua”.
A geração de tais imagens por Grok geralmente resulta de solicitações de usuários. Extrair imagens usando o Grok virou tendência entre os usuários em janeiro.
A cidade também alegou que Musk promoveu os recursos de edição da ferramenta participando da tendência ao postar uma foto editada sua de biquíni.
“A postagem de Mask serviu como um endosso público à capacidade de Grok de criar edições sexuais ou reveladoras de pessoas reais e sinalizou aos usuários que esses usos de Grok eram aceitáveis, bem-humorados e encorajadores”, afirma a denúncia.
Finalmente, X se afastou Alguns dos recursos da Grok podem gerar tais imagens diretamente na Plataforma, mas a Grok ainda pode gerar tais imagens em outras partes do Aplicativo, em seus sites e aplicativos independentes.
Em comunicado, o prefeito de Baltimore, Brandon M. “Esses deepfakes, especialmente aqueles que retratam menores, têm consequências traumáticas e duradouras para as vítimas – que não têm como impedir a propagação das imagens perturbadoras e sexualizadas que criam sem o seu consentimento”, disse Scott.
Scott acrescentou: “Nossa cidade não vai ficar parada e permitir que isso continue; é uma ameaça à privacidade, dignidade e segurança pública, e os responsáveis devem ser responsabilizados”.
Baltimore está buscando o “valor máximo da pena legal”; O pedido não especifica a perda total.
A cidade também pediu ao tribunal que ordene que a empresa de Musk “pare de visar e explorar os residentes de Baltimore” e “reforme suas restrições de recursos de design de plataforma de exploração e restrições de marketing aprimoradas”, de acordo com o documento.
semana passada, Um grupo de adolescentes no Tennessee processou xAIAfirma que Grok fez imagens sexualmente explícitas deles quando eram menores
Baltimore parece ser o primeiro governo municipal a abrir tal ação contra a xAI.
Desde que a tendência de despir-se gerou controvérsia no início de Janeiro, governos e organizações políticas, incluindo a União Europeia, o estado da Califórnia e os Democratas da Câmara, anunciaram vários inquéritos e investigações sobre Grok e as suas capacidades de despir-se.
xAI e X não responderam imediatamente a um pedido de comentário.
