A deputada trabalhista do Reino Unido, Jess Assato, está processando a xAI por causa de imagens sexualmente explícitas geradas por IA que ela criou, Os tempos financeiros Relatório. O caso é o primeiro teste de alto nível de que as empresas de IA podem ser responsabilizadas pelo conteúdo criado com suas ferramentas no Reino Unido.
Os usuários do Grok começaram a criar e compartilhar imagens do Assato em janeiro, logo quando foi relatado pela primeira vez que o assistente de IA estava sendo usado para criar CSAM. Assato alega que os usuários levaram Grok a criar fotos dela de biquíni, com um vídeo explícito “mostrando-a clorofórmica e pronta para ser agredida sexualmente”. pés Posteriormente, os usuários da escrita compartilharam de novo, discutiram e produziram mais imagens de IA na plataforma social X de propriedade da xAI.
Hoje, estou lançando uma ação no Tribunal Superior contra a xAI, a empresa por trás da Grok.
Sou uma entre milhares de mulheres e até crianças que foram vítimas de deepfakes de IA abusivos e sexualizados.
Isso nunca deveria ter acontecido – e a xAI deve ser responsabilizada. https://t.co/Oc9XlxHQO6
-Jess Assato MP (@Jess4Lowestoft) 3 de junho de 2026
O processo da Assato alega que a xAI violou leis relacionadas ao uso indevido de informações pessoais e proteção de dados, expondo-a a responsabilidades, mesmo que usuários individuais usassem o Grok. Ele está buscando indenização monetária e uma ordem que obrigue a xAI a seguir a lei do Reino Unido. “Minha esperança é que isso equilibre os direitos dos indivíduos com os das grandes empresas de tecnologia que deveriam ter implementado salvaguardas antes de prejudicar mulheres e crianças”, disse Assato. pés.
xAI reivindicado Isso impõe restrições à capacidade de Grok de produzir imagens sexualmente explícitas em janeiro, mas esses bloqueios foram facilmente contornados durante os testes. As reações negativas à capacidade de Grok de criar deepfakes não conformes foram generalizadas. Além de estar sob investigação na UE, Reino Unido e Califórnia, Ashley St. Clair, uma adolescente de Baltimore, Maryland e mãe do filho de Elon Musk, também está sendo processada por xAI ou X.
Tudo isso está acontecendo enquanto a SpaceX, a relativamente nova proprietária do xAI e do X, tenta abrir o capital. É difícil dizer se a atenção negativa afetará o novo IPO de Musk, mas certamente parece provável que qualquer movimento para controlar a Gro virá dos reguladores ou de um desses processos, e não do CEO da SpaceX.
