Ashley St Clair, mãe do filho de Musk, Romulus, processa por “dor e sofrimento mental” causados por imagens falsas de IA geradas pelo chatbot Grok.
A mãe de um dos filhos de Elon Musk está processando sua empresa de inteligência artificial, dizendo que seu chatbot Grok permitia aos usuários gerar imagens deepfake de exploração sexual dela que lhe causaram humilhação e sofrimento emocional.
A ação foi movida pouco antes do procurador-geral da Califórnia, Rob Bonta, enviar uma carta de cessação e desistência à empresa xAI de Musk exigindo que ela interrompesse a criação e distribuição de produtos gerados por Grok. imagens sexualizadas não consensuais.
Histórias recomendadas
lista de 4 itensfim da lista
“A avalanche de relatórios detalhando este material – às vezes retratando mulheres e crianças envolvidas em atividades sexuais – é chocante e, como meu gabinete determinou, potencialmente ilegal”, disse Bonta na sexta-feira.
Ashley St Clair, escritora e comentarista política, alega em uma ação movida na quinta-feira na cidade de Nova York contra a xAI que ela foi vítima de imagens deepfake sexualizadas geradas por Grok.
St Clair, que é mãe do filho de 16 meses de Musk, Romulus, disse que relatou as imagens à plataforma de mídia social X de Musk, que hospeda Grok, depois que elas começaram a aparecer no ano passado e pediu que fossem removidas.
A plataforma respondeu que as imagens não violavam suas políticas, disse ela. Em seguida, prometeu não permitir que imagens dela fossem usadas ou alteradas sem o seu consentimento. Mais tarde, a plataforma social retaliou contra ela removendo sua assinatura premium X e marca de verificação, e continuou a permitir imagens falsas degradantes dela, disse ela.
“Sofri e continuo a sofrer sérias dores e sofrimento mental como resultado do papel da xAI na criação e distribuição dessas imagens minhas alteradas digitalmente”, disse St Clair em um documento anexado ao processo.
“Estou humilhada e sinto que esse pesadelo nunca vai acabar enquanto Grok continuar a gerar essas imagens minhas”, disse ela.
‘Um incômodo público’
Na quinta-feira, os advogados da xAI contra-atacaram St Clair no tribunal federal do Distrito Norte do Texas, alegando que ela violou os termos de seu contrato de usuário da xAI que exige que ações judiciais contra a empresa sejam movidas no tribunal federal do Texas. Está buscando um julgamento monetário não revelado contra ela.
Carrie Goldberg, advogada de St Clair, chamou a contra-ação de um movimento “sacudinte” que ela nunca tinha visto de um réu antes.
“A Sra. St Clair defenderá vigorosamente seu fórum em Nova York”, disse Goldberg em comunicado.
“Mas, francamente, qualquer jurisdição reconhecerá a gravidade das alegações da Sra. St Clair – que, ao fabricar imagens sexualmente explícitas não consensuais de meninas e mulheres, a xAI é um incômodo público e um produto não razoavelmente seguro.”
Numa entrevista à mídia dos EUA no início desta semana, St Clair disse que sua batalha com Grok “não era apenas sobre mim”.
“Trata-se de construir sistemas, sistemas de IA que possam produzir, em grande escala, e abusar de mulheres e crianças sem repercussões. E não há realmente consequências para o que está a acontecer neste momento”, disse ela à CNN.
“Eles estão dizendo ‘vamos tornar isso ilegal, onde é ilegal’. Isso está ausente de toda moralidade e, adivinhe, se você tiver que adicionar segurança após dano, isso não é segurança de forma alguma. Isso é simplesmente controle de danos”, disse ela.
O Grok de Musk já está sob escrutínio e enfrentando um reação internacional para a criação de imagens deepfake explícitas no Reino Unido, na União Europeia e em outras jurisdições, incluindo Índia, Indonésia, Malásia, Filipinas e Japão.
As autoridades japonesas disseram na sexta-feira que também estavam investigando X sobre Grok, dizendo que todas as opções estavam sendo consideradas para “evitar a geração de imagens inadequadas”.
