Última atualização:
Chaturvedi buscou ação governamental após sinalizar um suposto uso indevido da Grok AI de X para gerar conteúdo sexualmente explícito a partir de fotos de mulheres, chamando-o de violação de privacidade e dignidade.
Priyanka Chaturvedi acusou a Grok AI de X de permitir a sexualização não consensual de imagens de mulheres e apelou à intervenção imediata para proteger a dignidade e a privacidade online. (IMAGEM: PTI)
A deputada do Shiv Sena (UBT) e membro do Rajya Sabha, Priyanka Chaturvedi, escreveu à Ministra da União de Eletrônica e Tecnologia da Informação, Ashwini Vaishnaw, sinalizando o que ela descreveu como um uso indevido perturbador do recurso de IA do X, Grok, para sexualizar fotos de mulheres nas redes sociais.
Numa carta datada de 2 de janeiro de 2026, Chaturvedi disse que os homens estariam supostamente usando contas falsas no X para fazer upload de imagens de mulheres e depois incitando Grok a alterá-las digitalmente, minimizando as roupas e gerando resultados sexualmente sugestivos. Ela observou que o abuso não se limitou a imagens roubadas, mas também teve como alvo mulheres que publicam as suas próprias fotografias online.
Chamando isso de “uso indevido grosseiro de uma função de IA”, Chaturvedi disse que a prática equivalia a uma violação do direito das mulheres à privacidade e ao uso não autorizado de imagens, que ela descreveu como antiético e criminoso. Ela acrescentou que o problema foi agravado pelo fato de Grok supostamente ter respondido a tais solicitações em vez de bloqueá-las.
“Escrevo para você como membro ativo do Comitê Permanente de TI e Comunicação para exortá-lo a abordar isso fortemente com X e garantir que as salvaguardas sejam incorporadas em suas aplicações de IA”, disse Chaturvedi, enfatizando que a Índia não poderia permanecer como espectadora enquanto a dignidade das mulheres era violada “publicamente e digitalmente sob o manto de criatividade e inovação”.
Leis globais visam o abuso sexual gerado por IA
Vários países estão a regulamentar as ferramentas de IA que podem ser utilizadas indevidamente para criar conteúdos sexualmente explícitos ou não consensuais. Nos Estados Unidos, a Lei TAKE IT DOWN, sancionada em maio de 2025, visa deepfakes e imagens íntimas não consensuais, exigindo que as plataformas removam rapidamente esse conteúdo gerado por IA e impondo penalidades aos criadores e distribuidores.
Estados como Califórnia, Virgínia e Texas também criminalizaram a criação e o compartilhamento de deepfakes explícitos sem consentimento.
Na Europa, os governos começaram a reforçar as leis penais para abordar o abuso sexual provocado pela IA. A Itália, por exemplo, alterou o seu código penal em 2023 para proibir explicitamente a criação e distribuição de pornografia deepfake não consensual, na sequência de vários casos de grande repercussão envolvendo a manipulação sexualizada de imagens de mulheres, incluindo estudantes e professoras.
A medida visava colmatar lacunas legais em torno do consentimento digital e proteger as vítimas da exploração online.
O Reino Unido também anunciou planos para proibir as chamadas aplicações de “nudificação”, enquanto a proposta de Lei da IA da União Europeia procura salvaguardas mais amplas contra os danos provocados pela IA.
padrões semelhantes de uso indevido de IA emergentes
Entretanto, o deputado também alertou que padrões semelhantes de utilização indevida de IA estavam a surgir noutras plataformas tecnológicas importantes, permanecendo em grande parte não controlados. Ela instou o governo a tratar a questão como uma prioridade para evitar que as mulheres sejam assediadas, silenciadas ou expulsas dos espaços digitais.
Chaturvedi disse que embora a Índia acolhesse a inteligência artificial pelo seu potencial para melhorar vidas, não poderia permitir a proliferação de ferramentas que permitem atos humilhantes ou abusivos contra as mulheres. Cópias da carta também foram enviadas ao presidente do Comitê Permanente Parlamentar, Nishikant Dubey.
2 de janeiro de 2026, 14h52 IST
Leia mais
