Crise da pornografia deepfake atinge escolas na Coreia do Sul

Depois que as autoridades sul-coreanas descobriram uma rede crescente de salas de bate-papo pornográficas deepfake de IA no Telegram, que tinham como alvo escolas e universidades, a ativista adolescente Bang Seo-yoon começou a coletar depoimentos de abuso de vítimas.

Muitos dos casos que ela documentou seguiram o mesmo padrão: estudantes roubam selfies inofensivas de contas privadas do Instagram e criam imagens explícitas para compartilhar nas salas de bate-papo, especificamente para humilhar colegas de classe — ou até mesmo professoras.

A Coreia do Sul, com a maior velocidade média de internet do mundo, há muito tempo luta contra a violência sexual cibernética, mas especialistas dizem que uma combinação tóxica de Telegram, tecnologia de IA e leis frouxas agravou o problema — e está afetando as escolas do país.

“Não é apenas o dano causado pelo deepfake em si, mas a disseminação desses vídeos entre conhecidos que é ainda mais humilhante e doloroso”, disse Bang, 18, à AFP.

Ela recebeu milhares de relatos de vítimas devastadas desde que as autoridades encontraram, em agosto, as primeiras salas de bate-papo do Telegram, normalmente criadas dentro de uma escola ou universidade para atacar alunas e funcionárias.

A maioria dos perpetradores são adolescentes, diz a polícia.

A prevalência do deepfake está aumentando exponencialmente no mundo todo, mostram dados do setor, com um aumento de 500% em relação ao ano anterior em 2023, estima a startup de segurança cibernética Security Hero, com 99% das vítimas sendo mulheres — geralmente cantoras e atrizes famosas.

Mas, embora as celebridades tenham patrocinadores poderosos para protegê-las — a agência de K-pop por trás da banda feminina NewJeans recentemente entrou com uma ação legal contra a pornografia deepfake — muitas vítimas comuns estão lutando para obter justiça, dizem ativistas.

‘Viva com medo’

As taxas de acusação são lamentáveis: entre 2021 e julho deste ano, 793 crimes de deepfake foram relatados, mas apenas 16 pessoas foram presas e processadas, de acordo com dados policiais obtidos por um legislador.

Depois que as notícias sobre as salas de bate-papo se espalharam, as reclamações aumentaram, com 118 casos relatados em apenas cinco dias no final de agosto, e sete pessoas presas em meio à repressão policial.

Mas seis dos sete supostos perpetradores eram adolescentes, diz a polícia, o que complica os processos, já que os tribunais sul-coreanos raramente emitem mandados de prisão para menores.

As salas de bate-papo, muitas das quais a AFP tentou acessar antes de serem removidas pelos moderadores, têm nomes obscenos como “o masturbador solitário” e regras que exigem que os membros postem fotos de mulheres que desejam ver “punidas”.

As vítimas são “sexualmente insultadas e ridicularizadas por seus colegas de classe em espaços online”, disse à AFP Kang Myeong-suk, chefe de apoio às vítimas do Instituto de Direitos Humanos das Mulheres da Coreia.

“Mas os perpetradores muitas vezes não enfrentam consequências”, disse ela, acrescentando que as vítimas agora “vivem com medo de onde suas imagens manipuladas podem ser distribuídas por aqueles ao seu redor”.

“Alguns comentários online dizem que as vítimas deveriam ‘superar isso’, pois essas imagens deepfake nem são reais”, disse Kang.

“Mas só porque as imagens manipuladas não são reais não significa que a dor que as vítimas sofrem seja menos genuína.”

Culpabilização da vítima

Embora as taxas gerais de criminalidade na Coreia do Sul sejam geralmente baixas, o país sofre há muito tempo com uma epidemia de crimes cometidos por câmeras espiãs, o que levou a grandes protestos em 2018, inspirados pelo movimento global #MeToo, forçando os legisladores a reforçar as leis.

Mesmo assim, “as penalidades impostas são frequentemente triviais, como multas ou liberdade condicional, que são desproporcionais à gravidade das infrações”, disse o professor Yoon Kim Ji-young à AFP.

Também houve escândalos pornográficos no Telegram antes, mais notavelmente em 2020, quando um grupo que chantageava mulheres e meninas para fazer conteúdo sexual para salas de bate-papo pagas foi descoberto. O líder foi preso.

Mas as coisas não melhoraram.

As opiniões desdenhosas do presidente Yoon Suk Yeol sobre o feminismo — que ele culpa pela baixa taxa de natalidade do país — sinalizaram aos homens que “não há problema em ser hostil ou discriminatório em relação às mulheres”, disse Yoon Kim.

A polícia sul-coreana culpa as baixas taxas de acusação no Telegram, que é famoso por sua relutância em cooperar com as autoridades. Seu fundador foi preso recentemente na França por não coibir conteúdo ilegal no aplicativo.

Mas uma vítima de um incidente de pornografia deepfake em 2021 disse à AFP que isso não era desculpa: muitas vítimas conseguem identificar seus agressores por meio de uma investigação determinada.

A vítima, que pediu anonimato, disse que foi um “grande trauma” levar seu agressor à justiça depois que ela foi atacada em 2021 com uma enxurrada de mensagens do Telegram contendo imagens deepfake mostrando-a sendo abusada sexualmente.

O agressor era um colega da prestigiosa Universidade Nacional de Seul, com quem ela raramente interagia, mas sempre achou que era “gentil”.

“Foi difícil aceitar”, disse ela, acrescentando que a polícia exigiu que ela mesma coletasse todas as evidências e depois ela teve que fazer muita pressão para que houvesse um julgamento, que agora está em andamento.

“O mundo que eu pensava conhecer desmoronou completamente”, disse ela em uma carta que planeja entregar ao tribunal em 26 de setembro.

“Ninguém deve ser tratado como objeto ou usado como meio para compensar os complexos de inferioridade de indivíduos como a ré, simplesmente por serem mulheres.”