A Meta disse que fortaleceu a aplicação da IA contra a exploração infantil, com o novo sistema cobrindo a língua falada por 98% das pessoas online.
Imagem: Observe que a imagem postada é apenas para fins representativos. Foto: Francisco Mascarenhas/Reuters
Citando detecção baseada em IA, sistemas de revisão de anúncios e ações de fiscalização em grande escala, Meta publicou um blog detalhado na terça-feira descrevendo esforços para combater conteúdo de abuso sexual infantil em seu aplicativo, dias depois de o governo emitir um aviso ao gigante da mídia social sobre relatos de anúncios do Instagram promovendo tal conteúdo.
ponto principal
- Chamando a exploração infantil de crime hediondo, a Meta disse que trabalha agressivamente todos os dias para combater esse tipo de abuso dentro e fora de sua plataforma.
- Meta disse que é claramente errado sugerir que direciona, consciente e intencionalmente, anúncios com crianças para pessoas com base em interesses inadequados.
- No ano passado, removeu automaticamente mais de 4 milhões de contas suspeitas e 36 milhões de conteúdos de exploração infantil em todo o mundo.
Chamando a exploração infantil de crime hediondo, a Meta disse que trabalha agressivamente todos os dias para combater esse tipo de abuso dentro e fora de sua plataforma.
“Estamos cientes das notícias recentes sobre anúncios do Instagram na Índia que violaram a nossa política contra a exploração infantil. E queremos ser claros: levamos estas preocupações a sério, nunca queremos este conteúdo nas nossas plataformas e estamos empenhados em melhorar os nossos esforços para combatê-lo”, observou.
Meta disse que é claramente errado sugerir que direciona, consciente e intencionalmente, anúncios com crianças para pessoas com base em interesses inadequados.
“Muito pelo contrário; usamos tecnologia para identificar contas que mostraram atividades potencialmente suspeitas relacionadas com crianças, e removemos automaticamente mais de 4 milhões dessas contas no ano passado”, disse Meta.
A Meta disse que fortaleceu a aplicação da IA contra a exploração infantil, com o novo sistema cobrindo a língua falada por 98% das pessoas online.
No ano passado, removeu automaticamente mais de 4 milhões de contas suspeitas e 36 milhões de conteúdos de exploração infantil em todo o mundo.
Na Índia, as ferramentas de IA ajudaram a remover 1.60.000 contas nos últimos seis meses por publicarem links suspeitos associados a atividades de exploração.
Afirmou também que antes de os casos serem levados ao seu conhecimento, os seus sistemas de fiscalização já tinham detectado e desativado vários anúncios infratores e as contas por trás deles.
“Nossa investigação subsequente levou a medidas adicionais, incluindo a remoção de outros anúncios, a desativação de contas e o bloqueio de URLs vinculados a conteúdo que viola a política”, observou.
A gigante da tecnologia Meta, com sede em Menlo Park, Califórnia, possui plataformas populares de mídia social Facebook, Instagram e WhatsApp.
“Temos ferramentas avançadas de detecção de IA que se combinam com outros sinais que indicam atividade de exploração infantil para detectar quando indivíduos postam links suspeitos fora da plataforma.
Fontes oficiais disseram ao PTI que se aguarda a resposta oficial do medidor ao aviso de sábado.
Acrescentaram que o foco do governo estará nas medidas corretivas e nas medidas tomadas pela empresa para resolver todas as preocupações.
Na semana passada, o governo emitiu um aviso estrito à Meta sobre material de exploração e abuso sexual infantil (CSEAM) em anúncios pagos no Instagram.
MeitY (Ministério da Eletrônica e Tecnologia da Informação) ordenou que o Instagram desativasse todas as propagandas e promoção de conteúdo e acesso ao CSEAM e também exigiu uma explicação detalhada no prazo de sete dias.
A medida ocorreu depois que o ministro de TI, Ashwini Vaishnab, instruiu os funcionários da MeitY a convocar Meita por supostamente promover conteúdo de abuso sexual infantil em seus anúncios no Instagram.
O escrutínio regulatório do ministério ocorre em meio a uma reportagem da BBC de que o algoritmo de recomendação do Meta estava promovendo vídeos contendo conteúdo de abuso sexual infantil, expondo sérias falhas de segurança.
Uma investigação da BBC descobriu que anúncios desta natureza foram supostamente exibidos no Facebook e no Instagram, apesar das políticas publicitárias da Meta proibirem expressamente nudez e conteúdo sexual.
O Instagram é acusado de exibir anúncios pagos com termos como ‘vídeos de estupro’ e ‘vídeos infantis’, que direcionam os usuários para canais do Telegram onde tal conteúdo seria vendido.
Na postagem do blog de terça-feira, Meta disse que seu processo de revisão de anúncios combina sistemas automatizados com revisores humanos para identificar e remover anúncios que violam as políticas, ao mesmo tempo que reconhece que nenhum sistema pode detectar todas as violações.
Embora os anúncios sejam selecionados antes de serem veiculados e sujeitos a revisão e reavaliação contínuas, os usuários também podem denunciar suspeitas de violação, de acordo com a empresa.
A Meta disse que monitora anúncios individuais, bem como o comportamento dos anunciantes, e pode rejeitar anúncios ou contas comerciais de anunciantes, contas de anúncios, páginas e contas de usuários que violem suas políticas.
A empresa de mídia social observou que continua a fortalecer seu sistema de revisão e fiscalização de anúncios para manter os malfeitores fora de sua plataforma e proteger melhor os usuários.
“Estamos empenhados em manter os maus atores fora das nossas plataformas e estamos constantemente a evoluir os nossos sistemas para nos mantermos à frente deles. Proteger as pessoas que utilizam as nossas plataformas está no centro da forma como desenvolvemos e aplicamos os nossos padrões de publicidade”, afirmou.
Destacando a sua abordagem de tolerância zero relativamente a esta questão, a Meta afirmou que tem políticas detalhadas e robustas contra a nudez, abuso e exploração infantil, incluindo a partilha ou solicitação de imagens de exploração infantil, interacções inadequadas com menores e sexualização de menores.
“Conforme declarado em nossos padrões de publicidade, todos os anúncios devem aderir aos padrões da nossa comunidade sobre exploração sexual infantil, abuso e nudez. Os anúncios não devem conter conteúdo que explore sexualmente ou coloque crianças em perigo.”
Meta disse que relata casos aparentes de exploração infantil às agências de aplicação da lei através do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), publica relatórios de transparência globais e específicos da Índia e nomeou oficiais de conformidade estatutários (Diretor de Conformidade, Oficial de Reclamações e Pessoa de Contato Nodal) de acordo com as normas de TI da Índia.
A empresa disse que trabalha com a indústria e as autoridades para combater a exploração infantil online fora de sua própria plataforma.
Ele destacou maneiras de apoiar os esforços de todo o setor e falou sobre sua adesão fundadora ao Programa Lantern da aliança tecnológica para compartilhar inteligência entre plataformas sobre contas predatórias e esforços para bloquear links para sites de terceiros que hospedam conteúdo abusivo.
A Meta também disse que apoia a ferramenta ‘Take It Down’ do NCMEC, que ajuda a prevenir a disseminação online de imagens íntimas de jovens.
“Em 2019, desempenhamos um papel fundamental no estabelecimento do relacionamento da Índia com o NCMEC, permitindo que as autoridades locais responsáveis pela aplicação da lei recebessem relatórios e tomassem medidas sobre atividades infratoras”, disse Meta. A meta está fortemente encaminhada neste trabalho.
“Nossas equipes estão constantemente melhorando nossas defesas – desenvolvendo novas tecnologias, bloqueando links infratores e compartilhando inteligência entre os setores – mas sabemos que há mais a fazer. Continuaremos a investir todos os recursos necessários para manter os jovens seguros, fortalecer nossos processos de revisão de anúncios e trabalhar com as autoridades para responsabilizar os criminosos”, afirmou.
