Vancouver, Canadá: Na era da inteligência artificial, dos deepfakes e das decisões baseadas em dados, o Canadá está a alterar as suas leis de privacidade com a Lei C-36 (Lei de Protecção da Privacidade e de Dados do Consumidor).
O projeto de lei C-36, anunciado em junho, é a primeira grande reforma da legislação de privacidade do setor privado no Canadá em 25 anos. O projeto de lei reconhece explicitamente a privacidade como um direito fundamental e também visa proporcionar uma proteção mais forte às informações pessoais das crianças, reforçar o direito ao apagamento e exigir maior transparência quando os sistemas automatizados tomam decisões importantes sobre as pessoas.
Histórias recomendadas
lista de 4 itensfim da lista
As reformas ocorrem em meio ao crescente escrutínio da inteligência artificial depois que incidentes como o tiroteio em Tumbler Ridge, na Colúmbia Britânica, em fevereiro, levantaram maiores questões sobre chatbots de IA, usuários vulneráveis e a responsabilidade das empresas de tecnologia.
O suspeito do tiroteio, de 18 anos, supostamente usou o ChatGPT antes do ataque. As famílias das vítimas estão agora processando a OpenAI, dizendo que a equipe de segurança de IA da empresa descobriu os comandos violentos, mas não conseguiu alertar as autoridades. Esta semana, a província da Colúmbia Britânica também anunciou que estava “preparando-se para tomar medidas legais contra a empresa de inteligência artificial”.
Ao mesmo tempo, o governo federal canadiano planeia modernizar as regras de privacidade do consumidor no sector privado através do projecto de lei C-36.
Evan Solomon, Ministro de Inteligência Artificial e Inovação Digital do Canadá, disse à Al Jazeera que a responsabilidade do governo é “manter os canadenses seguros online e garantir que os canadenses possam se beneficiar da inteligência artificial e das tecnologias emergentes. Esses objetivos não são mutuamente exclusivos”.
“O projeto de lei C-36 estabelece uma estrutura para o uso responsável de dados anonimizados. Inclui salvaguardas destinadas a reduzir o risco de reidentificação de indivíduos, ao mesmo tempo que apoia atividades importantes de interesse público, incluindo pesquisa, responsabilização e inovação.”
Mas à medida que os sistemas de IA se tornam mais capazes de prever, analisar e influenciar os seres humanos, os especialistas dizem que o desafio já não reside apenas nos dados que as empresas recolhem, mas no que a IA pode inferir das pessoas que os utilizam.
A questão é se a legislação sobre privacidade consegue acompanhar as tecnologias concebidas para prever, analisar e influenciar o comportamento humano.
mensagem inferida
Ignacio Cofone, professor de legislação e regulamentação de inteligência artificial na Universidade de Oxford, disse que o maior problema é que a inteligência artificial está mudando onde ocorrem danos à privacidade.
“As antigas leis de privacidade presumiam que o perigo residia nas informações que uma empresa coletava de você. O perigo agora reside no que uma empresa infere sobre você a partir de dados que nunca entregou e no que faz com as inferências de IA.”
Por outras palavras, os actuais sistemas de inteligência artificial não exigem necessariamente que alguém divulgue voluntariamente informações sensíveis. Padrões de hábitos de compra, histórico de navegação, dados de localização ou atividade online são suficientes para permitir que algoritmos façam previsões surpreendentemente precisas sobre a saúde, finanças ou comportamento de uma pessoa.
“Modelos treinados em dados (anónimos) podem tomar decisões que são prejudiciais para uma determinada classe de pessoas, sem apontar para um indivíduo designado que possa reclamar”, disse Coffon à Al Jazeera.
O projeto de lei C-36 responde ampliando a definição de informações pessoais para incluir informações inferidas e exigindo que as organizações prestem contas de certas decisões automatizadas.
Mas, como disse Cofone, o verdadeiro desafio é garantir que a regulamentação vise utilizações prejudiciais da inteligência artificial, e não apenas a recolha de dados.
“Os modelos podem prever sua saúde, sua orientação sexual ou sua credibilidade com base em traços irrelevantes e, então, agir de acordo com as previsões sem violação de dados ou violação no sentido tradicional”, disse ele.
“Isso é importante porque muda a lei para onde os danos da IA realmente ocorrem, as inferências e decisões, em vez de fixá-los no ato de coleta.”
Protegendo as crianças on-line
Proteger a privacidade das crianças é uma das principais reformas do projeto de lei C-36. O projeto de lei classifica as informações pertencentes a menores de 18 anos como inerentemente sensíveis e dá aos jovens maiores direitos de que suas informações pessoais sejam excluídas.
Para Stephany Oliveros, instrutora de ética em IA e CEO da Just Lyra, uma plataforma de correspondência de talentos em IA, a privacidade e o consentimento dos dados têm a ver com a agência do usuário.
“Uma coisa é doar meus dados para pesquisas sobre o câncer, mas outra coisa é se uma empresa de tecnologia descobrir o tipo sanguíneo e o comportamento do meu filho. Tipo, por que o Facebook precisa saber disso?”
Cofone acrescentou que as mudanças trazidas pelo Projeto de Lei C-36 valem a pena, mas só resolverão parte do problema.
“Isso ajudará, mas não da maneira que a estrutura sugere. O projeto de lei faz duas coisas pelas crianças: trata as informações das crianças como confidenciais, o que aumenta o nível de consentimento e a segurança devida pelas organizações, e dá às crianças direitos de exclusão mais fortes. Ambos são úteis.”
Mas, disse ele, os maiores desafios estão em outro lugar.
“As proteções mais fortes que as pessoas precisam para as crianças online são designs adequados à idade e restrições à funcionalidade da plataforma.”
Jill Ma, fundadora de tecnologia que trabalha com produtos de inteligência artificial para crianças, disse que, além da privacidade, a próxima fronteira é a justiça algorítmica.
“Privacidade não se trata apenas de controlar dados; trata-se de não ser mal julgado por algoritmos”, disse ela. “As primeiras pegadas digitais de uma criança não devem tornar-se um rótulo para toda a vida. Como construtores (de produtos), o nosso trabalho é ensinar a inteligência artificial a respeitar as pessoas, e não apenas a recolher os seus dados.”
Para pais preocupados como Vancouver, pai de Martin Haucke, o maior problema são as normas culturais que cercam o acesso das crianças à Internet.
“O mundo físico é o mais seguro que já existiu e o mundo online é onde reside a maior ameaça à segurança das crianças”, disse ele. “No entanto, vemos o mundo real como um lugar perigoso e temos uma atitude arrogante em relação aos nossos filhos terem telemóveis até chegarem ao ensino secundário.”
No início deste ano, Ottawa introduziu legislação separada propondo restringir o acesso a plataformas de redes sociais como o TikTok a utilizadores com menos de 16 anos. Outros governos em todo o mundo estão a começar a responder na mesma moeda. No ano passado, a Austrália aprovou legislação que restringe o acesso a determinadas plataformas de redes sociais por adolescentes com menos de 16 anos.
“É regressivo”, disse Hauck, que também é professor. “O que precisamos é de zero celulares nas escolas. Mais tempo para socializar fora.”
A privacidade é apenas parte da solução
A privacidade é apenas uma parte do governo da inteligência artificial. As futuras leis sobre IA precisarão equilibrar a segurança do usuário, o jornalismo e o interesse público, dizem os especialistas.
“À medida que a tecnologia continua a evoluir”, disse Solomon. “Continuaremos a trabalhar com pesquisadores, jornalistas, especialistas em privacidade, sociedade civil e outras partes interessadas para garantir que a estrutura de privacidade do Canadá permaneça eficaz, equilibrada e atenda às expectativas dos canadenses.”
Um exemplo deste desafio é o tratamento dado pelo projeto de lei às informações anonimizadas, uma questão que suscitou debate entre especialistas em privacidade, investigadores e jornalistas.
Embora a legislação vise impedir que as organizações reconstruam as identidades das pessoas a partir de dados anonimizados, especialistas como Cofone, da Oxford Law School, dizem que depende de como as organizações e os investigadores podem utilizar dados anonimizados de forma responsável.
“Eu separaria as duas questões. Do lado do jornalismo, o projeto mantém isenções para obras jornalísticas, artísticas e literárias”, afirmou. “O jornalismo investigativo está protegido, assim como estava sob a lei antiga. A questão mais difícil é a pesquisa, que depende de como o projeto de lei traça a linha entre dados anonimizados e anonimizados”.
Oliveros, professor de ética da inteligência artificial que trabalhou com as Nações Unidas, disse que o debate vai além das definições legais de privacidade e deve abordar questões de responsabilização. Limitar o acesso aos dados pode tornar mais difícil para jornalistas e grupos de direitos humanos detectarem irregularidades, disse ela.
“Os reguladores não podem confiar nos resumos das empresas”, disse Oliveros à Al Jazeera. “Para detectar racismo ambiental, preconceito algorítmico ou empréstimos predatórios, jornalistas e grupos de direitos humanos precisam de acesso a dados detalhados, linha por linha. Se o projecto de lei C-36 bloquear estes dados inteiramente sob a bandeira da privacidade, irá inadvertidamente proteger as empresas poderosas da responsabilização pública. A privacidade não deve tornar-se um manto legal para o sigilo empresarial.”
Mas pode não haver respostas fáceis.
“Se a definição de investigadores de interesse público for demasiado vaga, a lei falhará. Mas se for demasiado rigorosa, excluirá jornalistas independentes e ONG de base que trabalham na área dos direitos humanos”, disse Oliveros.
Embora o projeto de lei se concentre na proteção de informações pessoais, o redator de ética jornalística e professor da Universidade de Hong Kong, Eric Wishart, disse que as leis de privacidade devem preservar a capacidade do jornalismo de responsabilizar aqueles que estão no poder e o direito do público de saber.
Ele citou o conflito dos Estados Unidos e de Israel com o Irã como exemplo.
“O Pentágono divulgou muito pouca informação sobre os ataques iranianos, por isso os repórteres confiaram em imagens do Planet Labs (uma plataforma de imagens de satélite) para rastrear os danos. Era uma fonte chave que mostrava onde as bombas estavam a ser bombardeadas, mas depois o Planet Labs anunciou que deixaria de fornecer imagens de guerra a pedido do governo dos EUA.”
“Temos que equilibrar a necessidade de proteger a privacidade das pessoas com o direito dos jornalistas de realizarem trabalho investigativo no interesse público”, disse ele. “A legislação concebida para abordar as preocupações legítimas de privacidade dos indivíduos, incluindo as crianças, não deve impedir os jornalistas de investigarem possíveis más condutas por parte de figuras públicas ou de responsabilizarem aqueles que estão no poder.”
O projeto de lei C-36 pode representar a reforma de privacidade mais significativa no Canadá em décadas, mas o desafio para o governo será garantir que a regulamentação evolua tão rapidamente quanto a própria tecnologia, à medida que a inteligência artificial se torna cada vez mais capaz de prever comportamentos, influenciar decisões e remodelar a vida quotidiana.
Para Oliveros, o debate resume-se, em última análise, a quem tem o poder num mundo movido pela IA.
“A privacidade dos dados muda a dinâmica do poder, então o poder volta para você”, disse ela. “Você tem algo – sua identidade.”
