O regulamento impõe novas expectativas de segurança aos «serviços de chatbot de IA».
O Canadá está se juntando à Austrália, à Indonésia e à Malásia na proibição de adolescentes usarem as redes sociais. Lei de Mídia Social Mais Segura Apresentado por Mark Miller, Ministro Canadense de Identidade e Cultura, proíbe crianças menores de 16 anos de terem uma conta de mídia social e introduz novas expectativas regulatórias para serviços de mídia social e plataformas de IA.
De acordo com a lei, os serviços de mídia social devem projetar seus produtos para serem seguros para as crianças. As plataformas também deverão falsificar e remover conteúdo que “sexualize uma criança ou reviva o sobrevivente”. Espera-se também que a introdução de coisas como rótulos para conteúdos de IA, procedimentos claros para denunciar conteúdos nocivos e ferramentas para bloquear utilizadores evite uma maior exposição a conteúdos nocivos.
Embora a era da mídia social seja definida pelo projeto de lei, os serviços de chatbot de IA não serão “Os chatbots não são tão bem estudados quanto os danos causados pelas plataformas de mídia social”, disse Miller na coletiva de imprensa anunciando o projeto. “Eles não têm o mesmo papel social.” Com isso dito, o Safer Social Media Act também inclui linguagem em torno de “serviços de chatbot de IA”, aparentemente em resposta à forma como a OpenAI lidou com o tiroteio no Tumblr Ridge. Como parte do projeto de lei, espera-se que as plataformas de IA reduzam o risco de os chatbots “comunicarem conteúdos nocivos” e se envolverem em comportamentos prejudiciais, ao mesmo tempo que introduzem “medidas de emergência” para lidar com situações de crise.
Os detalhes sobre o que as plataformas devem fornecer além do requisito de 16 anos serão definidos pela Comissão de Segurança Digital do Canadá, de acordo com Miller, uma comissão recém-formada criada por uma Lei separada da Comissão de Segurança Digital do Canadá. A comissão fará cumprir os regulamentos e poderá conceder isenções se acreditar que uma plataforma mantém “proteção adequada” para as crianças.
