OpenAI, que atualmente enfrenta vários processos judiciais alegando falhas de segurança no ChatGPT, aprovou Lei de Segurança Online para Crianças (KOSA). A agência disse que a sua aprovação faz parte de um compromisso mais amplo de criar “regras específicas de IA” para proteger as crianças.
KOSA, que foi aprovada no Senado em 2024, parece estar obtendo aprovação da OpenAI algum impulso. A KOSA, que foi introduzida pela primeira vez em 2022, é uma das várias leis de segurança online que exigirão que as empresas de redes sociais e outras plataformas online implementem protecções mais fortes para as crianças. O projeto de lei foi alterado várias vezes, mas a versão atual inclui um requisito para que aplicativos de mídia social permitam que menores de idade optem por não receber recursos “viciantes” e recomendações algorítmicas. As plataformas online têm o “dever de cuidado” para mitigar conteúdos nocivos que promovam distúrbios alimentares, suicídio e exploração sexual.
Apple, Microsoft, Snap e XO apoiaram o projeto. NetChoice, um grupo comercial cujos membros incluem Meta e outras plataformas, disse Esta medida permitiria a censura sem tornar as crianças seguras online. Também grupos de privacidade e direitos digitais, como a Electronic Frontier Foundation oposição a conta
Embora o KOSA tenha sido discutido principalmente no contexto das plataformas de mídia social, a OpenAI afirma que o projeto de lei é “complementar” ao trabalho de segurança que já está sendo realizado. “Não podemos repetir os erros cometidos durante a ascensão das redes sociais, quando salvaguardas robustas para os adolescentes não foram implementadas até que as plataformas já estivessem profundamente enraizadas na vida dos jovens”, disse Chris Lehane, diretor de assuntos globais da OpenAI, num comunicado.
A OpenAI enfrenta atualmente uma série de ações judiciais relacionadas ao seu próprio histórico de segurança. A família de um adolescente que morreu por suicídio após discutir seus planos com um chatbot processou a empresa por homicídio culposo. Outra família recentemente entrou com uma ação semelhante, alegando que seus adolescentes tiveram uma overdose acidental de drogas após orientação médica inadequada do ChatGPT.
