A maioria das grandes empresas de tecnologia tem restrições de idade para seus poderosos chatbots, mas isso não impediu algumas empresas de brinquedos de alegarem usar OpenAI e Google para impulsionar seus produtos.
Um relatório divulgado terça-feira por um órgão de fiscalização do consumidor descobriu que mais de duas dúzias de brinquedos anunciados online foram comercializados como movidos por grandes modelos de IA, apesar das restrições que proíbem as crianças de usá-los.
O grupo de pesquisa de interesse público dos EUA, Education Fund (PIRG), relata que as empresas de brinquedos encontraram uma lacuna nas políticas das empresas de IA em relação às restrições de idade. Embora os jovens estejam proibidos de utilizar tais modelos e os seus chatbots, os programadores – as pessoas e empresas que criam modelos de IA – muitas vezes não enfrentam restrições semelhantes.
A PIRG disse que conseguiu se inscrever para acesso de desenvolvedor aos modelos de IA do Google, OpenAI e XAI, e não enfrentou “nenhuma verificação substantiva” sobre se direcionará seus serviços para crianças. A Anthropic perguntou ao PIRG se planejava desenvolver um produto para menores.
Nas plataformas de desenvolvimento do Google, Anthropic e OpenAI, o PIRG conseguiu criar um sistema projetado para funcionar como um ursinho de pelúcia alimentado por IA para crianças.
“Há empresas de IA que dizem que seus modelos são próprios, não para crianças”, disse RJ Cross, principal autor do relatório e pesquisador do PIRG, à NBC News. “Mas eles permitem que desenvolvedores terceirizados os usem em brinquedos e são muito discretos quando se trata de segurança”.
Em resposta a um pedido de comentário, um porta-voz da OpenAI escreveu em um comunicado: “Os menores merecem proteções fortes e temos políticas rígidas que todos os desenvolvedores devem aderir. Tomamos medidas coercivas contra os desenvolvedores quando determinamos que eles violaram nossas políticas, que proíbem o uso de nossos serviços para exploração, perigo ou sexualização de menores de 18 anos”.
“Essas regras se aplicam a todos os desenvolvedores que usam nossa API, e executamos classificadores para garantir que nossos serviços não sejam usados para prejudicar menores”, escreveu o porta-voz, referindo-se às interfaces de programação de aplicativos (APIs) que os desenvolvedores usam para interagir com os serviços da empresa.
Um porta-voz da Antropologia disse à NBC News que os usuários de seu sistema de IA devem ter mais de 18 anos porque os jovens correm o risco de sofrer consequências negativas ao interagir com chatbots. O porta-voz disse que os desenvolvedores devem usar diretrizes adequadas à idade e informar aos usuários que seus produtos são alimentados por IA, enfatizando que os desenvolvedores devem seguir as recomendações da Anthropic. Política de uso aceitável Proibir muitas formas de comportamento perigoso ou prejudicial.
Google e xAI não responderam aos pedidos de comentários.
O boom da IA criou um novo mercado para uma variedade de produtos vinculados aos principais chatbots, à medida que as empresas de tecnologia competem para atrair desenvolvedores. Uma onda de brinquedos de IA chegou às lojas no último feriado, mas especialistas alertam – e Uma investigação da NBC News encontrada – que apresentam diferentes preocupações de segurança.
Os brinquedos de IA de hoje dependem de um punhado de empresas de tecnologia para seus recursos interativos. Mas, em vez de transformar a IA em brinquedos, a maior parte da IA usa a Internet para enviar dados às empresas, que então enviam feedback aos brinquedos.
As preocupações sobre o uso de chatbots de IA por menores estimularam ações de empresas de tecnologia, muitas das quais impuseram restrições de idade aos seus usuários.
OpenAI disse Seu principal sistema, ChatGPT, é “destinado a pessoas com 13 anos ou mais” e tem Uma versão para menores de 18 anos foi criada Aquele que trata questões delicadas de maneira diferente.
Google diz usuários Deve ter mais de 13 anos Para usar seu produto Gemini AI. Google também Existem fortes limitações Proibir empresas de utilizarem seus produtos em qualquer serviço ou negócio “que possa ser acessado por menores de 18 anos”.
O PIRG identificou mais de 20 brinquedos exclusivos vendidos on-line que alegavam usar os sistemas da OpenAI, enquanto cinco brinquedos alegavam usar os sistemas do Google – o que parece violar diretamente os termos de serviço do Google em relação ao direcionamento para crianças. No entanto, alguns brinquedos escrevem incorretamente os nomes dos produtos da OpenAI ou afirmam usar os sistemas OpenAI e Google, lançando dúvidas sobre a precisão das afirmações dos fabricantes de brinquedos.
Supondo que as reivindicações dos fabricantes de brinquedos sejam legítimas, disse Cross, a aparente falta de supervisão levanta questões sobre a capacidade das empresas de rastrear como os desenvolvedores e terceiros estão usando seus sistemas.
“Não faz muito sentido que as empresas de IA que não lançaram versões de seus modelos seguras para crianças permitam que qualquer pessoa com cartão de crédito se inscreva para construir um produto para crianças usando a mesma tecnologia”, disse Cross. “Não faz muito sentido para as empresas de IA terceirizarem a segurança infantil para desenvolvedores desavisados.”
O PIRG também identificou brinquedos que supostamente são alimentados, pelo menos em parte, por serviços de IA da Anthropic e xAI. Os termos de serviço da Anthropic exigem que as empresas concordem com avisos suplementares sobre a disponibilização de seus produtos para usuários menores de 18 anos, mas a NBC News descobriu que essas diretrizes suplementares nunca apareceram se os desenvolvedores se identificassem como “indivíduos” usando os serviços da Anthropic, em vez de “organizações”. quando Termos do Consumidor da xAI Proibir usuários menores de 13 anos, não aparecerão no mesmo idioma Termos de uso para usuários corporativosque usa xAI para “fins comerciais”.
A maioria das empresas líderes de IA monitoram envios e solicitações aos seus serviços e seus termos de serviço permitem que os usuários sejam banidos se violarem suas políticas.
Rachel Franz, diretora do programa Young Children Thrive Offline do grupo de defesa da criança FairPlay, disse à NBC News que regras frouxas para desenvolvedores ameaçam minar as regras básicas que protegem as crianças de conteúdo prejudicial gerado por IA.
“Não é surpreendente que haja um ‘Quem é o primeiro?’ O debate entre empresas de IA e corporações que incorporam IA em produtos infantis”, disse Franz em comentários por escrito. “Ambos têm uma longa história de minar a responsabilização e de arriscar prejudicar as crianças em busca de lucro”.
“Para proteger verdadeiramente as crianças”, acrescentou Franz, “as empresas de IA precisam de garantir que os seus modelos não estão a ser utilizados em produtos infantis, e através de uma melhor verificação e responsabilização das empresas que os utilizam”.
