A Miko, uma empresa que fabrica brinquedos alimentados por inteligência artificial, incluiu um botão liga-desliga de IA para sua tecnologia principal após pressão política e escrutínio de seus produtos.
A nova opção, que se seguiu às críticas públicas, é uma combinação rara que permite aos consumidores optar por não utilizar a IA, à medida que empresas de todos os matizes integram rapidamente a tecnologia nos seus produtos.
“Os recursos de IA de conversação do Miko 3 e Miko Mini são colocados nas mãos dos pais e cuidadores com uma opção liga/desliga para ativá-los ou desativá-los”, anunciou a empresa em um anúncio. Comunicado de imprensa de segunda-feira.
Os brinquedos Miko são robôs móveis com tela sensível ao toque, que podem tocar música e jogos com crianças, e usam chatbots de IA, chamados Large Language Models (LLMs), para interagir com as crianças. De acordo com uma postagem no blog de 2024, a empresa fez parceria com o Google para usar o Google Cloud e os modelos Gemini AI do Google.
Recentemente, a Mico tem estado sob escrutínio e pressão política, com vigilantes e políticos expressando preocupações de segurança sobre a Mico e outros fabricantes de brinquedos de IA.
Na semana passada, os senadores Marsha Blackburn, R-Tenn., e Richard Blumenthal, D-Conn. Um site foi detectado Onde qualquer espectador pode baixar milhares de respostas que Miko criou para crianças específicas. Aparentemente, ele foi deixado disponível on-line acidentalmente, sem qualquer proteção por senha ou outras salvaguardas, e poderia ser acessado por qualquer pessoa com conexão à Internet.
A NBC News ouviu algumas das gravações, incluindo o que parecia ser uma longa conversa em que LLM repetidamente se dirigia a uma criança pelo nome e fazia perguntas como como ela estava se sentindo e que música estava ouvindo. O site ficou inacessível na semana passada.
O CEO da Miko, Sneh Vaswani, disse em um comunicado enviado por e-mail à NBC News na época que a empresa não vazou dados de usuários e não armazena gravações de voz de crianças, mas não comentou diretamente sobre gravações que pareciam ser respostas de crianças.
O senador Blackburn respondeu às notícias sobre o desligamento da IA em um comunicado, dizendo: “Esses novos controles dos pais são um esforço de última hora para salvar a face após a violação de segurança cibernética que veio à tona na semana passada, na qual a empresa divulgou dados confidenciais envolvendo crianças ao público. Os pais devem pensar duas vezes antes de comprar este último brinquedo para seus filhos.”
Ritvik Sharma, vice-presidente sênior de crescimento da Miko, recusou-se a comentar diretamente sobre Blackburn, mas disse que o novo recurso “está em desenvolvimento há algum tempo” e que as respostas de áudio postadas online “não têm nada a ver com o fato de termos feito este anúncio”.
Os brinquedos de IA, bem como os chatbots que os alimentam, não são regulamentados nos EUA. A popularidade do brinquedo aumentou recentemente à medida que a tecnologia se tornou mais difundida e popular.
Os fabricantes de brinquedos geralmente implementam salvaguardas para evitar que as crianças falem de forma inadequada. Mas todos os LLMs são suscetíveis a “jailbreaks”, ou frases que podem convencer um chatbot a ignorar as instruções de seus desenvolvedores.
em dezembro, Uma investigação da NBC News Descobriu-se que alguns brinquedos de IA fortemente comercializados para os americanos podem ser levados a dizer coisas em contextos que os pais podem considerar perturbadores ou ofensivos, incluindo descrições de actividade sexual ou geopolítica intimamente ligada ao Partido Comunista Chinês.
O mercado de brinquedos de IA está a crescer, especialmente na China. Revisão de tecnologia do MIT Relatório do ano passado A empresa possui mais de 1.500 empresas de brinquedos de IA registradas.
