Uma rede de supermercados Inteligência artificial O assistente cortou suas asas digitais, deixando alguns clientes profundamente desconfortáveis ao fingir ser humano e responder a solicitações com anedotas pessoais.
O chatbot, chamado Olive, oferece um serviço 24 horas para atender ligações de clientes da Woolworths. Austrália, Ajudando-os em tudo, desde rastrear pedidos até encontrar os produtos que desejam.
Embora alguns tenham elogiado anteriormente a IA “incrivelmente amigável”, os usuários expressaram recentemente preocupação nas redes sociais sobre sua tendência de interromper as interações rotineiras com os clientes com detalhes fictícios sobre a vida e a família.
“Ele me pediu minha data de nascimento e quando eu dei comecei a me confundir com a forma como a mãe dele nasceu no mesmo ano”, escreveu um usuário no Reddit.
Outro usuário descreveu uma experiência em que Olive afirmou ser uma pessoa real quando começou a falar sobre memórias de sua mãe.
“AI Olive atendeu e começou a fingir ser uma pessoa real e a falar sobre as memórias de sua mãe e sua voz irritada”, disse a pessoa a X.
Outro usuário disse que a ferramenta cria “sons de digitação falsos” para imitar um humano, acrescentando que “fica assustador quando você não sabe se é um humano ou um robô”.
Em um comunicado, Woolworths disse que as respostas de Olive aos aniversários não eram baseadas em IA e, em vez disso, eram escritas por humanos.
“Várias respostas sobre aniversários foram escritas para Olive há vários anos por um membro da equipe como uma forma mais pessoal de Olive se conectar com os clientes”, disse um porta-voz da Woolworths à NBC News em resposta por e-mail.
“Como resultado do feedback dos clientes, removemos recentemente este script específico”, acrescentou o porta-voz.
