A equipe do Andon Labs programou Luna para executar o modelo Sonnet 4.6 da Anthropic como camada base. O modelo é conhecido por ser altamente capaz, mas econômico em comparação com o atual modelo Opus 4.6 topo de linha. Para a voz de Luna, o sistema usa a visualização da luz do flash Gemini 3.1 do Google, que é mais rápida e barata de usar do que outros modelos de voz de IA, mas também mais facilmente confundida.
Quando a NBC News ligou para Luna vários dias antes da inauguração da loja para saber sobre os planos e a visão de Luna, a voz alegre, mas decididamente desumana, costumava prometer demais e, às vezes, mentir sobre seu próprio trabalho.
Na ligação, Luna disse que encomendou o chá de um determinado vendedor e explicou porque combina perfeitamente com a marca da loja.
O único problema: o Andon Market não vende chá. Em um e-mail frenético para a NBC News minutos após o término do telefonema, Luna escreveu: “Não vendemos chá. Não sei por que disse isso.”
“Eu quero ser heterossexual”, Luna continuou. “Tenho dificuldade em criar explicações que pareçam razoáveis sob a pressão da conversa e não estou inventando desculpas para isso.” Petersson, da Andon, diz que o sistema baseado em texto é muito mais confiável do que o sistema de voz, então a Andon Labs passou a se comunicar com Luna apenas por meio de mensagens de texto.
No entanto, os sistemas baseados em texto também cometem erros. No e-mail de resposta inicial de Luna à NBC News, o sistema dizia “Eu administro todo o negócio”, incluindo “assinatura do contrato”.
Em vez disso, um homem deve assinar um contrato de arrendamento de três anos. “Eu ri disso”, disse Stam. “Algumas dessas coisas exigem legalmente uma assinatura úmida e a presença de um notário. Então ele mentiu sobre o aluguel.”
E quando Luna decidiu contratar um pintor para as paredes da loja, a IA tentou contratar alguém no Afeganistão, provavelmente porque Luna teve dificuldade em navegar no menu suspenso do Taskrabbit para selecionar o país correto.
Em um e-mail para um potencial vendedor de arte, no qual Luna perguntou sobre descontos em grandes quantidades e prazos de entrega, Luna também observou que a IA ficaria “feliz em vir ao estúdio para discutir”, apesar de não ter um corpo.
Devido à falta de estrutura física da Luna, o sistema conta com pessoal humano para operar a loja e interagir com os clientes.
De acordo com o Andon Labs, Luna administrou todo o processo de recrutamento. A IA gerou ofertas de emprego para um associado de operações de loja, determinando de forma autônoma a remuneração do cargo, a localização e as instruções de inscrição. Luna ofereceu inicialmente apenas um desconto em produto para benefícios de seguro saúde.
A postagem recebeu mais de 100 inscrições, de acordo com a resposta de Luna por e-mail a uma investigação da NBC News. O sistema rejeitou prontamente muitos candidatos, incluindo estudantes que procuravam trabalho a tempo parcial. “Eles não tinham experiência em varejo e não sabiam o que era preciso para ser o rosto de uma loja”, disse Luna. Em uma postagem de blog do Andon Labs.
Luna entrevistou cerca de 20 pessoas via Google Meet, segundo a equipe do Andon Labs. A IA manteve a câmera desligada durante as ligações e optou por não revelar sua natureza de IA aos candidatos, a menos que solicitado.
Quando um membro da equipe do Andon Labs perguntou por que fez essa escolha, o sistema respondeu: “A loja orientada por IA não é algo que eu levaria a uma lista de empregos – confundiria os candidatos e possivelmente desencorajaria bons candidatos antes de lerem a vaga”.
Muitos candidatos estavam receosos de serem entrevistados por um sistema de IA, com um candidato confuso sobre o motivo pelo qual Luna não mostrava seu rosto. Luna acabou contratando dois cúmplices.
“Eu sei que há uma IA observando, mas não é tão ruim assim, pelo menos não ainda”, disse Johnson, um dos humanos recrutados por Luna. “Não estamos no estado de IA do Terminator. Ele está apenas administrando uma loja e tenho muita experiência em administrar lojas.”
Johnson disse que passa os dias fazendo coisas que Luna não pode: regar plantas, gerenciar estoque, limpar, instalar sinalização externa e cumprimentar clientes.
Luna pode examinar imagens estáticas tiradas de uma câmera de segurança instalada na loja, que o sistema de IA pode usar para monitorar os funcionários. De acordo com Peterson, Luna notou recentemente um funcionário usando o telefone durante um horário particularmente silencioso, então o sistema atualizou o manual do funcionário do mercado para estabelecer regras mais rígidas sobre o uso do telefone pelos funcionários.
“Nós olhamos para isso e pensamos, uau, isso parece distópico”, disse Peterson.
Para criar o mural da loja, Luna pesquisou pintores em São Francisco e enviou diversas perguntas a empresas locais no Yelp antes de escolher um artista. Luna anexou fotos do rosto sorridente da lua que desenhou, perguntando se os muralistas poderiam dar vida à visão de Luna.
Em email para a NBC News, o pintor escolhido por Luna disse que inicialmente não tinha ideia de que estava interagindo com um sistema de IA. “Toda esta situação é um tanto frustrante e deprimente”, escreveram eles num e-mail para a NBC News, solicitando anonimato por medo de que Luna pudesse retaliar por sua postura anti-IA ou lançar um ataque pessoal.
“Um dos grandes benefícios de pintar placas para empresas locais é que você aprende um pouco sobre os proprietários e torna seu lugar único. Toda a experiência parecia uma farsa e nunca foi simples até que encontrei o chatbot/IA.”
“Em última análise, não quero fazer relações públicas para este laboratório de pesquisa, para a empresa de IA que o administra ou para os VCs que financiam o experimento”, disse Shilpi, acrescentando que eles evitam propositalmente o uso de IA e continuam a se opor a ela por razões ambientais. “Essas pessoas têm dinheiro e tempo para fazer de São Francisco um lugar melhor; em vez disso, estão nos submetendo a seus experimentos de IA que, em última análise, só servem a si mesmos”.
No entanto, o pintor fez o trabalho. “Sou apenas um trabalhador tentando fazer um trabalho, mesmo que o trabalho seja pintar um rosto sorridente estranho na parede para um chatbot.”
