Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais vantagens do ZDNET
- Mover agentes de IA para produção pode ser uma tarefa difícil.
- Profissionais inteligentes concentram-se em governança e estruturas.
- Eles trabalham com especialistas e garantem uma determinação clara dos resultados.
Há muito entusiasmo sobre o potencial dos agentes de IA, mas há menos provas de que estas ferramentas estão a proporcionar um retorno sobre o investimento.
Isso foi previsto recentemente pelo analista de tecnologia Gartner 40% das empresas irão rebaixar ou descontinuar agentes autônomos de IA até 2027 devido a deficiências de gestão que só são descobertas após incidentes na produção desses agentes.
Além disso: a IA causa fadiga cognitiva. Veja como trabalhar com mais pressa e menos velocidade
No recente Snowflake Summit, em São Francisco, três líderes digitais explicaram como suas organizações estão trazendo agentes para a produção. Eles compartilharam três lições para outros profissionais que desejam usar IA: usar estruturas, usar especialistas e monetizar dados.
1. Concentre-se em estruturas
Matt Luizzi, vice-presidente de análise da Whoop, especialista em tecnologia vestível, disse que sua organização coleta dados biométricos 24 horas por dia, 7 dias por semana, para fornecer insights sobre saúde e bem-estar, e a Snowflake oferece suporte aos serviços analíticos internos da empresa.
Luizzi disse que os agentes estão desempenhando um papel crescente no processo, especialmente a Snowflake CoCo, um agente de codificação para desenvolvedores especialistas em tecnologia e engenheiros de dados.
“Estamos usando o CoCo há vários meses e começamos apenas com uma equipe de análise, que são pessoas que podem analisar rapidamente uma resposta de consulta e dizer se está correta ou não, e tentar descobrir como dimensionar esse processo”, disse ele.
“Agora estamos no ponto em que estabelecemos sistemas de avaliação mais formalizados e começamos a implementar agentes em grande escala.”
Além disso: esqueça a produtividade: aqui estão cinco mudanças estratégicas que impulsionam o valor real da IA
Luizzi disse que a empresa possui engenheiros de software que implantam testes A/B e usam CoCo para analisar os resultados, propor o próximo recurso, testá-lo e iterá-lo.
“Essa abordagem acelera drasticamente a maneira como entregamos não apenas valor comercial, automatizando o sistema experimental, mas também valor para o cliente”, disse ele.
Luizzi disse que sua organização teve a sorte de já ter o encanamento subjacente instalado para seus agentes explorarem, porque os dados da empresa estão centralizados na plataforma Snowflake. Eles usaram o serviço Cortex AI da empresa para começar a testar e treinar os agentes.
“Aprendemos rapidamente que o contexto era tudo”, disse ele. “Isso significou realmente se apoiar na camada semântica e garantir que o contexto estivesse estruturado.”
Além disso: Por que desisti do Copilot por Claude em Word, Excel e PowerPoint – e como você também pode fazer isso
A lição principal, disse Luizzi, é que as estruturas são críticas para o sucesso da pesquisa de agentes de IA.
“Estamos tentando fazer tudo de uma forma mais repetível, assim como temos feito com nossa arquitetura de dados nos últimos 10 anos”, disse ele. “Estamos avançando na construção de estruturas repetíveis que nos permitem dimensionar essas cargas de trabalho de IA.”
2. Use analistas especializados
Madeleine Want, vice-presidente de dados da Fanatics, especialista em esportes, gerencia engenharia de dados, ciência de dados e aprendizado de máquina em toda a divisão de apostas e jogos da organização, apoiada pela plataforma Snowflake.
“Quando começamos a experimentar, não tínhamos certeza do que iria funcionar e do que iria falhar, mas o que descobrimos que travou foi o melhor estado dos dados subjacentes e melhor gerenciamento deles, tornando mais fácil para o LLM obter significado e responder perguntas de forma eficaz”, disse ela.
Além disso: Como a implementação de IA desta empresa de viagens levou a um aumento de 73% na satisfação: um guia de 5 etapas para o seu negócio
Embora este foco nos dados e na governação possa parecer óbvio, disse Want, certamente não era o caso há 18 meses.
“Tínhamos muita experiência como organização na construção de modelos personalizados de aprendizado de máquina, por isso era difícil acreditar na ideia de importar um modelo de terceiros e simplesmente conectá-lo diretamente aos dados que poderiam funcionar em análises. Mas agora essa abordagem está muito incorporada na maneira como fazemos as coisas”, disse ela, antes de descrever como sua organização passou da pesquisa para a implantação.
“Tivemos sucesso inicial em áreas com contexto bem limitado e onde tínhamos analistas especializados que entendiam o domínio do negócio de cima a baixo e eram capazes de treinar o agente.”
Griba disse que sua organização obteve mais sucesso ao longo do tempo. O investimento que eles precisam fazer na camada de contexto diminui, assim como o grau de supervisão que o agente precisa para começar a responder perguntas por conta própria.
“Nossa capacidade de medir a precisão das respostas aumenta porque agora estamos implementando sistemas de avaliação escaláveis que nos ajudam a ganhar confiança em como os agentes respondem quando não estamos olhando, e esse é o ponto principal”.
Além disso: você será substituído por agentes de IA ansiosos? 5 maneiras de transformar a ansiedade em ação no trabalho
Queremos dizer que este sucesso significa que o círculo de agentes está a aumentar. Em vez de se limitarem à análise, outros profissionais veem os aspectos positivos e querem explorar os agentes.
Embora a Fanatics ainda use as interfaces e agentes do Snowflake, a empresa está incorporando APIs e respostas em outras ferramentas de terceiros para que as pessoas possam fazer mais com insights baseados em dados.
“Os usuários querem ir mais longe e fazer mais com casos de uso operacionais”, disse ela. “As pessoas exigem acesso a esses insights em vários canais e dispositivos de consumo porque precisam ser capazes de usar os dados onde trabalham.”
3. Monetize seus dados
Sriram Sitaraman, CIO da especialista em software Synopsys, disse que sua organização é cliente de longa data da Snowflake e usa a plataforma de dados e seus serviços de agente, como CoCo, para conduzir seus processos de tomada de decisão.
Há cerca de 18 meses, Sitaraman disse que a empresa reconheceu o potencial dos agentes de IA para executar tarefas para funcionários juniores, como executar consultas rápidas, criar gráficos e obter insights.
“Aproveitamos essa oportunidade e dissemos: ‘Tudo bem, se construirmos um agente de conhecimento, poderemos começar a implantá-lo em múltiplas dimensões.’
Além disso: 90% dos projetos de IA falham – Aqui estão três maneiras de garantir que seu projeto falhe
Os exemplos incluem um agente de receita para um departamento financeiro que executa relatórios e um agente de depuração para um sistema de tickets associado a data centers corporativos.
Sitaraman disse que a equipe avaliou o potencial da IA em três dimensões: qualidade dos resultados, tempo de obtenção dos resultados e custo dos resultados.
Eles descobriram que a IA tem efeitos positivos em todas as três áreas, o que ele diz ser um grande avanço: “No passado, era preciso sacrificar uma ou outra”.
Agora, em vez de reprogramar sistemas sempre que um modelo de IA é adaptado ao contexto, é possível concentrar-se em insights em vez de se preocupar com preocupações fundamentais.
“Comece com dados – monetize seus dados com IA”, disse Sitaraman, refletindo sobre a jornada do agente de sua empresa. “Não importa quanto volume você emite por iniciativa, porque a IA é apenas uma escala verdadeiramente linear. Quanto mais dados a IA tiver, melhores decisões ela tomará.”
Além disso: 5 maneiras de usar IA quando você está com orçamento limitado
No entanto, Sitaraman também emitiu um alerta. “Percebemos que hoje em dia não há muita diferença entre automação e autonomia, então é preciso ter cuidado”, disse.
“Você deseja automatizar o processo ou realmente deseja construir um agente que envolva uma estrutura de custos, modelo de uso e gerenciamento diferentes?”
Sitaraman incentivou os profissionais a identificarem os casos de uso corretos, construírem as estruturas corretas e nunca subestimarem o que um agente pode fazer.
“Você pode criar um agente e dizer: ‘Este é um agente de operações de vendas’. Muitas vezes não há nada que o impeça de se tornar um agente analista de vendas ou algum outro tipo de agente”, disse ele.
“Portanto, é importante perguntar: ‘É isso que queremos que faça?’ As estruturas são muito importantes, assim como as habilidades. Você tem que pensar cuidadosamente sobre o processo.”
