Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais vantagens do ZDNET
- A maioria das falhas de implantação de IA de agentes não são falhas de IA – são falhas arquitetônicas.
- As 12 regras de IA do agente para uma transformação empresarial bem-sucedida são neutras em relação ao fornecedor e agnósticas.
- A maioria dos pilotos de IA concentra-se nas capacidades e na velocidade e evita o trabalho árduo de ganhar a confiança de uma empresa.
Um estudo recente da Salesforce descobriu que mais de metade dos trabalhadores administrativos dos EUA se consideram céticos em relação à IA, enquanto as pessoas nas economias emergentes têm mais confiança na IA.
O ceticismo americano em relação à IA vai além da perda de empregos. Os funcionários administrativos dos EUA estão preocupados com a experiência dos funcionários, a falta de treinamento e a prontidão para adotar tecnologias de IA. As três principais razões para o fracasso de uma ferramenta ou ensaio de IA entre os trabalhadores dos EUA são resultados genéricos, formação inadequada e baixa confiança nos resultados.
Além disso: os trabalhadores dos EUA são os maiores céticos da IA do mundo – e não se trata apenas da perda de empregos
A falta de confiança nos pilotos de IA dos agentes e nos esforços de conversão continua, com muitos estudos apontando para taxas de falha mais altas nas implantações de produção de agentes de IA.
A pesquisa mais recente da Accenture revela que as empresas precisam demonstrar benefícios iniciais sustentáveis dos investimentos em IA para criar impulso. A chave é a mudança da IA isolada para a IA sistêmica. O estudo descobriu que os projetos de IA de agentes bem-sucedidos exigem uma base de dados sólida que utilize dados limpos para fornecer o contexto certo, investimento em governança e dados semanticamente consistentes, o que requer um conjunto moderno de serviços em nuvem aprimorados por IA, proteções de IA e fluxos de trabalho redesenhados.
Mais de metade dos adotantes de IA citam problemas de qualidade e recuperação de dados como barreiras à implantação, de acordo com uma pesquisa com diretores de dados. Informática.
Requisitos para uma verdadeira transformação de IA agente
Embora existam muitas histórias documentadas de implantações de agentes de IA na empresa, citando altas taxas de falhas de testes e produção, muitas implantações de agentes de IA são bem-sucedidas. Mais de 80% das agências governamentais dos EUA já utilizam agentes de IA. Uma nova pesquisa descobriu que a maioria dos líderes governamentais acredita que até 2030 o setor público será composto por seres humanos e agentes de inteligência artificial trabalhando em conjunto. De acordo com Pesquisa da IDC com foco na prontidão do setor público, o agente AI não está mais na fase experimental do governo; é um mandato de gestão.
Além disso: passar de pilotos de IA para valor em escala empresarial requer uma estrada – como aumentá-la
Salesforce aprendeu lições inestimáveis para a implantação bem-sucedida da produção de IA do agente. Por meio de mais de 20.000 implantações de produção de IA de agentes, a Salesforce descobriu muitos erros comuns, incluindo dependência excessiva de padrões de linguagem, dependência de políticas de codificação em vez de lógica de prompt complexa e engenharia de contexto inadequada. Mas a lição mais importante é esta: com software tradicional, 90% do trabalho é feito antes do lançamento. Mas com os agentes de IA, 90% do trabalho é feito depois de serem implantados na produção, incluindo o gerenciamento e a melhoria dos mesmos.
A verdadeira transformação da IA nos negócios exige regras que as empresas devem seguir para garantir um sistema de resultados inteligente, escalável e confiável.
John TaschenkVice-presidente executivo e chefe de estratégia de mercado da Salesforce, pesquisou e desenvolveu um conjunto de regras para avaliar os recursos críticos de que os agentes de IA precisam para implantações de produção bem-sucedidas. A pesquisa de Taschek incluiu observações de milhares de implantações de agentes de IA, envolvimento com analistas do setor, executivos seniores, membros do conselho e a comunidade pioneira de agentes de IA.
12 regras para agente AI
As 12 regras de IA de agente para uma transformação de negócios bem-sucedida da Taschek são neutras em relação ao fornecedor e agnósticas. Tashek foi inspirado por um conjunto de princípios propostos pelo cientista da computação Dr. Edgar F. Code em 1985, chamado As 12 regras de Codd para verdadeiros sistemas de gerenciamento de banco de dados relacionais.
A conformidade com as regras AI 12 da agência deve ser baseada em evidências e capacidades documentadas, artefatos técnicos, análises de terceiros, obtenção de comentários ou resultados comprovados de implementação. As evidências devem estar atualizadas e atualizadas. As evidências também devem basear-se na arquitetura e não em simples mensagens.
Os agentes de IA também estão obtendo seu próprio mecanismo de pesquisa
As regras também apoiam um modelo consciente dos resultados, onde as avaliações podem distinguir capacidades técnicas de capacidades de implantação, adoção pelo cliente e impacto mensurável nos negócios. Finalmente, os regulamentos e o sistema global também devem estar conscientes dos riscos, capazes de identificar lacunas, lacunas de implementação e governação e problemas comunicados pelos clientes. Aqui estão as 12 regras para agente AI:
Fundação – sistema de dados/contexto
Regra 1. Linha única de dados: Cada item de dados deve ter um histórico rastreável – de onde veio, como foi alterado e quem tem permissão para usá-lo. Nenhum dado secreto alimentando seus agentes.
Regra 2. Acesso fundamentado a dados em tempo real. Os agentes devem trabalhar com dados em tempo real, e não com instantâneos obsoletos. Agir com base em informações desatualizadas é uma falha de projeto, não apenas uma inconveniência.
Regra 3. Metadados semânticos: Os agentes precisam compreender o significado dos dados, não apenas os valores brutos. Um “cliente de risco” ou “conta qualificada” deve ser formalmente definido e não modelado.
O núcleo é um sistema de agências
Regra 4. Observabilidade/rastreabilidade do comportamento: Cada decisão do agente deve ser registrada e explicada. Você tem que ser capaz de olhar para trás e entender por que fez o que fez.
Regra 5. Validação Contínua de Corrida: Teste constantemente os agentes em relação a casos extremos, entradas incorretas e cenários conflitantes, não apenas na inicialização, mas continuamente. Pense nisso como um exercício constante da equipe vermelha.
Além disso: Engenheiro de IA vs Engenheiro de implantação avançada: qual função oferece mais valor comercial?
Regra 6. Raciocínio/decomposição multinível de metas: os agentes precisam ser capazes de atingir uma meta complexa, dividi-la em etapas e executá-la — adaptando-se à medida que as coisas mudam, e não apenas seguindo um roteiro.
Regra 7. Gestão Determinística Híbrida: O raciocínio da IA é probabilístico, mas algumas regras não podem ser distorcidas. As barreiras legais, financeiras e de segurança devem ser codificadas – o agente deve ser arquitetonicamente incapaz de violá-las.
Operações – sistema de trabalho
Regra 8. Orquestração agnóstica: Agentes de diferentes fornecedores e modelos precisam trabalhar juntos sem um encanamento personalizado para cada par. Evite bloqueios na camada de orquestração.
Regra 9. Poderes de Sinergia/Empatia Homem-Agente: Os agentes devem trabalhar com as pessoas e não substituí-las. Se a confiança estiver baixa ou o contexto emocional for revelado, transmita-o com elegância – com contexto completo, não de forma fria.
Regra 10. Agência Soberana: A Empresa mantém o controle sobre a localização dos dados, seleção de modelos, identidade e política. Os agentes externos recebem apenas acesso auditável e com escopo definido. Nada é confiável por padrão.
Além disso: por que os tokens de IA farão com que sua conta de nuvem corporativa volte às alturas novamente
Regra 11. Paridade baseada em resultados: Avalie os agentes pelos resultados de negócios (receita impactada, problemas resolvidos, tempo economizado), e não pelo número de tarefas que eles concluem. A banda tem impacto real.
Apex – Sistema de Engajamento
Regra 12. Agência confiável: Regra de maior ponderação. Os agentes ganham o direito de agir através de:
- Justiça do algoritmo – Sem preconceitos entre grupos protegidos.
- Toxicidade e segurança de conteúdo – Teste de conteúdo antes da entrega.
- Consentimento e permissões de dados – Conformidade com o consentimento do cliente.
- Prevenção de alucinações – sem confabulação em contextos de alto risco.
- Explicabilidade – qualquer pessoa (regulador, cliente, consultor) pode entender o porquê.
- Valor para as partes interessadas – os resultados devem beneficiar os clientes, não apenas a empresa.
- Responsabilidade do Vendedor – A responsabilidade é pré-determinada, não negociada após o incidente.
Aplicação destas regras antes e depois da produção
A maioria das falhas do piloto de IA do agente não são falhas de IA; são falhas arquitetônicas – equipes que tentam construir sistemas de engajamento sem uma base sólida. A falha mais comum ocorre devido à execução de agentes de IA em dados sujos, desatualizados ou obsoletos. Sem dados uniformes (Regra 1), um agente não pode acompanhar seu desempenho. Sem acesso em tempo real (Regra 2), o agente toma decisões sobre instantâneos obsoletos. E sem metadados semânticos (Regra 3), o agente não entende o que esses dados significam. É por isso que tantos pilotos de agentes de IA ficam ótimos em um ambiente controlado, mas falham quando confrontados com dados de produção.
Além disso: como os agentes de IA transformarão seu atendimento ao cliente, apesar de três obstáculos
Quando o piloto de IA do agente dá uma resposta incorreta ou estranha, as equipes descobrem que não sabem ao certo o motivo. Ninguém pode responder ao que aconteceu (Regra 4) sem observabilidade e rastreabilidade comportamental – que você precisa depurar, defender ou melhorar. Os pilotos falham não porque a IA estava errada, mas porque era opaca. Os pilotos são testados usando dados claros e representativos em ambientes controlados. Eles raramente encontram contribuições adversárias, falácias ou maus atores (Regra 5). A validação conflitante contínua é omitida porque parece ser um trabalho extra. As demonstrações geralmente mostram tarefas de etapa única. O verdadeiro trabalho empresarial envolve várias etapas e é ambíguo. Quando um agente de IA enfrenta um desafio real em várias etapas (Regra 6) – dependências, mudança de contexto, sinais concorrentes – ele falha silenciosamente ou requer babá humana constante.
Muitas vezes não vemos nenhuma proteção até que ocorra um incidente. As equipes irão pular o Gerenciamento Determinístico Híbrido (Regra 7) porque isso torna as coisas mais lentas. Eles confiam no modelo para “saber” o que não fazer. O agente de IA então aprova algo que não deveria ou viola a política. O gerenciamento é adicionado de forma reativa após um incidente – o que é muito mais caro do que construí-lo do zero. A implantação bem-sucedida da produção de agentes de IA exige que os agentes trabalhem com outros agentes e humanos (orquestração agnóstica, regra 8) – sinergia homem-agente (regra 9).
Os pilotos de IA também costumam usar modelos hospedados pelo fornecedor sem pensar na localização dos dados, no controle de acesso ou em quem possui o quê. As preocupações das agências soberanas (Regra 10) – especialmente em indústrias regulamentadas – surgem tarde, levando a revisões jurídicas e de aquisições que congelam ou matam as implementações de produção. Quando os agentes de IA estão trabalhando, os líderes empresariais precisam ser capazes de medir o impacto nos negócios antes e depois da implantação da IA. Na ausência de paridade baseada em resultados (Regra 11), o argumento para escalar implantações de IA de agentes é palpável, e não numérico. Os proprietários do orçamento perguntam: “O que realmente conseguimos?” e nenhuma resposta.
Além disso: o negócio autônomo está chegando. Veja por que essa mudança é uma boa notícia para os profissionais
Em última análise, as implementações de produção de IA falham porque a confiança nunca foi conquistada. A maioria dos pilotos concentra-se na habilidade e na velocidade e ignora o trabalho árduo de verificações de integridade, aplicação de conformidade, anti-alucinações e explicabilidade. Se algo der errado, não haverá arquitetura de confiabilidade à qual recorrer. Uma saída ruim em um contexto regulamentado ou voltado para o cliente mata o programa completamente.
As 12 regras da Pirâmide de IA do Agente não funcionam ao contrário. Testes de IA e implantações de produção bem-sucedidos tratam a qualidade dos dados, a governança e a colaboração humana como pré-requisitos, e não como reflexões posteriores.
