Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais vantagens do ZDNET
- A IA pode aumentar a produtividade e melhorar o acesso aos dados.
- Os executivos de tecnologia tiveram que adiar o lançamento devido a preocupações com os dados.
- Com os prompts da IA, surgem insights há muito obscuros.
A IA agente e generativa abriu informações e insights para profissionais de empresas. No entanto, as evidências sugerem que a tendência pode ser demasiado boa. Em uma conferência recente, os veteranos da adoção de IA empresarial fizeram algumas palavras de cautela para os profissionais que consideram mergulhar de cabeça na IA.
Os problemas enfrentados por esses profissionais levaram até mesmo à interrupção temporária da liberação de inteligência artificial para aumentar a produtividade dos funcionários, à medida que os gestores reavaliavam as informações que poderiam ser reveladas internamente. Ao mesmo tempo, os executivos que falaram na recente conferência da Veeam em Nova Iorque enfatizaram que a IA não era a fonte do desafio. Ambas as organizações participantes do painel acumularam enormes quantidades de dados e uma delas precisava de uma nova estrutura de governança.
Além disso: 96% dos profissionais de TI agora usam IA: seus sete principais aplicativos de agente e as maiores barreiras à adoção
Steve McIntyre, vice-presidente sênior da Fidelity Investments, descreveu como sua empresa de 400 mil funcionários viu dados há muito escondidos nos recônditos de sua organização, como sites do SharePoint ou armazenamento conectado à rede, surgirem repentinamente usando prompts de IA. “Não foi um problema de IA”, disse ele. “Foi a produtividade da IA e a capacidade de encontrar coisas rapidamente.”
Wim Goerden, arquiteto-chefe de tecnologia empresarial da EY, descreveu o desafio de sua empresa como estabelecer a propriedade dos dados em sua rede global de afiliadas independentes – dados que também surgiram com um mecanismo de IA. “Quando a busca por grandes empresas começou, todos os tipos de coisas começaram a aparecer onde as pessoas iam”, disse ele.
“A EY Global não possui dados. Cada empresa membro possui seus próprios dados. Foi aí que as primeiras perguntas foram feitas. O que é tudo isso? Quantos sites SharePoint? Tínhamos vários petabytes de dados e era o Velho Oeste. Esses sites SharePoint não tinham gerenciamento de ciclo de vida e metade deles não tinha proprietários. Não sabíamos quando eles foram acessados pela última vez.”
Também: 51% dos profissionais afirmam que o trabalho de IA reduz a produtividade – interrompa-o em duas etapas
Na Fidelity, as informações foram extraídas de uma extensa biblioteca de relatórios em PowerPoint e PDF. “Temos toda a história, décadas de notas de pesquisa da Fidelity, como arquivos PDF”, disse MacIntyre. “Emitimos algumas licenças do Copilot e imediatamente, dois dias depois, recebi um aviso legal informando que tínhamos um problema de IA. Uma de minhas equipes fez uma pesquisa para encontrar algo, e a IA voltou com todos os pontos do PowerPoint que estavam no SharePoint anos atrás.”
A IA é “um mecanismo de busca gigante que funciona em alta velocidade”, continuou MacIntyre. “De repente, tudo o que está disponível está sendo pesquisado e apresentado a nós de uma forma significativa. Todos pensaram que tínhamos um problema de IA, mas era um problema de segurança de dados. Esse problema surgiu quando de repente percebemos que tínhamos todos esses dados com os quais não nos importávamos – dados não estruturados – e, de repente, havia todos esses dados.
Instalação de guarda-corpos
Na EY, quando as portas dos seus vastos armazéns de dados se abriram para a IA, a prioridade era “descobrir quem é o proprietário dos dados”, disse Goerden. “A segunda coisa que fizemos foi desligar tudo.” Os usuários só poderiam acessar a ferramenta Copilot se tivessem uma licença.
Também: Crie uma estratégia de IA de agente que valha a pena sem correr o risco de fracasso nos negócios
O processo de revisão da propriedade dos dados envolveu a identificação e marcação dos dados encontrados em toda a empresa da EY, continuou Jurden. Por exemplo, os rótulos incluíam “confidencial” ou “serviços financeiros”.
A própria IA ofereceu um meio para ajudar a etiquetar os repositórios de conhecimento de dados não estruturados de uma empresa, explicou Goerden, observando o desafio de etiquetar humanos a uma taxa de rotatividade anual de 25%.
No entanto, a marcação precisa ser mais profunda do que apenas tags de alto nível. “Primeiro, precisamos saber o que havia quando a IA estava funcionando”, disse Goerden. “Temos que ter um quadro histórico, versões.” Depois disso, “precisamos ir muito além da rotulagem de informações confidenciais. Precisamos ter restrições geográficas, marcações geográficas, marcações de escopo de negócios associadas aos nossos contratos, porque estamos recebendo uma enorme quantidade de dados de clientes que nos dizem o que podemos e o que não podemos fazer”.
Também: Mais de 80% das agências governamentais dos EUA já usam agentes de IA – e isso é apenas o começo
Todos esses metadados precisam ser codificados em contratos, acrescentou: “Essa é a parte fácil. Depois temos que codificá-los em alguma estrutura tecnológica. É muito, muito complicado por enquanto”.
Os executivos enfatizaram que a governação é fundamental para o sucesso em todos os aspectos destas implementações de IA. “Precisamos saber o que está sendo usado”, disse McIntyre.
“Ele introduz a ideia de shadow AI, shadow IT, todas essas coisas – e remonta aos dados do endpoint. Precisamos saber se a contagem de ativos é precisa. Eles estão alinhados com os casos de uso registrados e aprovados? Dessa forma, pelo menos sabemos que se alguém estiver trabalhando em algo, deveria usar Claude porque está relacionado a um projeto específico.”
E mais: essas quatro vulnerabilidades críticas de IA são exploradas mais rápido do que os defensores conseguem reagir
Em seguida, “precisamos pensar sobre qual é o ambiente seguro em que queremos que esses agentes operem?” MacIntyre continuou: “Como queremos que eles interajam com os modelos subjacentes? Que arquitetura implementamos para colocar toda essa atividade em um local que nos dê a visibilidade e telemetria corretas para que possamos ver se os agentes e aplicativos que usam IA estão se comportando conforme planejado? Ou se comportando mal?”
Um desafio adicional, talvez o mais preocupante para todos os líderes digitais no momento, é a identidade do agente, disse McIntyre: “Como identificar um agente? Ele então se torna um funcionário. Mas e se meu agente viver apenas por alguns segundos? É um problema realmente interessante, e não sei se alguém já o resolveu muito bem.”
