Três visionários da tecnologia sobre como construir confiança e responsabilidade com IA

Siga ZDNET: Adicione-nos como fonte preferencial no Google.

Principais vantagens do ZDNET

• Construir um relacionamento saudável entre humanos e IA exigirá a formalização de práticas comerciais.
• O futuro do trabalho são os humanos e a IA como colegas que co-criam valor.
• A gestão da IA ​​do agente precisa esclarecer a responsabilidade e a responsabilização compartilhadas.

Primeiramente, Dr Vint Cerfum dos cocriadores da Internet observa que, com a IA, “parece que encontramos uma nova forma de vida e estamos tentando descobrir como ela pensa”. É importante notar que nosso trabalho e relacionamento comercial com a IA podem ser diferentes dos humanos.

Em segundo lugar, Dr.um líder tecnológico com sucesso em ambientes complexos, incluindo a resposta ao 11 de Setembro, o antraz de 2001 e a modernização da FCC, sugere: “Talvez em vez de lhe chamar inteligência artificial, devêssemos chamar-lhe interacção alienígena. Porque dessa forma, não estamos a tentar antropomorfizar esta máquina.”

Além disso: passar de pilotos de IA para valor em escala empresarial requer uma estrada – como aumentá-la

Juntas, estas duas observações sugerem que a forma como abordamos a IA determinará quais empresas terão sucesso no futuro.

E em terceiro lugar, Cheryl Strauss Einhornjornalista investigativo premiado, fundador e CEO da empresa de ciências da decisão Decisive, enfatiza que “Quando o martelo cai, ele cai sobre nós. A IA não se importa. Todos teremos que explicar e teremos que arcar com as consequências.” É um apelo claro e convincente para reconhecer que a nossa abordagem à nossa relação com a IA é fundamental para determinar o sucesso dos negócios.

Em conjunto, estes três especialistas enfatizam que a forma como trabalhamos com a IA e o trabalho que desenvolvemos com a IA determinará o sucesso individual e empresarial na próxima década. Para os CEO, os conselhos de administração das empresas e os principais decisores políticos, a capacidade de um bom ser humano decidir se e quando confiar nos resultados da IA ​​é essencial.

Recentemente R “Ray” Wang da Constellation Research e tive a oportunidade de apresentar Vint, David e Cheryl em nosso podcast semanal, DisrupçãoTV. As palestras de ritmo acelerado, mas extremamente matizadas, centraram-se na razão pela qual precisamos de evitar confundir as instruções que os humanos dão à IA (bem como a IA a outras IA), como podemos determinar se devemos confiar nos resultados da IA ​​e quem deve ser responsabilizado quando a IA faz algo errado ou prejudicial.

É importante evitar ambiguidade nas instruções da IA

Vint forneceu uma introdução sobre por que precisamos pensar proativamente sobre como evitar ambiguidade nas instruções que um humano ou IA dá a outra IA, observando: “O grande problema que me preocupa são os agentes conversando entre si usando linguagem natural. Não precisamos que os agentes se entendam mal e executem na velocidade da luz versus a velocidade de um humano”.

Tendo vivido as origens da Internet, desde a ARPANet original até a nossa moderna World Wide Web, Wint enfatizou o risco de que tanto os programas determinísticos de computador quanto a inteligência artificial mais generativa possam fazer coisas que não deveriam fazer, especificamente: “Os programas, pelo menos os determinísticos, fazem o que você lhes diz para fazer. O problema às vezes é que o que você lhes diz para fazer não é o que você queria que eles fizessem.”

Além disso: o negócio autônomo está chegando. Veja por que essa mudança é uma boa notícia para os profissionais

Baseando-se nos comentários de Wint, David observou: “Defino governação como a forma como evitamos a anarquia. Temos de fornecer protecção contra a anarquia não só aos humanos, mas também aos agentes”. Tendo anteriormente impulsionado mudanças positivas em ambientes tumultuados e muitas vezes caóticos, incluindo o trabalho com a comunidade de inteligência dos EUA, David também forneceu uma representação visual adequada da situação. “É uma espécie de repetição de 1910. Ainda não havíamos inventado os semáforos. Nem havíamos inventado os sinais de parada, a faixa de domínio ou as calçadas.” Na década de 1910, tanto Nova Iorque como Chicago tinham ruas com bondes circulando ao lado de carros particulares, pedestres humanos e cavalos, semelhantes às empresas de hoje com vários modelos de IA baseados em nuvem, modelos de IA nativos, usuários humanos e outras ferramentas de software analítico.

Cheryl nos lembrou da importância de conhecer sua maneira padrão de dar sentido ao mundo. “Cada um de nós tem um molho especial. É a maneira como tomamos decisões. E a maioria de nós não percebe realmente o que é.” Compreender o nosso próprio “molho especial” é fundamental para evitar mal-entendidos ao induzir a IA. Como autorThe Human Edge: decisões mais inteligentes na era da IA” Cheryl explicou: “Se você vai dirigir um carro, na verdade precisa gastar mais tempo pesquisando seu próprio molho especial… então, em vez de outra pessoa lhe dar as respostas… isso pode funcionar para você.”

Como podemos determinar se devemos confiar nos resultados da IA?

Elaborando sua observação de que “estamos tentando descobrir como ele pensa”, observou Wint, “eu os vejo como um novo conjunto de trabalhadores com os quais podemos nos relacionar. Parece-me um agente de pesquisa muito inteligente”. Para Wint, que presidiu a People-Centered Internet Coalition de 2017 a 2020, o anúncio mostra que reconhece que a IA pode ser vista como mais do que uma ferramenta, talvez uma contrapartida digital capaz de aumentar as capacidades de investigação do projecto. Esta observação importante destaca a importância de motivar e gerir os funcionários (incluindo agentes de IA que trabalham com seres humanos) para o futuro do trabalho.

Além disso: trate seus agentes de IA como estagiários ansiosos, mas equivocados – antes de perder o controle

David inspirou-se no seu tempo de trabalho com a comunidade de inteligência e a FCC, observando que quando se trata de confiar nos resultados da IA, “a resposta saudável do público hoje em dia é cada vez mais desconfiar da primeira coisa que vê, a menos que seja triangulada… É isso que a CIA faz.” Para David, este relatório está próximo da sua própria carreira profissional, já que certa vez ele suportou um grande número de comentários gerados por bots que inundaram um sistema de comentários públicos com a exigência de registrar todos os 23 milhões de comentários enviados, não importa quem. robô humano ou digitalpublicado. Para as empresas que enfrentam o futuro dos agentes de IA, será fundamental saber quando os agentes agregam valor às interações entre clientes. A experiência de David liderando a equipe de TI que manteve o sistema em funcionamento para comentários humanos durante a enchente é um bom lembrete de que os agentes de IA podem amplificar e potencialmente interromper e ofuscar as vozes humanas.

Cheryl também enfatizou a importância de entrar na varanda metafórica e perceber que a IA envolve muito mais do que capacidades digitais. “Este não é apenas um novo software. Na verdade, é uma mudança de cultura… sobre resolução de problemas.” Os comentários de Cheryl basearam-se na partilha de Wint e David sobre a importância do bom senso e julgamento humano na decisão de confiar nos resultados da IA ​​para resolver problemas em negócios, comunidades e empresas. Cada uma das suas observações especializadas sublinha a importância do bom discernimento humano e da boa química entre o homem e a IA para distinguir as relações produtivas da IA ​​das inúteis.

Quem responsabilizamos quando a IA faz algo errado?

No aspecto final de uma relação bem-sucedida entre humanos e inteligência artificial, Wint, David e Cheryl abordaram a questão central da responsabilização quando as coisas dão errado.

Cheryl compartilhou um contraste visual nos estilos de uso da IA: “Existem realmente duas maneiras diferentes pelas quais as pessoas usam a IA, um cirurgião e um motorista de Lamborghini. Quando vamos para a IA, queremos uma resposta específica… usamos-a como um cirurgião.” Existe o risco de um cirurgião cometer um erro, e também há riscos de um cirurgião fazer tudo certo e ainda assim ter um resultado adverso para seu paciente.

Quanto a outros usos da inteligência artificial, Cheryl continuou: “Há outros casos… você tomou uma decisão muito importante e quer passar pelo processo. Nesse ponto, você é o motorista de um Lamborghini.” Neste segundo caso de uso de IA, semelhante a dirigir um carro de corrida de alto desempenho, a capacidade de navegar em curvas fechadas e conhecer as capacidades e limitações do motor de IA é essencial para evitar o equivalente de IA aos acidentes de carro.

Além disso: Criando uma estratégia de IA agente que compensa sem correr o risco de fracasso nos negócios

Além disso, David compartilhou uma lição sobre navios de guerra que hasteiam a bandeira: “De quem é a bandeira que este agente de IA hasteia quando faz alguma coisa? Neste exemplo, a organização, se empregar um agente de IA, também assume a responsabilidade pelo agente se forem fornecidas boas instruções. Ele também observou que se tornará cada vez mais difícil encontrar dados derivados de forma não sintética num futuro próximo. “Até 2030, mais de 40% da informação do planeta será produzida sinteticamente pela inteligência artificial, o que levantará grandes questões para gestores e conselhos.”

E, finalmente, observou Wint, os indivíduos e as organizações precisam recorrer uns aos outros quando as coisas dão errado. “Estabelecer um regime alternativo poderia ser muito benéfico e talvez até necessário em diferentes circunstâncias.” Como principal evangelista do Google, Wint tem pressionado por tais abordagens para a IA, e tanto Wint quanto David reconheceram que empresas como Salesforce, Google e outras estão adotando uma abordagem favorável semelhante à IA no local de trabalho e nas configurações dos clientes.

Wint também expressou preocupações que ele e David compartilharam sobre o desafio crescente do que deveria ser rotulado como informação gerada por IA versus informação de fontes humanas reais ou com curadoria humana, afirmando que “perder o acesso à informação digital é um problema sério”. Vint isso inclui o risco de perder o software para interpretar os dados, bem como a origem dos dados.

Principais recomendações para gestores e conselhos

A advertência de Vint de que “não precisamos que os agentes se entendam mal e executem à velocidade da luz em comparação com a velocidade humana” enfatiza que as relações que nós, como seres humanos, temos quando nos envolvemos com a IA, bem como as relações com as quais as IAs se envolvem entre si, determinarão resultados bem-sucedidos. Juntos, Vint, David e Cheryl levantaram três pontos principais:

1. Há necessidades claras de garantir que as instruções dadas à IA generativa sejam claras, precisas e não tenham consequências indesejadas. A imagem visual das ruas de Nova York e Chicago da década de 1910, com bondes em uma única pista com carros particulares, pedestres humanos e cavalos, sem sinais de parada, faixa de domínio ou calçadas livres, é relevante para a nossa era atual.
2. O bom julgamento humano está a tornar-se cada vez mais importante na decisão de confiar ou não nos resultados da IA, e está a tornar-se cada vez mais difícil distinguir conteúdos gerados por humanos de IA. Uma boa química entre humanos e IA ajuda a distinguir relações produtivas de IA daquelas inúteis.
3. Trabalhar para criar clareza, bem como soluções individuais e organizacionais, caso a IA faça algo errado, será importante para melhorar as relações entre humanos e IA dentro e entre as empresas. Haverá diferentes contextos em que os humanos interagirão com a IA; alguns estarão mais focados em encontrar uma resposta específica, enquanto outros envolverão dirigir um carro de corrida de alto desempenho em curvas fechadas em alta velocidade.

Além disso: por que os tokens de IA farão com que sua conta de nuvem corporativa volte às alturas novamente

Os três especialistas também enfatizaram que as empresas, comunidades e países de sucesso utilizarão o “MI in the fold”, reconhecendo que as interações em rede entre os seres humanos e a IA incluem relações baseadas no propósito e na responsabilidade. Tanto Wint quanto David também enfatizaram que precisamos ir além do teste de pivô para nos concentrar na IA fortalece as habilidades individuais e coletivas de uma pessoa e nos ajuda a melhorar nossos pontos fortes.

Coautor deste artigo Dr.Diretor e CEO da LeadDoAdapt (LDA), Accelerator Chair e Stimson Center Distinguished Fellow.