Por Sunny Webb, Diretora de Produto, IA e Dados da Pager Health℠
Como líder de saúde, você está sob pressão para migrar rapidamente para a IA. Você já pode estar profundamente envolvido uma pergunta de construção versus compra antes de você responder a uma pergunta mais fundamental: se a IA impactar o percurso de cuidado de um membro, sua organização está pronta para assumir a responsabilidade que a acompanha?
Quer as organizações construam ou comprem, a responsabilidade pelos resultados dos membros permanece a mesma. O desafio não é apenas a implementação da IA. Ele operacionaliza a IA de uma forma confiável, gerenciável e útil em fluxos de trabalho clínicos e de membros do mundo real, ao mesmo tempo em que atende aos padrões clínicos, legais, regulatórios e de segurança aos quais os planos de saúde aderem.
Esta questão tende a separar as organizações que geram resultados reais daquelas que executam pilotos estagnados.
Os pilotos mentem. A produção não.
Muitas decisões de IA são moldadas pela qualidade do piloto. Um piloto bem elaborado pode fazer com que o sistema pareça pronto para produção depois de ter sido testado em condições ideais com dados limpos, fluxos de trabalho rígidos e caminhos programados para o sucesso. Avaliações do Gartner 60% das organizações não conseguirão concretizar o valor esperado dos seus investimentos em IA. Outra pesquisa mostra taxas de fracasso de projetos de IA até 80%.
A navegação cuidadosa não acontece em condições ideais. Isso ocorre com sistemas fragmentados, dados incompletos de fornecedores, mudanças na elegibilidade e silos operacionais que levam a uma visibilidade multifuncional limitada e à coordenação entre as equipes.
Existem consequências reais quando o caminho de construção ou compra escolhido está errado:
- Atrasos no atendimento devido a roteamento incorreto ou desconexão
- Dados imprecisos do provedor tiram os membros da rede, onde os custos aumentam várias vezes
- Experiências inconsistentes corroem a confiança dos membros
A maioria das falhas de IA deve-se ao design do sistema: fontes de dados fragmentadas e não fiáveis, IA que não responde aos fluxos de trabalho clínicos e operacionais do mundo real e capacidade limitada para monitorizar o desempenho quando o sistema está em funcionamento. As organizações implantam pilotos porque impressionaram as partes interessadas e, mais tarde, descobrem que os ambientes de produção revelam as suposições que o piloto foi projetado para evitar.
A lacuna de responsabilidade
A saúde sempre funcionou com responsabilidade incorporada ao sistema.
Quando uma enfermeira comete um erro ao conversar com um paciente, há consequências. O julgamento da enfermeira é examinado. Os requisitos de acreditação são questionados. A responsabilidade é clara porque os riscos são reais.
Mas quando um modelo de IA comete um erro, a responsabilidade torna-se muito menos clara.
Quem é o dono da pontuação? O principal fornecedor de modelos? A equipe de implementação? Sua organização? A IA introduz vários níveis de responsabilidade, tornando mais difícil definir a responsabilidade quando as coisas dão errado.
A indústria ainda está trabalhando nessas questões. O que agora está claro, porém, é que não se pode tratar as recomendações geradas pela IA como uma exceção aos padrões aplicados em todos os outros lugares na prestação de cuidados.
Quer as organizações construam ou comprem, a responsabilidade não pode ser terceirizada. A responsabilidade pelos resultados dos membros permanece com a organização que implementa a tecnologia.
Escopos limitados e com scripts combinados com IA mal gerenciada sobreposta a modelos minimamente testados não são apenas riscos operacionais. Na área da saúde, estas podem tornar-se falhas sistémicas que afectam milhares de membros antes que alguém reconheça o problema. A IA de produção é fundamentalmente diferente da IA pilotada. Os detalhes são importantes, assim como as proteções subjacentes, os modelos de governança e monitoramento – construídos para compreender a intenção, estar atento ao contexto e ser capaz de escalar adequadamente.
É por isso que a prontidão para a produção é tão importante. O objetivo não é apenas implementar IA. O objetivo é implementar sistemas em que você possa confiar, monitorar, gerenciar e, em última análise, apoiar quando os resultados forem importantes.
O que exige a navegação de cuidados “pronta para produção”?
As organizações de saúde não estão a implementar modelos de IA. Eles estão implementando sistemas de responsabilização que incluem IA.
Fazer com que um modelo gere uma resposta é diferente de fornecer essa resposta a um membro de forma confiável, precisa e segura. A navegação de cuidados prontos para produção requer:
- Dados de fornecedores em tempo real que são validados continuamente – A Lei Sem Surpresas exige uma revisão do fornecedor de 90 dias, mas ainda assim 40% dos erros de diretório continuar depois de um ano
- Integração de planejamento que opera sem conectividade EHR, que é muito pesada do ponto de vista operacional para a maioria das organizações implementar em escala
- Guarda-corpos clínicos para cenários de alto risco
- Modelos conversacionais e determinísticos que reconhecem o contexto e a intenção de melhorar o envolvimento e a segurança
- Caminhos de escalonamento humano integrados ao fluxo de trabalho desde o início
- Monitoramento de infraestrutura que indica degradação da produção antes que se torne um problema sistêmico
Cada um desses componentes é um compromisso operacional contínuo. A maioria das organizações orçamenta apenas para o modelo. A infraestrutura circundante tende a ser subestimada até fazer com que o piloto pare.
A lista de verificação honesta de construção versus compra
Construir internamente pode ser o caminho certo para sua organização. Faz sentido quando a IA é um verdadeiro diferenciador estratégico, quando possui dados proprietários significativos que criam uma vantagem e quando a sua organização está pronta para assumir toda a carga operacional ao longo do tempo. Essa carga inclui integração de dados, orquestração de fluxo de trabalho, gerenciamento, design humano no circuito e iteração contínua à medida que as necessidades de seus membros e as condições do sistema mudam.
Na área da saúde, é difícil satisfazer estas condições em grande escala porque os requisitos de recursos são significativos, o cronograma desde o seu projeto piloto até à implementação significativa é geralmente medido em anos e a sua responsabilidade operacional contínua continua após o lançamento.
A decisão prática de construção versus compra geralmente se resume a quatro questões:
- Esta é uma fonte real de diferenciação estratégica para sua organização?
- Você tem os dados, o fluxo de trabalho e o orçamento prontos para dar suporte a uma implantação de produção?
- A sua organização está pronta para assumir a governança e a responsabilidade operacional no longo prazo?
- Você está otimizando para controle ou para velocidade, previsibilidade e tempo de obtenção de valor?
Se as respostas da sua organização apontam para adesão, o benefício não é apenas uma implementação mais rápida. Esta é a oportunidade de aproveitar a infraestrutura, os processos de gestão, os fluxos de trabalho operacionais e as lições aprendidas que, de outra forma, teriam de ser desenvolvidas e mantidas internamente.
Os critérios de avaliação mais importantes vão além do desempenho do modelo. As organizações precisam entender como os fornecedores abordam a governança, o monitoramento, a supervisão humana, os caminhos de escalonamento e o gerenciamento contínuo do desempenho quando os sistemas estão em produção.
Os cronogramas de implementação podem ser medidos em meses, não em anos, permitindo que suas equipes se concentrem nas prioridades clínicas e operacionais que você está melhor posicionado para assumir.
Como é quando realmente funciona
O impacto da navegação pronta para produção pode ser significativo. Ao implementar o Pager Health, observámos reduções no custo dos cuidados superiores a 25% e 93% dos membros referiram-se a prestadores preferenciais na rede.1
Esses resultados não são apenas o resultado de um modelo melhor. São o resultado de sistemas construídos para funcionar em condições reais, com fluxos de trabalho reais, consequências reais e responsabilidade real no âmbito desde o início.
Na área da saúde, a confiança sempre exigiu responsabilidade. A IA deve seguir o mesmo padrão.
O futuro da navegação de cuidados pertencerá às organizações cujos sistemas continuam a funcionar em ambientes do mundo real, cujas estruturas de governação resistem ao escrutínio e cujos líderes estão dispostos a apoiar as recomendações que a sua tecnologia faz quando os membros mais precisam de ajuda.
1. Números baseados em indicadores internos de desempenho
