Nos últimos dois anos, grande parte da conversa em torno da IA na saúde comportamental digital centrou-se nos copilotos operacionais. Vimos progressos reais em áreas como documentação, fluxos de trabalho administrativos e recepção. Estas ferramentas fazem uma diferença significativa para os fornecedores, reduzindo os encargos e melhorando a eficiência. Para muitos médicos, os horários noturnos que costumavam durar até a noite estão finalmente começando a diminuir.
Mas na saúde comportamental, algumas das decisões mais importantes não residem na documentação ou nos fluxos de trabalho. Eles residem no julgamento sobre como os médicos interpretam as informações, aplicam o conhecimento e tomam decisões em situações que muitas vezes são ambíguas. Dois médicos experientes podem analisar o mesmo caso e chegar razoavelmente a conclusões diferentes. Às vezes isto é apropriado, mas muitas vezes esta variação reflecte critérios pouco claros, aplicação inconsistente ou diferenças na formação e experiência.
O que começa a surgir é uma mudança de pensar na IA simplesmente como uma ferramenta operacional que ajuda a realizar tarefas para pensar nela como parte de um sistema que ajuda a tomar decisões mais consistentes ao longo do tempo. O objetivo não é substituir os médicos, mas sim que os médicos e os agentes trabalhem em conjunto para tornar o raciocínio clínico mais claro e consistente, para que cada paciente beneficie do melhor pensamento do seu médico.
Passando de ferramentas para sistemas
A maioria das pessoas ainda pensa na IA como um relacionamento pessoal com um médico e um assistente de IA. Mas, na prática, as decisões, especialmente em áreas como a admissão e a adequação clínica, são moldadas por múltiplos contributos, diferentes interpretações de critérios e, por vezes, desacordo. Uma forma mais útil de pensar na IA neste contexto é como uma camada dentro de um sistema de tomada de decisão mais amplo. Isto pode parecer um médico fazendo um julgamento inicial, uma camada de IA que estrutura e testa esse raciocínio usando critérios clínicos padronizados e padrões históricos, e um caminho claro de escalada de IA, bem como supervisão humana que permanece responsável pela chamada final.
Conformidade clínica como um exemplo do mundo real
Definir a adequação clínica é uma boa ilustração de como isso pode funcionar na prática. Em muitos ambientes digitais de saúde comportamental, os avaliadores clínicos realizam avaliações de admissão e tomam decisões independentes sobre se um paciente é apropriado para tratamento. Uma abordagem mais sofisticada introduz camadas alimentadas por IA que geram resultados estruturados com base nas informações coletadas – como recomendações, níveis de confiança, critérios claramente definidos e solicitações para esclarecer detalhes ausentes ou ambíguos.
Na maioria dos casos, o avaliador e a IA concordam. Isto por si só é útil, pois reforça a consistência e dá à equipe um ponto de referência compartilhado. Mas os casos mais úteis são aqueles em que há desacordo.
Desacordo fortalece o sistema
Quando o avaliador e a IA discordam, isso pode desencadear um escalonamento estruturado, onde o caso vai para uma IA de segundo nível ou agente supervisor que fornece outra perspectiva estruturada, juntamente com um supervisor humano que toma a decisão final. O resultado é uma decisão em vários níveis que inclui o julgamento inicial do avaliador, a pontuação inicial da IA, uma segunda perspectiva de IA no nível do supervisor e a revisão do próprio supervisor, tudo alimentado em uma decisão final.
Com o tempo, estas divergências revelam padrões que melhoram todo o sistema em termos de como os critérios são aplicados, como a IA interpreta os casos e onde as regras básicas precisam de ser aperfeiçoadas. Isso significa que cada desacordo melhora o sistema, ajudando a calibrar os médicos, refinar a IA e esclarecer as regras básicas.
Esteja consciente da orquestração e de onde as pessoas se sentam
A abordagem human-in-the-loop é fundamental para o atendimento responsável ao paciente na saúde comportamental digital, e o próprio termo tornou-se uma forma padrão de sinalizar segurança. Uma questão chave relacionada com esta abordagem é onde alguém se situa no ciclo. Isso ocorre porque nem todas as partes do fluxo de trabalho exigem o mesmo nível de envolvimento humano. Por exemplo, a organização de dados e a geração de perguntas podem ser fortemente apoiadas pela IA. Essas capacidades são cada vez mais informadas por modelos clínicos específicos de domínio e dados estruturados. Mas com decisões que afectam o acesso aos cuidados ou ao planeamento do tratamento, especialmente em situações ambíguas ou de alto risco, os seres humanos continuam a ser os decisores mais importantes, ao mesmo tempo que estabelecem parcerias activas com a IA para desafiar suposições, mostrar pontos cegos e aguçar os seus julgamentos em tempo real.
As escolhas de design por trás dessa orquestração são tão importantes quanto a própria tecnologia. Quais soluções pertencem à IA, quais pertencem aos humanos e quais exigem que ambas funcionem em sequência devem ser determinadas antecipadamente, com a liderança clínica e técnica trabalhando em estreita colaboração. Isto é especialmente importante quando o sistema está aprendendo com dados clínicos do mundo real; o objetivo não é simplesmente utilizar os dados, mas refinar continuamente a forma como eles são aplicados a soluções reais. E essas escolhas devem ser revistas regularmente à medida que o sistema amadurece, porque um modelo de orquestração forte se desenvolve à medida que você aprende.
Por que a gestão é importante
Nada disso funciona sem grades de proteção fortes. Isso significa armazenar dados de pacientes em ambientes seguros e compatíveis, manter uma responsabilidade humana clara, monitorar o desempenho ao longo do tempo e criar ciclos de feedback que permitem que o sistema melhore com segurança. Feito da maneira certa, cria confiança ao longo do tempo.
O que isso desbloqueia
Quando um sistema como este funciona bem, os efeitos manifestam-se em múltiplas dimensões. Clinicamente, as decisões tornam-se mais consistentes, a lógica torna-se mais clara e os casos extremos são tratados com maior rigor. Operacionalmente, os escalonamentos tornam-se mais focados, em menor número e mais ricos em detalhes, e taxas mais altas de concordância entre os avaliadores e a IA significam que os médicos podem dedicar mais tempo aos julgamentos que realmente os exigem. E com o tempo, o sistema aprende com divergências e padrões.
A próxima fase da IA nos cuidados de saúde consiste na construção de sistemas onde médicos humanos, supervisores e IA possam contribuir, desafiar-se mutuamente e melhorar a tomada de decisões. As organizações que fizerem isso corretamente serão aquelas que estarão mais conscientes de onde a IA se encaixa, onde os humanos lideram e como os dois se aprimoram ao longo do tempo.
Foto: Irina_Strelnikova, Getty Images
Parker Phillips dedica-se a usar tecnologia e inteligência artificial para aumentar o acesso a cuidados de saúde mental de alta qualidade para jovens. Como CTO, ele desenvolveu a visão tecnológica da empresa e liderou a adoção da IA para impulsionar seu modelo virtual inovador e baseado em seguros de tratamento para ansiedade e TOC. A plataforma foi concebida para melhorar o impacto terapêutico e impulsionar a escala operacional, demonstrando que um modelo baseado em valor pode proporcionar cuidados superiores e uma economia sólida. Com base na experiência de construção de equipes e tecnologia na Commure e Palantir, Phillips se concentra na criação de sistemas que atendam à necessidade crítica de tratamento de saúde mental acessível e baseado em evidências.
Dra. é uma psicóloga de crianças e adolescentes certificada, dedicada a ajudar jovens com ansiedade e TOC por meio de cuidados inovadores e baseados em evidências. Ela foi cofundadora do McLean Anxiety Management Program (MAMP) no McLean Hospital, um programa de terapia intensiva reconhecido nacionalmente, e atuou como professora assistente de psicologia na Harvard Medical School. Boger publicou pesquisas revisadas por pares, deu palestras nacionais, incluindo TEDx, e deu aulas em hospitais, escolas e comunidades. Em 2024, ela foi nomeada uma das 50 principais heroínas da linha de frente em saúde digital. Ela também é cofundadora Saúde InStride expandir o acesso a cuidados oportunos e eficazes para jovens e adultos jovens.
Esta postagem aparece em Influenciadores da MedCity programa. Qualquer pessoa pode publicar sua perspectiva sobre inovação em negócios e saúde no MedCity News por meio de Influenciadores do MedCity. Clique aqui para saber como.
