Como City of Hope dimensiona o gerenciamento de IA

Simon Nazarian explica por que a City of Hope está incorporando o gerenciamento de IA na base técnica para ir além dos pilotos e fornecer cuidados clínicos seguros e escalonáveis.

A City of Hope construiu sua própria plataforma generativa de IA que converte milhares de páginas de registros médicos de pacientes em resumos clínicos acionáveis ​​em segundos, economizando aos médicos horas de revisão de prontuários após o expediente e acelerando o processo de correspondência de pacientes com câncer a ensaios clínicos. A plataforma, chamada HopeLLM, está no centro de uma estratégia mais ampla de IA que Simon Nazarian, vice-presidente executivo de sistemas e diretor digital e de tecnologia da City of Hope, está conduzindo na rede nacional de centros de câncer da organização no sul da Califórnia, Arizona, Illinois e Geórgia.

A City of Hope, fundada em 1913, é uma das maiores organizações de pesquisa e tratamento do câncer do país. Seu Comprehensive Cancer Center, designado pelo NCI, recebeu a classificação mais alta do instituto, “Excelente”, e suas localizações fornecem acesso a mais de 86 milhões de americanos. Nazarian ingressou em setembro de 2024, após quatro anos como Diretor de Informações da Optum Health, e seu currículo inclui cargos de liderança na McKinsey & Company, Kaiser Permanente e Sony Pictures Entertainment. Esta experiência intersetorial moldou sua crença de que a tecnologia centrada no paciente na área da saúde deve atender às mesmas expectativas dos consumidores estabelecidas pelo entretenimento e pelo varejo.

Podcast: Reproduza em uma nova janela | Download (Duração: 43:08 – 39,5 MB)

Assine: Podcasts da Apple | Spotify

Motor de IA para Oncologia

HopeLLM usa vários modelos de IA comerciais e de código aberto alimentados por dados proprietários da City of Hope abrangendo mais de um século de tratamento e resultados de câncer. A plataforma lida com a enorme quantidade de documentação que acompanha cada paciente oncológico. Como centro de referência primário, o City of Hope recebe de 2.000 a 3.000 páginas de registros por paciente que chega. No passado, os médicos passavam horas à noite e nos fins de semana revisando esses registros para se prepararem para as consultas do dia seguinte. HopeLLM sintetiza essas informações em resumos concisos e estruturados disponíveis no local de atendimento, reduzindo o tempo de preparação em duas a três horas por paciente.

A plataforma também automatiza a correspondência de ensaios clínicos em ambas as direções. Quando um paciente chega, o HopeLLM identifica ensaios elegíveis com base em dados genômicos, determinantes sociais de saúde e histórico clínico. Quando um novo ensaio é aberto, o sistema verifica as populações de pacientes existentes para encontrar candidatos. Nazarian apontou para as previsões da indústria de que biomarcadores baseados em IA e ferramentas de correspondência de pacientes poderiam melhorar o número de inscrições em ensaios clínicos em até 26%. “Quando um paciente chega até nós, temos a capacidade de entender quais ensaios clínicos são adequados para ele e em que medida”, disse ele. “Também podemos, quando quisermos passar nos ensaios clínicos, conectar os pacientes a esses ensaios”.

Os recursos de processamento de linguagem natural permitem que médicos e pesquisadores interajam com o HopeLLM diretamente no local de atendimento, consultando o sistema em busca de dados clínicos ou de pesquisa específicos. Muitos dados de pacientes recebidos chegam em formato não estruturado, incluindo notas, imagens e registros em vários formatos de fornecedores de referência. HopeLLM processa esses dados não estruturados, estrutura-os para uso algorítmico e os conecta aos dados estruturados existentes da organização. A plataforma utiliza protocolos baseados em padrões para transferência de informações, incluindo FHIR e HL7, mas o foco permanece em tornar o processo o mais fácil possível para pacientes e prestadores de encaminhamento.

Gestão construída de dentro para fora

Nazarian é apaixonado pelo gerenciamento de IA, rejeitando a ideia de que ela possa ser colocada em camadas em sistemas de IA após a implantação. Deve ser projetado na arquitetura desde o início. Isto significa passar da supervisão externa para a responsabilização integrada, onde a lógica de gestão reside dentro do próprio modelo. Isso significa tratar a IA como um tomador de decisões, porque se ninguém conseguir explicar quem é o responsável quando a IA dá errado, a confiança desmorona rapidamente. E isso significa passar de políticas estáticas para o que ele chama de “governança conversacional”, onde os sistemas de IA monitorizam o comportamento, reportam desvios e desencadeiam pedidos perigosos em tempo real.

“A governação responsável da IA ​​não significa abrandar a inovação”, disse Nazarian. “Trata-se de garantir que a inovação nunca supere a responsabilidade clínica”. Ele enfatizou que a transparência na IA não pode ser puramente filosófica. Publicar cartões de padrões e esperar que alguém os leia não adianta nada. A clareza no momento da decisão é o que gera confiança, mesmo quando os resultados não são perfeitos. No contexto dos cuidados de saúde, este princípio tem um peso especial. Nenhum algoritmo recebe autoridade moral. Os limites clínicos, a rastreabilidade e o monitoramento de desvios devem funcionar como processos dinâmicos, com o consentimento do paciente incorporado ao projeto.

A deriva do modelo é uma grande preocupação. À medida que os sistemas de IA aprendem com novos dados e interações, o seu comportamento pode desviar-se das propriedades estatísticas e das relações das funcionalidades nas quais foram treinados. Nazarian descreveu isto como um fenómeno natural que requer monitorização contínua. As organizações que operam em vários estados, como a City of Hope, enfrentam a complexidade adicional de diferentes ambientes regulatórios. Cada jurisdição trata a regulamentação da IA ​​de forma diferente, e o quadro de governação deve acomodar esta combinação, mantendo ao mesmo tempo padrões clínicos consistentes. A maioria das falhas éticas, observou ele, resulta de uma escala inadvertida. Gerenciar a IA, diz ele, é mais parecido com engenharia de segurança do que com conformidade.

O líder tecnológico como líder empresarial

A cada um ou dois meses, o líder tecnológico participa de visitas clínicas com médicos, mantendo-se próximo da experiência do paciente e da realidade diária da prestação de cuidados. Nazarian vê a função de CTO como uma função empresarial intrínseca que requer um profundo domínio das operações, dos fluxos de trabalho clínicos e da missão organizacional. A implementação bem-sucedida da IA ​​requer uma parceria entre a equipe executiva. Isto significa compreender os problemas que a organização está a tentar resolver, medir o impacto e gerir a transformação que acompanha qualquer grande iniciativa tecnológica. “Se você conhece o problema que está tentando resolver, você está na metade do caminho”, disse Nazarian. “E agora vocês estão começando a trabalhar juntos como organização para resolver isso.”

A evolução da automação para a análise preditiva e para a IA generativa e de agente representa uma mudança fundamental na forma como as organizações de tecnologia operam. Sistemas de inteligência artificial que aprendem, percebem problemas e se automonitoram exigem um novo tipo de cuidado e alimentação. Nazarian comparou as responsabilidades crescentes da TI a uma função de RH. Os sistemas Agentic AI realizam trabalho para a organização e exigem a mesma supervisão, responsabilidade e gestão de desempenho que qualquer outro ator. A implantação da tecnologia é apenas uma peça. O trabalho mais difícil é gerenciar a transformação como uma equipe de liderança, abrangendo operações, estratégia de negócios e tecnologia. Como Diretor Digital e de Tecnologia, Nazarian traz todo o escopo deste mandato, desde estratégia e infraestrutura até capacidades digitais e total responsabilidade pela tecnologia que permite a missão da Cidade da Esperança.

Leve embora

• Crie ou avalie plataformas de IA com base na sua capacidade de integração em fluxos de trabalho clínicos reais
• Projetar o controle em uma arquitetura de IA desde o início; as políticas codificadas no sistema substituem as políticas deixadas para interpretação após a implantação
• Investir na estruturação de dados não estruturados como pré-requisito para o sucesso da IA, especialmente em organizações com muitas referências e grandes volumes de documentação recebida
• Trate o desvio do modelo como um problema operacional contínuo que requer monitoramento contínuo
• Os líderes tecnológicos devem investir tempo na compreensão das operações clínicas em primeira mão, através de rondas regulares e imersão no fluxo de trabalho
• Ancorar a governança da IA ​​nos resultados e princípios da engenharia de segurança; a maioria das falhas éticas vem de uma escala inadvertida, e não de más intenções

A função, a seu ver, se resume a ser o zagueiro de uma equipe que joga em posição, com o talento certo e alinhado com as prioridades certas. “Como líder de tecnologia em uma organização, você é responsável por criar a visão, a estratégia, definir o ritmo e realmente apoiar os jogadores à medida que avança para garantir que a equipe esteja orquestrando em conjunto.”