A transformação da IA ​​começa com a alfabetização

Os hospitais só adotarão a IA tão rapidamente quanto a sua força de trabalho menos preparada a conseguir absorver: esse é o princípio de funcionamento por detrás da estratégia de IA num dos maiores centros médicos académicos da Irlanda. O Dr. Guido Giunti, Diretor de Dados do St James’s Hospital em Dublin, está a construir toda a sua transformação digital em torno de um modelo que prioriza a alfabetização, investindo na educação e na governança antes de implementar ferramentas. A abordagem vai contra o instinto que muitos sistemas de saúde têm de colocar IA generativa em produção. Também traz uma mensagem direta para executivos que desejam agir rapidamente.

“A IA será um pouco como a eletricidade ou mesmo a Internet. Estará em todo lugar daqui para frente”, disse Giunti. Essa onipresença, diz ele, requer uma força de trabalho que entenda o que a IA pode ou não fazer em um nível fundamental. O St James’s, que tem aproximadamente 5.000 funcionários e é um dos poucos hospitais na Irlanda com um EHR, lançou um programa de formação em vários níveis para construir esta compreensão desde o início.

Podcast: Reproduza em uma nova janela | Download (Duração: 45:46 – 41,9 MB)

Assine: Podcasts da Apple | Spotify

Construindo a linha de base

O esforço de formação baseia-se em grande parte no projeto SUSA (Sustainable Healthcare with Digital Health Data Competence), uma iniciativa da União Europeia de 12,4 milhões de euros liderada pela Professora Minna Isomursu da Universidade de Oulu, na Finlândia. St James está envolvido através de sua parceria acadêmica com o Trinity College Dublin. O hospital usa o programa para conduzir sessões de microaprendizagem durante grandes rodadas clínicas e reuniões municipais, cada uma projetada para durar cerca de 20 minutos. Cada sessão cobre os riscos da IA ​​e pelo menos uma aplicação prática que o participante pode usar imediatamente com as ferramentas existentes.

Além destas sessões curtas, Giunti desenvolveu um modelo de formação de treinadores. O hospital identifica campeões de IA em departamentos que recebem instruções mais aprofundadas e depois atuam como treinadores em suas próprias equipes. Para funcionários que buscam credenciais mais formais, o St. James’s e o Trinity College oferecem cursos de desenvolvimento profissional contínuo que variam de uma ou duas sessões a programas de vários meses que cobrem tópicos como análise de dados de IA e gerenciamento de modelos nativos de grandes idiomas. A filosofia orientadora em todos esses formatos é o imediatismo: cada instância de aprendizagem está vinculada diretamente a casos de uso nos quais o aluno pode agir imediatamente.

Um equívoco persistente que Giunti está trabalhando para corrigir é a ideia de que a IA é apenas mais um produto de TI. Muitos colaboradores equiparam a adoção da IA ​​à implementação de novo software, quando a realidade é muito mais complexa. Ele citou a codificação clínica como exemplo. A IA generativa é promissora para pré-codificar registros clínicos ou rotular elementos de dados, e o hospital está explorando essas aplicações em trabalhos de prova de conceito. Mas para uma tarefa mais simples, como prever quais casos levarão mais tempo para serem processados ​​por um codificador clínico, uma calculadora básica usando tempo de internação, admissão na UTI e idade do paciente funciona perfeitamente. “É como acertar uma mosca com um martelo”, disse Giunti. “Você realmente precisa investir tanto poder de computação nisso?”

Controle móvel

A estrutura de governança em St. James’s é unida pelo design. Um comitê central de supervisão de IA define a política para todo o hospital, enquanto os centros individuais lidam com avaliações e aprovações locais antes de encaminhar as decisões para o órgão maior. O modelo aborda um problema que Giunti identificou desde o início: um comité centralizado, por maior que seja, nunca terá a experiência no terreno para avaliar todos os sistemas de IA em todas as disciplinas clínicas e operacionais. O Departamento de Física Médica, por exemplo, conhece o seu próprio conjunto de tecnologia muito melhor do que qualquer revisão em nível de comitê pode abranger.

Uma parte crítica da arquitetura de gerenciamento é o que Giunti chama de “proprietário do sistema de IA”. De acordo com a política de IA do hospital, qualquer pessoa que solicite uma ferramenta de IA deve aceitar a responsabilidade pessoal pelo seu ciclo de vida: entrega, implantação, monitorização e manutenção. Você gostaria de assumir a responsabilidade por esta ferramenta? Então eles começam a prestar mais atenção ao estudo da IA.” A dinâmica muda a conversa. Quando um médico sênior pressiona por uma nova aplicação de IA, a exigência do médico de possuir os resultados da ferramenta muda a discussão do entusiasmo para o rigor.

A lei da UE sobre IA dá à Giunti uma vantagem extra. O regulamento exige registos de IA e impõe normas de conformidade específicas, por isso, quando uma parte interessada insiste numa implementação rápida, a resposta torna-se clara: primeiro mostre que a ferramenta cumpre os requisitos legais. Giunti reconheceu a natureza ambígua da regulamentação; a correção excessiva com políticas excessivas criará os seus próprios estrangulamentos. Sua solução é construir sandboxes para experimentação e revisar todas as políticas e procedimentos operacionais padrão relacionados à IA a cada seis meses. O campo está a avançar demasiado rapidamente para um período de revisão de três ou cinco anos; o que ele ensina à equipe em março pode estar desatualizado em junho.

Para evitar que estas políticas se tornem mandatos de cima para baixo divorciados da realidade operacional, Giunti toma emprestado um conceito da cultura de design escandinava: desenvolver políticas participativas. O hospital organiza workshops de um dia inteiro onde as partes interessadas de toda a organização criam em conjunto princípios orientadores para áreas específicas. Uma sessão recente sobre a utilização de dados secundários, por exemplo, reuniu médicos, investigadores e administradores para mapear como deveria ser um ambiente de investigação robusto. O resultado torna-se um projecto de política que passa pela revisão das partes interessadas antes de uma aprovação mais ampla. O Comité de Supervisão da IA ​​também tem poderes provisórios para identificar e resolver lacunas políticas entre os ciclos de revisão, delegando o desenvolvimento de novas políticas aos chefes de departamento relevantes.

A qualidade dos dados continua a ser o maior desafio. Os médicos da linha de frente que trabalham sob pressão inserem rotineiramente dados nos campos errados, copiam e colam de outros registros ou preenchem campos obrigatórios com informações de contêiner apenas para seguir em frente. Junti, ele próprio médico, simpatizava com esses trabalhadores. O mesmo médico que rotula erroneamente um item de dados durante um turno caótico retornará duas semanas depois com uma solicitação de auditoria de desempenho de serviço ou uma proposta de pesquisa que depende de dados limpos. A tensão é real e Giunti não vê um mundo onde 5.000 funcionários de repente priorizem a higiene de dados. “Há pessoas que vão literalmente dizer na sua cara: ‘Não me importo com os dados. Eu me importo com o paciente'”, disse ele. Os agentes básicos de IA provavelmente cuidarão de alguma limpeza de dados, mas confiar inteiramente nessa abordagem parece, diz ele, como desistir da força de trabalho.

Leve embora

• Desenvolver a alfabetização em IA e dados entre todos os funcionários antes de implementar ferramentas; consciência cria uma demanda por rigor
• Atribua um “proprietário do sistema de IA” a cada ferramenta para que a responsabilidade seja pessoal
• Usar um governo federal com um comitê central de supervisão e centros separados para evitar gargalos
• Rever as políticas de IA a cada seis anos; a tecnologia avança muito rápido para ciclos de revisão padrão
• Utilizar workshops participativos para cocriar políticas com as pessoas que viverão sob elas
• Dimensione a tecnologia corretamente; uma calculadora baseada em regras geralmente supera a IA generativa para tarefas simples
• Use requisitos regulatórios como a Lei de IA da UE como alavanca em conversas com partes interessadas interessadas

A estratégia de alfabetização de Giunti é uma aposta de que a adoção sustentável da IA ​​depende da parte mais lenta de uma organização: o seu pessoal. “Você não vai progredir mais rápido do que a pessoa mais lenta da organização”, disse ele.