Os líderes de tecnologia do sistema de saúde que criam programas de gestão de IA acabam de receber apoio da medicina organizada. Na sua reunião anual da Câmara dos Delegados, a Associação Médica Americana (AMA) adotou políticas que exigem padrões de evidência no apoio à decisão clínica alimentado por IA e auditorias regulares de ferramentas de revisão clínica baseadas em IA. Juntas, as medidas pressionam os desenvolvedores e reguladores para tornar a IA clínica explicável, validada e responsável ao longo de todo o seu ciclo de vida.
A política de apoio à decisão aborda as informações que os médicos veem no local de atendimento. De acordo com a política, as ferramentas de IA devem refletir a medicina baseada em evidências e fornecer aos médicos resultados que possam compreender, valorizar e confiar. Para chegar lá, a AMA trabalhará com sociedades de especialidades médicas, reguladores, desenvolvedores de IA e outras partes interessadas do setor. Especificamente, o grupo buscará padrões para atribuição, avaliação, validação, transparência e explicabilidade de evidências em sistemas de apoio à decisão habilitados por IA. Para os CIOs e CMIOs que avaliam essas ferramentas, os padrões compartilhados darão às avaliações dos fornecedores uma referência comum.
Uma estrutura de auditoria fornece os detalhes que os comités de governação podem abordar primeiro. Por exemplo, a AMA defenderá auditorias regulares de ferramentas de revisão clínica baseadas em IA, com auditorias desencadeadas por mudanças significativas em modelos de IA, dados de formação ou directrizes clínicas. Revisões anuais abrangentes irão apoiá-los na confirmação da conformidade contínua com os padrões atuais de cuidados. Essas ferramentas de revisão estão hoje principalmente no lado do pagador na determinação da cobertura. Mesmo assim, a lógica de gatilho pode ser vista como um modelo para qualquer portfólio de IA clínica, já que os desvios de modelo e as mudanças nas diretrizes afetam igualmente as ferramentas implementadas pelo fornecedor.
A AMA também reconheceu a razão pela qual os sistemas de saúde adoptaram estas ferramentas em primeiro lugar. Por exemplo, os sistemas habilitados para IA podem sintetizar grandes volumes de informações e melhorar a eficiência dos médicos e da equipe. Ainda assim, a associação observou preocupações abertas sobre transparência, preconceito, explicabilidade e o efeito a longo prazo na prática médica e nos resultados dos pacientes. Conseqüentemente, ele deseja que a supervisão médica seja incorporada à IA clínica onde quer que a tecnologia atinja os cuidados.
Grande parte deste trabalho passa Centro AMA para Saúde Digital e IAque será lançado em outubro de 2025 para dar aos médicos uma voz mais forte na forma como a tecnologia é construída, implantada e regulamentada. Além disso, o seu âmbito abrange a liderança política, a integração do fluxo de trabalho clínico, a educação e a colaboração intersetorial.
Para os líderes tecnológicos, as políticas sinalizam para onde se dirigem as expectativas externas. Os gatilhos de auditoria relacionados com alterações de modelos e dados, atribuição de provas que os médicos podem rever e padrões de validação estabelecidos com sociedades especializadas descrevem o trabalho de governação que muitos sistemas de saúde já iniciaram, e a AMA pretende agora que esse trabalho seja tratado como norma.
