No trabalho que fazemos para apoiar as organizações de saúde, vemos todos os dias como as ferramentas de IA já estão a transformar a indústria. A primeira encíclica do Papa Leão XIV, Humanidade magníficareconhece a proposição razoável de que tais transformações podem ter aspectos positivos e negativos.
Embora esta poderosa tecnologia possa “muitas vezes ultrapassar a inteligência humana em velocidade e capacidade computacional, oferecendo benefícios tangíveis em muitas áreas”, os benefícios podem não ser partilhados de forma igual ou justa: “Pensar que as novas tecnologias beneficiarão automaticamente todos é ignorar a evidência”. Assim, o Papa Leão XIV desafia todos nós que adotamos, usamos, desenvolvemos e implementamos tecnologia de IA a parar e pensar além de “o que” queremos que estas ferramentas alcancem e também a considerar “como” o farão. Tal como ilustrado pelos numerosos exemplos da encíclica de 42.000 palavras, a segunda questão é fundamental para preservar a nossa humanidade e moldar o mundo para as gerações futuras.
claro Humanidade magnífica não tem força regulatória e não impõe obrigações estritas às organizações de saúde. Ainda assim, isso não significa que não haja impactos – ou lições para – a indústria como um todo, especialmente à medida que a adoção da IA continua a crescer.
Em termos gerais, a carta papal incentiva uma abordagem ponderada e orientada para a governação para a adoção e utilização da IA, que coloque a dignidade humana e o cuidado compassivo no centro da conversa. É lógico supor que os sistemas de saúde católicos podem estar entre os que mais provavelmente considerarão estas directrizes na definição da política institucional. Sugerimos, no entanto, que os seus pares seculares ou outros sectários fariam bem em considerar também esta orientação.
Humanidade magnífica ou “Sobre a preservação da pessoa humana na era da inteligência artificial”, destaca várias considerações críticas sobre IA para líderes de saúde. Aqui estão três lições principais:
No longo prazo, uma posição de IA bem pensada e orientada para a gestão pode vencer
Para as organizações que decidem implementar uma nova ferramenta de IA, a encíclica fornece uma base doutrinária simples para uma postura ponderada e orientada para a gestão.
Os parágrafos 105-106 da encíclica dizem que em qualquer sistema de IA, “a responsabilidade deve ser claramente definida em todas as fases”, observando que “a cautela, a avaliação rigorosa e, por vezes, mesmo um ritmo mais lento de adopção da IA” fazem parte do “cuidado responsável pela família humana” e que são necessários “quadros jurídicos robustos, supervisão independente, utilizadores informados”.
Os parágrafos anteriores da encíclica contêm uma advertência direta de que aqueles que concebem sistemas e processos de IA estão inerentemente a impor o seu próprio código moral. Aqueles que adotam ou utilizam tais sistemas são, portanto, obrigados a afirmar afirmativamente o alinhamento da implementação de IA proposta com os valores da organização. Os adotantes da IA devem exercer reconhecimento ativo e monitoramento e gerenciamento contínuos.
A encíclica também adverte que a gestão da IA centrada no ser humano é o padrão a alcançar, em vez de abordagens que reduzem as soluções apenas à utilidade ou eficiência baseada na máquina. À medida que as ferramentas de IA se tornam mais poderosas, há uma tentação crescente de aceitar os seus resultados sem desafio, questionamento ou escrutínio.
Nos cuidados de saúde, onde situações de vida ou morte fazem parte das operações diárias, tais resultados inesperados podem ter consequências terríveis. Como tal, um caminho mais sustentável – envolvendo padrões de governação da IA – poderia incluir políticas e procedimentos documentados para garantir uma “informação humana” significativa e esclarecer como e porquê a IA é usada para apoiar e informar a tomada de decisões humanas.
Auditar ferramentas de IA para preconceito, discriminação, privacidade e ética é fundamental
Ao longo da encíclica, o Papa Leão XIV acena para as obrigações das organizações de saúde de auditar as ferramentas de IA quanto a preconceitos, discriminação, protecção da privacidade e valores positivos.
Os parágrafos 103 e 171, por exemplo, referem-se ao risco de que as decisões mediadas pela IA que afetem o “acesso ao crédito, ao emprego ou aos serviços essenciais” possam discriminar indivíduos vulneráveis por trás de um “gesso de neutralidade e objetividade”.
No contexto de um sistema de saúde, isto pode incluir a implementação de ferramentas administrativas de IA que gerem dados de pacientes, avaliação de riscos, alocação de recursos e triagem operacional. No que diz respeito a tal implantação, tanto a legislação sanitária como a doutrina social católica impõem obrigações anti-discriminatórias baseadas em conceitos de dignidade humana. Humanidade magnífica identifica os dados de saúde como uma concentração de poder particularmente sensível porque aqueles que os controlam podem determinar eficazmente como os medicamentos, os investimentos e as proteções são atribuídos. Esta preocupação é consistente com as obrigações legais já refletidas na HIPAA, na Seção 1557 do Affordable Care Act, nas leis estaduais antidiscriminação e nas crescentes orientações regulatórias específicas de IA sobre verificabilidade, explicabilidade e testes de preconceito.
As auditorias iniciais e o design do sistema também devem considerar valores e ética positivos. Os parágrafos 102-104 insistem que quando a IA entra na vida das pessoas, “afeta direitos, oportunidades, estatuto e liberdade” e que os sistemas automatizados não podem exercer compaixão, misericórdia ou o reconhecimento de que os humanos são capazes de mudar. Delegar decisões a tais sistemas pode, portanto, criar “novas formas de exclusão”. Para as organizações de saúde, isto implica a obrigação de verificar não só se uma ferramenta clínica de IA está a ser utilizada para bons fins, mas também se os valores incorporados na sua concepção e dados de formação são consistentes com a dignidade inalienável do paciente.
Isto também se aplica ao relacionamento com fornecedores. Aqueles que exigem transparência algorítmica, auditoria tendenciosa e compromissos de gestão de dados de fornecedores terceirizados estão alinhados com os requisitos da encíclica e para o qual muitos quadros regulatórios governamentais de IA estão caminhando de qualquer maneira.
O ser humano, o relacionamento e a responsabilidade devem permanecer no centro do cuidado
Humanidade magnífica adverte que a imitação artificial do cuidado torna-se especialmente perigosa quando as relações reais já são tênues, uma vez que a destruição gradual do desejo de uma ligação humana real representa um dano potencialmente mais profundo. Na legislação sobre cuidados de saúde, esta preocupação dirige-se directamente às doutrinas dos direitos dos pacientes que envolvem comunicação, acesso a línguas, adaptações para deficientes e relações terapêuticas, onde os reguladores questionam cada vez mais se a automatização substituiu o envolvimento humano necessário aos pacientes vulneráveis.
As ferramentas de comunicação de IA, por exemplo, podem reduzir algumas cargas de pessoal e melhorar a consistência e a escala. Mas se posteriormente minarem a confiança, aumentarem as reclamações, contribuírem para falhas de comunicação ou desencadearem o escrutínio regulamentar, os custos de redesenhar os sistemas, de requalificar o pessoal e de reconstruir a confiança superarão as poupanças da adoção precipitada.
A importância da dignidade e das relações humanas permeia todos os capítulos substantivos da encíclica: a tecnologia, observa repetidamente, deve servir e melhorar os processos e relações humanas, em vez de os deslocar ou tornar secundários, e a responsabilidade humana deve permanecer primordial “em todas as fases”. As organizações que conseguirem articular, para cada ferramenta de IA que utilizam, exactamente como o julgamento humano continua a ser fundamental, como a responsabilização é monitorizada e como a dignidade individual do paciente é protegida pela lógica da optimização terão compreendido o desafio mais profundo da encíclica. Aqueles que não puderam permitir que a eficiência se tornasse, nas palavras do Papa, “a medida última do valor”.
Uma visão de longo prazo da IA na saúde
A abordagem delineada por Humanidade magnífica pode exigir alguma fé (trocadilho intencional) por parte dos decisores para olharem além dos impactos financeiros de curto prazo e adoptarem uma visão a mais longo prazo.
Organizações de saúde que se baseiam em princípios deliberativos de gestão de IA de longo prazo elogiados em Humanidade magnífica (e em outros lugares, como Lei da UE sobre IA – Regulamento (UE) 2024/1689), Estrutura de gerenciamento de risco de IA do NIST (NIST AI 100-1, 2023como complementado em 2026) e Princípios de IA da OCDE (OCDE/LEGAL/0449; adotado em 2019, revisado em 2024)por exemplo), estão mais informados e preparados para o nosso mundo em evolução. Eles fazem perguntas mais difíceis aos prestadores e exigem explicação em ferramentas clínicas. Evitam a tentação da aceitação rápida, que pode causar erros. Seguir esse caminho pode reduzir a responsabilidade legal, bem como os danos à reputação e financeiros. Não vemos o Papa ou estes outros propondo evitar ou atrasar indevidamente o uso da IA; em vez disso, apelam a uma implementação cuidadosamente planeada.
Embora possa exigir alguma procrastinação a curto prazo, o impacto a longo prazo de uma abordagem deliberada e direcionada à IA pode valer a pena. É este tipo de abordagem que garantirá que a qualidade de qualquer organização de saúde “seja medida não pela solidez dos seus fundos, mas pelos cuidados que é capaz de oferecer, pela sua capacidade de reconhecer o outro como pessoa e não apenas como função”.
