As organizações de saúde agora têm um roteiro dedicado para gerenciar os riscos de segurança cibernética da IA. O Conselho Coordenador do Setor de Saúde (HSCC) Grupo de Trabalho de Segurança Cibernética publicado Um guia para implementar a estrutura de governança cibernética de IA no setor de saúde. Com efeito, isto dá aos sistemas de saúde uma forma estruturada de construir e gerir a governação cibernética empresarial para a IA. A orientação chega à medida que a adoção acelera em todo o setor. Para os líderes de tecnologia e segurança, oferece uma referência comum para colmatar a lacuna entre a implementação rápida e a supervisão disciplinada.
A estrutura visa ameaças específicas de IA que as ferramentas de segurança tradicionais muitas vezes ignoram. Isso inclui envenenamento de dados, desvio de modelo e ataques adversários. Em particular, qualquer pessoa pode degradar ou manipular um modelo de maneiras que os controles convencionais dificilmente conseguem detectar. A administração também considera as pressões regulatórias. Especificamente, combina as suas recomendações com o ambiente de conformidade rigoroso da indústria, para que as decisões de gestão permaneçam sob controlo. A cobertura cobre toda a gama de IA em uso, desde o aprendizado de máquina reativo até a IA generativa e a classe emergente de sistemas de agentes capazes de ação autônoma.
Concentre-se nas dimensões cibernéticas da IA
O HSCC envolveu o novo recurso firmemente em torno da segurança cibernética. Ele se concentra em quatro prioridades: proteger os sistemas de IA contra ameaças adversárias, preservar a integridade e a privacidade dos dados, proteger a cadeia de fornecimento de IA e manter a resiliência operacional quando um componente falha. A segurança clínica, a ética e o envolvimento do paciente só entram em discussão quando se cruzam com o risco cibernético. Como resultado, o documento continua utilizável pelas equipes de segurança e tecnologia. No entanto, o grupo de trabalho está ciente das limitações de cada estrutura individual. As organizações também devem implementar um programa mais amplo de governação da IA que aborde toda a gama de riscos da IA à medida que a tecnologia e as suas ameaças continuam a mudar.
O recurso é fortemente baseado em Guia de Transparência de Riscos de Terceiros e Transparência da Cadeia de Suprimentos do Setor de Saúdeo recurso de 109 páginas publicado pelo HSCC em 15 de abril. Este guia complementar conduz as organizações por um ciclo de vida de sete fases para riscos de IA de terceiros, desde a justificativa do caso de uso até o descomissionamento seguro. Ele também se adapta ao tamanho da organização, de modo que instalações pequenas e rurais obtenham ferramentas básicas, enquanto sistemas grandes obtenham protocolos mais avançados.
Construindo um vocabulário compartilhado
Junto com a nova orientação, o Grupo de Tarefas de IA nomeou seu Dicionário cibernético de IA. O Glossário é uma referência viva que estabelece definições consistentes e prontas para o gerenciamento da terminologia de IA em todo o setor. Ele aborda uma lacuna que vem aumentando silenciosamente o risco há anos. As partes interessadas clínicas, operacionais, de conformidade e técnicas muitas vezes descrevem os mesmos conceitos de IA com termos diferentes, causando confusão.
Leve embora
- O Grupo de Trabalho de Segurança Cibernética do HSCC lançou uma estrutura de governança projetada especificamente para o risco cibernético de IA na área da saúde.
- O guia visa ameaças específicas da IA, como envenenamento de dados, desvios de modelos e ataques competitivos, ao mesmo tempo que mapeia o ambiente regulamentar do setor.
- A cobertura cobre toda a gama de IA em uso, desde aprendizado de máquina reativo até sistemas generativos e de agente.
- A estrutura combina com o Guia de Transparência de Riscos de IA e Cadeia de Fornecimento de Terceiros de 15 de abril e seu ciclo de vida de fornecedor de sete fases.
- Um glossário cibernético de IA que acompanha padroniza a terminologia para que aquisições, contratos e supervisão sejam baseados em definições compartilhadas.
