Podcast: Reproduza em uma nova janela | Download (Duração: 1:00:50 – 55,7 MB)
Assine: Podcasts da Apple | Spotify
Quatro líderes de segurança de sistemas de saúde explicam por que a visibilidade da IA obscura e introduzida por fornecedores em suas redes deve vir antes de qualquer tentativa de gerenciamento. Assista abaixo ou no YouTube.
Antes que um sistema de saúde possa gerenciar a IA, ele precisa ver onde a IA já reside. Atualmente, porém, a maioria das equipes de segurança não consegue. Esse ponto cego enquadrou a conversa quando quatro líderes de segurança se reuniram durante um recente webinar do HealthsystemCIO. O tópico: como capacitar os médicos sem perder o controle dos dados que eles acessam.
Anahi Santiago, Diretora de Segurança da Informação da ChristianaCarenomeie a lacuna primeiro. Anos atrás, sua equipe construiu um processo de governança que submete cada tecnologia habilitada para IA a uma avaliação de risco. Abrange exposições clínicas, financeiras, organizacionais e de segurança. Entretanto, o problema mais difícil reside nos fornecedores que já estão na rede. Muitos nunca tinham utilizado IA quando os seus contratos foram assinados. Como resultado, estes contratos não contêm uma cláusula que exija aviso quando a funcionalidade de IA chega numa atualização.
“Em nossa rede, podemos ou não ter um conjunto de funcionalidades de IA sobre as quais nada sabemos”, disse Santiago. “Antes de me preocupar com agentes e outras coisas, eu realmente preciso começar com o básico: saber o que está rodando em nossa rede para sabermos como gerenciá-lo.”
Krista Arndt, CISO associada da Rede de Saúde da Universidade de São Lucaslançam a preocupação em termos de identidade. A IA, observou ela, é, em sua essência, uma identidade, um código controlado por padrões de linguagem que são, eles próprios, mais código. Portanto, o primeiro passo foi a visibilidade dessas identidades. Shadow IT sempre foi um problema, e a IA apenas o agrava. Antonio Davis, diretor de segurança da informação e CISO da Sistema de Saúde do Nordeste da Geórgiaenfrentando o mesmo modelo. Sua organização padronizou o Microsoft Copilot como padrão de IA generativa. No entanto, uma série de outras aplicações generativas são executadas no meio, e a responsabilidade por todas elas é a sua principal preocupação.
Robert Butler, Diretor de Segurança da Informação da Netscopelevantou a questão da propriedade dos dados. As informações fluem para uma ferramenta de IA e vice-versa. A questão em aberto, disse ele, é se a organização permanece no controle e onde fica a sua gestão.
Da política à permissão
A política oficial vem em primeiro lugar, concordou o painel. Depois vem o controle técnico que dá força à política. No entanto, cada organização organiza o trabalho de forma diferente. Arndt examinou primeiro os controles administrativos, técnicos e físicos tradicionais. Só então aplicou os controles específicos da IA, incluindo a prevenção da perda de dados semânticos que os DLPs convencionais não conseguem replicar. Os quadros nacionais formais só agora estão a surgir. Portanto, sua equipe desenvolveu a partir das diretrizes existentes, mantendo uma configuração padrão restritiva, bloqueando a maioria das ferramentas e aprovando-as aos poucos, à medida que os controles amadureciam.
Santiago assumiu uma postura mais aberta. Sua equipe monitora o uso por meio de um corretor de segurança de acesso à nuvem e de um gateway de segurança da web. A partir daí, identifica casos de uso que valem a pena migrar para plataformas empresariais e os combina com a prevenção da perda de dados quando o comportamento se torna arriscado. Visite um site de IA e uma janela apresenta a política de confirmação. Porém, tente fornecer dados confidenciais e uma política de acesso condicional bloqueia a ação e encaminha o usuário para a equipe de segurança. Na verdade, o que esta monitorização revela raramente é malícia.
“Eles não sabiam que poderiam usar o Copilot. Eles não sabiam que depois da nona vez que tentaram fazer upload de PHI para uma ferramenta, não funcionaria na décima vez”, disse Santiago. O apelo educativo que se segue a um bloqueio, acrescentou ela, é o que orienta as pessoas para opções sancionadas.
Davies combinou a política com uma revisão da governança. Ele reatribuiu comitês para que avaliem a IA através das lentes da arquitetura, segurança, privacidade e governança de dados. Sua equipe também convidou os usuários a relatar os aplicativos de IA que já usam e por quê. Especificamente, a descoberta confirmou isso. Essa limpeza revelou uma ferramenta não autorizada que movia dados para fora do ambiente, aumentando o foco no vazamento de dados como um grande risco técnico.
Exigindo responsabilidade dos fornecedores
O lado do fornecedor mostrou-se mais difícil, pois uma atualização poderia introduzir IA sem um gatilho para marcá-la para revisão. A equipe de Arndt classifica os fornecedores do nível 0 ao nível 4 e concentra o controle nos mais críticos. Para eles, ele insere questões sobre IA nas revisões anuais e altera contratos dos principais parceiros de design. Os relacionamentos de nível 0 recebem chamadas contínuas em vez de uma cadência anual, uma disciplina que ela vinculou ao planejamento de resiliência. O teste que ela aplica: quais prestadores um sistema de saúde precisará para funcionar por 120 dias.
Santiago fecha a lacuna por contrato. Seus acordos agora exigem que os fornecedores divulguem novas funcionalidades de IA, de forma semelhante a uma especificação para a tecnologia. Eles também proíbem o uso de dados organizacionais para treinar modelos de fornecedores e impor um ciclo de vida seguro de desenvolvimento de IA. Enquanto isso, as ferramentas de visibilidade lidam com uma escala que uma revisão manual de fornecedor por fornecedor nunca conseguiria em milhares de aplicativos. Davis adicionou uma terceira camada. Sua equipe realiza pesquisas de terceiros, monitoramento contínuo e revisão de arquitetura que questionam como um fornecedor desenvolve, treina e testa sua IA, incluindo sua avaliação de preconceitos.
Para Butler, a resposta sempre voltava à visibilidade e à coordenação. A Netskope direciona as novas ferramentas de IA que identifica para um conselho administrativo interno. Por sua vez, este quadro puxa o painel da plataforma para ver o uso real e direciona a base de usuários de acordo.
Treinar, não bloquear
O painel rejeitou o velho reflexo de simplesmente dizer não. A permissividade só funciona, concordaram eles, quando a visibilidade a torna uma escolha e não um ponto cego. Santiago creditou a cultura e o mandato de 11 anos que lhe permitiram transformar um programa maduro de risco de terceiros em um comitê de governança de IA. Abrange privacidade, conformidade, informática jurídica, clínica e finanças. Arndt alertou que a permissividade sem governação, monitorização e visibilidade está a enfraquecer rapidamente. Para contrariar esta situação, ela apontou para um modelo de segurança multicamadas que permite às empresas permanecerem ágeis e com confiança. Davis, em particular, redefiniu completamente o papel da equipe de segurança.
“Não queremos ser o departamento Não. Queremos ser o departamento que informa sobre o valor associado à inteligência artificial”, disse ele.
Leve embora
- Comece com visibilidade. Você não pode gerenciar ou proteger a IA que não consegue ver, seja ela chegando por meio de ferramentas ocultas ou de atualizações de fornecedores.
- Escreva a política primeiro e depois adicione controles técnicos que a apliquem.
- Trate os bloqueios como momentos de treinamento. A maioria dos usuários está apenas tentando fazer seu trabalho.
- Adicione uma linguagem contratual exigindo que os fornecedores divulguem nova IA, proibindo o uso de seus dados para treinar modelos e exigindo um ciclo de vida de desenvolvimento seguro.
- Classifique os fornecedores por impacto nos negócios e mantenha conversas contínuas com os mais críticos.
- Aprimore a equipe de segurança por meio de desafios e competições de jogos que constroem cultura à medida que a adoção segue.
Os painelistas retornaram repetidas vezes ao mesmo ponto de partida, capturados em uma única linha desde Santiago. “Não podemos proteger o que não conhecemos”, disse ela.
