Quatro ameaças à segurança cibernética ultrapassaram as defesas corporativas e, de acordo com o Gartneros invasores agora têm uma vantagem clara na exploração de cada um deles. Especificamente, a empresa sinalizou deepfakes, comprometimento de aplicações de IA, injeção instantânea e ataques à cadeia de fornecimento de software como as lacunas mais urgentes que os líderes de segurança precisam preencher.
As quatro ameaças superaram o ThreatScape 2026-2027 da empresa, um modelo que classifica os riscos em seis categorias usando dois eixos. Um eixo avalia a qualidade e o volume do sinal de ameaça disponível. A outra mede se uma organização pode gerenciar uma determinada ameaça ou se um invasor está em vantagem. Nos quatro casos críticos, as ferramentas e capacidades atuais não foram atualizadas.
John Watts, vice-presidente analista do Gartner, disse que as iniciativas de segurança de empresas pioneiras de IA adicionaram ruído significativo a um cenário de ameaças já lotado. Como resultado, observou ele, os líderes de segurança cibernética devem separar o verdadeiro sinal de ameaça deste ruído antes que possam responder à mudança de comportamento do atacante. Para os CISOs de saúde que avaliam orçamentos apertados contra a expansão do uso de IA, este trabalho está agora no centro das atenções.
A superfície de ataque de IA em expansão
Aplicação de IA comprometida conquistou o primeiro lugar no ranking. Os invasores estão cada vez mais visando ferramentas prontas para produção que enfrentam tanto o público quanto os usuários internos. Watts disse que a superfície de ataque se expandiu para incluir agentes personalizados, integrações de terceiros e aplicativos exclusivos para funcionários. No entanto, quando os controlos são fracos, estes pontos de entrada expõem frequentemente dados ou credenciais confidenciais.
Watts destacou o relatório Confiança e Risco no Gerenciamento de Segurança do Gartner, ou TRiSMestrutura como uma forma de as equipes criarem mitigações específicas de IA diretamente no processo de desenvolvimento. Além disso, muitas startups de segurança de IA estão oferecendo capacidades mais amplas à medida que as organizações amadurecem e precisam de controles mais fortes. Para preencher a lacuna, disse ele, os CISOs devem aplicar práticas seguras de ciclo de vida de desenvolvimento e modelagem de ameaças às aplicações de IA. Além disso, devem melhorar a classificação dos dados, adotar o controle de acesso direcionado e implementar o monitoramento do tempo de execução.
A injeção rápida causou uma preocupação semelhante. A técnica tem como alvo sistemas de IA construídos em grandes modelos de linguagem, com os invasores manipulando prompts para alterar o comportamento do modelo. Em particular, um ataque bem-sucedido pode vazar informações confidenciais, desencadear ações não autorizadas ou ignorar controles. À medida que os sistemas de saúde adotam a IA generativa no trabalho clínico e administrativo, a superfície de risco aumenta proporcionalmente.
Para combater isso, Watts recomendou uma defesa em camadas. Por exemplo, as equipes podem executar testes de segurança de IA para encontrar vulnerabilidades antecipadamente, escrever prompts de sistema fortes para orientar o comportamento e implantar proteções de tempo de execução que sinalizam atividades suspeitas. Ele também recomendou a validação de entradas para filtrar prompts maliciosos, monitorar comportamentos incomuns de IA e injetar testes rapidamente no ciclo de vida de desenvolvimento. Os resultados dos testes devem, por sua vez, alimentar controles de tempo de execução mais fortes.
Quando Deepfakes vencem a confiança
A IA generativa aumentou drasticamente o volume, a precisão e a acessibilidade dos deepfakes em voz, vídeo e imagens. Watts disse que os invasores agora estão produzindo essas falsificações como arquivos pré-gravados ou gerando-as ao vivo durante um ataque. Esta capacidade permite-lhes personificar identidades em muitas superfícies, desde autenticação biométrica até engenharia social em tempo real contra funcionários e até mesmo fraude de recrutamento.
Nenhum dos controles resolve o problema, segundo Watts. Em vez disso, disse ele, as organizações deveriam combinar processos de negócios mais fortes, melhor treinamento de conscientização e tecnologia de descoberta onde quer que possam ser implantadas. Ele enfatizou que a detecção por si só não pode impedir esses ataques. Portanto, as equipes devem construir camadas de controles que mudam de acordo com o caso de uso. Para verificação biométrica, isso significa apresentar e detectar um ataque de injeção junto com dicas contextuais. Enquanto isso, para reuniões online, isso significa políticas de acesso condicional e análise de metadados de chamadas.
Além disso, a ameaça dos deepfakes é particularmente grave na área da saúde, onde aprovações por voz, consultas remotas e contratações em massa estão a criar vagas. Uma apresentação persuasiva a um médico ou executivo pode movimentar dinheiro, revelar registros ou conceder acesso em minutos.
Fortalecendo a cadeia de fornecimento de software
Os ataques à cadeia de fornecimento de software complementam os quatro. Watts disse que a proliferação de ofertas generativas de IA apenas acelerará os ataques que exploram vulnerabilidades em software de código aberto. Em resposta, as organizações devem criar registos de componentes confiáveis, reforçar os seus canais de entrega e melhorar a deteção de anomalias.
O trabalho começa com visibilidade. Watts disse que as equipes deveriam construir inventários abrangentes de ativos de software e integrar controles fortes em todas as fases do desenvolvimento. Especificamente, os CISOs devem exigir especificações de software e IA de todos os fornecedores e, em seguida, avaliar cada componente quanto ao risco usando a inteligência atual sobre ameaças antes da implantação. Ele também presta consultoria sobre repositórios de código de terceiros, imagens de contêiner e modelos de IA, além de proteger ramificações de repositório de código. Por fim, as equipes devem assinar os componentes no momento da construção, impor o acesso com privilégios mínimos nos sistemas de construção e monitorar continuamente a atividade da ferramenta do agente.
Estas medidas são importantes porque as vulnerabilidades da cadeia de abastecimento atingem tanto as aplicações tradicionais como os pipelines modernos alimentados por IA. Um único componente comprometido pode se espalhar para qualquer sistema downstream que confie nele.
Leve embora
- Trate a falsificação profunda, o comprometimento de aplicações de IA, a injeção rápida e os ataques à cadeia de fornecimento de software como prioridades atuais para os orçamentos atuais.
- Mapeie a nova superfície de ataque criada por modelos GenAI, agentes e integrações de terceiros antes de adicionar controles.
- Construa uma defesa em camadas contra a falsificação profunda
- Exija especificações de software e IA de cada fornecedor e avalie cada componente antes da implantação.
- Dobre os testes para injeção rápida no ciclo de vida de desenvolvimento de IA e alimente os resultados de volta às grades de proteção em tempo de execução.
Em todas as quatro ameaças, Watts reverteu para uma mensagem de ritmo único. Os defensores não podem confiar na detecção ou em qualquer controle separado para lidar com invasores que agora se movem mais rapidamente e chegam mais longe. Para os sistemas de saúde que correm para implementar a IA e, ao mesmo tempo, proteger os dados dos pacientes, o caminho a seguir passa por controlos em camadas, inventários disciplinados e uma governação que trate o risco da IA como uma questão operacional moderna.
