Vimos como a IA pode ser usada para encontrar falhas em aplicações e websites, mas os investigadores mostraram agora como podem ser desenvolvidas armas para explorar estas vulnerabilidades. Uma equipe de Universidade de Toronto Modelos de IA acessíveis ao público foram usados para alimentar um protótipo de worm capaz de explorar qualquer falha de computador conhecida. Esses worms podem então se espalhar pela rede e causar o caos na Internet.
Um worm comum geralmente é projetado por programadores qualificados para explorar falhas específicas da rede e pode ser interrompido corrigindo essas falhas. No entanto, os cientistas da U of T, trabalhando em um ambiente fechado e seguro e tomando grandes precauções, usaram modelos de IA de peso aberto (código aberto) para criar um protótipo de worm muito mais sofisticado que se espalhou pela rede de testes da equipe sem qualquer intervenção humana.
Este novo tipo de worm torna possível explorar uma variedade de vulnerabilidades em múltiplas plataformas, incluindo Linux, Windows e dispositivos IoT. Ele coleta dados à medida que se move pela rede, desvia senhas e descobre mais vulnerabilidades que o ajudarão a dominar outras máquinas. Se uma infecção for descoberta e corrigida em um computador, o worm poderá explorar outras falhas para atacar a mesma máquina.
Além do mais, o worm “alimenta-se” sugando o poder de processamento da máquina infectada para alimentar sua lógica e estratégia para ataques futuros. “Os hackers normalmente tinham que priorizar os alvos de maior valor porque o tempo e os recursos computacionais eram limitados”, disse o autor principal, Nicolas Papernot. “Mas agora, quando um worm é lançado, o custo cai para quase zero.”
O conceito de ameaças cibernéticas impulsionadas pela IA tornou-se recentemente muito real com o lançamento do Mythos da Anthropic, um modelo que pode detectar riscos de segurança cibernética até então desconhecidos. A Anthropic diz que a Mithos já descobriu mais de 10.000 falhas, aumentando a taxa de detecção de bugs de seus parceiros em mais de 10 vezes. A Cloudflare, que ajuda as empresas a se protegerem contra ataques maliciosos, encontrou 2.000 dessas vulnerabilidades, 400 das quais são consideradas altas ou críticas.
O protótipo de worm criado pelos pesquisadores só pode explorar erros conhecidos e não consegue encontrar erros desconhecidos como o Mythos. No entanto, é fácil ver como os malfeitores poderiam adaptá-lo para encontrar e explorar novas vulnerabilidades – o que o tornaria quase imparável se fosse lançado na natureza. “Num mundo interligado, nenhum sistema está imune a estas ameaças”, disse Papernot. “Compartilhar essas descobertas é o primeiro passo para pesquisadores, líderes da indústria e legisladores agirem – e rapidamente”.
