Podemos agora acrescentar o cibercrime à crescente lista de preocupações associadas à inteligência artificial. Grupo de inteligência de ameaças do Google (GTIG) disse que descobriu, pela primeira vez, um ator de ameaça usando uma exploração de dia zero que acredita ter sido criada por IA. “As vulnerabilidades de dia zero costumam ser as mais perigosas porque são desconhecidas dos alvos e os deixam com zero dias para se prepararem para um ataque.
O Google disse no relatório que o autor da ameaça estava planejando usá-lo em um “incidente de exploração em massa”, mas que a detecção proativa “poderia ter evitado seu uso”. O Google acrescentou que não acredita que seus próprios modelos Gemini tenham sido usados, mas ainda tem “alta confiança” de que um modelo de IA fez parte da descoberta da vulnerabilidade e da criação de uma exploração como arma.
O relatório do GTIG não identificou o alvo, mas disse que o Google notificou a empresa não identificada, que então corrigiu o problema. O Google também não revelou os malfeitores, mas os envolvidos na China e na Coreia do Norte demonstraram “interesse significativo” em usar IA para explorar vulnerabilidades de segurança.
Com a rapidez com que os modelos de IA evoluíram para uso diário, não é surpresa que eles sejam usados com intenções maliciosas. Em entrevista com o Dr. O jornal New York TimesJohn Hultquist, analista principal do GTIG, chamou isso de “uma amostra do que está por vir” e a “ponta do iceberg”, acrescentando que o caso foi a primeira “evidência verificável” deste tipo de ataque. O Google disse em seu relatório que, embora os agentes de ameaças estejam usando IA em vários estágios de ataques cibernéticos, “a IA também pode ser uma ferramenta poderosa para os defensores”. Tal como a Google, outras empresas estão a utilizar modelos de IA para obter medidas preventivas. No mês passado, a Anthropic anunciou o Projeto GlassWing, uma iniciativa para usar o Cloud Mythos Preview para encontrar e se defender contra “vulnerabilidades de alta intensidade”.
