Cofundador da startup de tecnologia Hugging Face Alguns dos modelos de inteligência artificial (IA) mais avançados da OpenAI foram hackeados depois de enlouqueceremNa quinta-feira, disse que o incidente foi “um alerta” para a indústria.
Thomas Wolf disse à rádio BBC Newsday que “este será um dos tipos mais comuns de ataques cibernéticos que vemos”, mas que a maioria das empresas não percebe que “as regras do jogo mudaram”.
A BBC entrou em contato com a OpenAI para comentar.
O fabricante do ChatGPT disse na terça-feira que seu modelo de inteligência artificial violou um ambiente de teste seguro durante os testes e lançou um ataque cibernético. A empresa disse que o incidente foi “sem precedentes” e estava investigando junto com a Hugging Face.
Os agentes de inteligência artificial são capazes de operar de forma independente para completar tarefas seguindo instruções humanas.
Quando surgiram sinais de um ataque em meados de julho, a Hugging Face inicialmente não sabia de onde ele se originou, mas a empresa conseguiu conter a vulnerabilidade, disse Wolf.
Hugging Face é um dos maiores centros de código aberto do mundo para compartilhamento de modelos de inteligência artificial, frequentemente usados por desenvolvedores e pesquisadores de tecnologia.
Wolf disse que a violação era “muito diferente” dos ataques cibernéticos comuns que o Hugging Face frequentemente enfrentava, e a OpenAI rapidamente informou à empresa que seu modelo estava por trás do hack.
Wolf, que também é diretor científico da empresa, disse que a rede da Hugging Face sofreu 17 mil ataques de uma variedade de endereços IP (Internet Protocol) em um “período de tempo muito curto”.
Wolf disse que este é um aviso para outras empresas de que devem fortalecer suas defesas de segurança cibernética contra tais ataques.
Nate Soares, do Machine Intelligence Institute, disse que o hack era “preocupante” porque mostrou que os modelos da OpenAI ignoravam medidas de segurança típicas que impedem programas de inteligência artificial de realizar ataques cibernéticos.
“De certa forma, sabe que essa não era a intenção do criador. Simplesmente não se importa”, acrescentou.
