A Antrópico disse na sexta-feira que suspendeu o uso de dois poderosos modelos de inteligência artificial: “Fable 5” e “Myth 5” para cumprir as ordens de segurança nacional dos EUA.
Apenas três dias após o lançamento público do Fable 5, a empresa disse em um blog que recebeu uma diretriz governamental proibindo todos os estrangeiros (mesmo aqueles que trabalham na Anthropic) de acessar o Fable 5 e o Myth 5 devido a questões de segurança nacional.
“O impacto final desta ordem é que devemos desativar repentinamente o Fable 5 e o Myth 5 para todos os clientes para garantir a conformidade”, disse a empresa.
A empresa disse que recebeu a carta às 17h21. (2121 GMT).
Axios relata que a carta vem do secretário de Comércio dos EUA, Howard Lutnick.
Funcionários do Departamento de Comércio dos EUA não responderam imediatamente ao pedido da AFP.
A empresa disse que a carta não especificava qual envolvimento do governo ela continha. No entanto, o “entendimento da empresa é que o governo acredita ter tomado conhecimento de uma maneira de contornar ou fazer o ‘jailbreak’” do modelo Fable 5, ajudando assim os hackers.
Fable 5, lançado na terça-feira, é uma versão bloqueada do Mythos 5, um modelo de inteligência artificial de ponta que a Anthropic escondeu do público por temer que tenha uma capacidade sem precedentes de identificar vulnerabilidades de software ou falhas em seu código que os hackers possam explorar.
Mythos 5 – Modelo Irrestrito – Lançado apenas para empresas selecionadas.
A Anthropic diz que revisou o método de “jailbreak” do Speculation Core e as oportunidades de hacking que ele expõe, mas não acredita que o Fable 5 ofereça aos hackers recursos que outros modelos públicos ainda não oferecem.
A empresa disse que seus testadores de segurança não encontraram um “jailbreak universal” ou uma maneira de contornar suas proteções contra hackers.
“Não acreditamos que a descoberta de um pequeno jailbreak deva ser motivo para revogar um modelo de negócios que foi implantado em centenas de milhões de pessoas”, afirmou a empresa.
“Se este padrão fosse adotado em toda a indústria, acreditamos que isso interromperia essencialmente todas as implantações de novos modelos por todos os principais fornecedores de modelos”.
A Anthropic está envolvida num impasse jurídico com a administração Trump devido à sua recusa em permitir que a sua tecnologia seja utilizada na vigilância em massa e em armas autónomas, levando o Pentágono a cortar contratos com a empresa.
