A Anthropic suspendeu seu poderoso novo modelo de IA depois que autoridades dos EUA levantaram preocupações de segurança poucos dias após seu lançamento público.
Em um comunicado publicado em seu site, a Anthropic afirmou ter sido obrigada a suspender o acesso de estrangeiros ao Claude Fable 5, um programa que a própria empresa descreveu como “poderoso demais”.
“O efeito líquido desta ordem é que precisamos desativar abruptamente o Fable 5 e o Mythos 5 para todos os nossos clientes, a fim de garantir a conformidade”, escreveu a empresa.
A Anthropic e o governo Trump também estão envolvidos em um processo separado e em andamento sobre uma ordem para impedir que agências governamentais usem as ferramentas de IA da empresa. A BBC procurou o Departamento de Comércio dos EUA para comentar.
O Claude Fable 5 é uma versão do Claude Mythos, programa da Anthropic que rivaliza com concorrentes como o ChatGPT, da OpenAI, e o Gemini, do Google.
A Anthropic disse que autoridades de segurança nacional dos EUA não identificaram preocupações específicas.
“Nossa compreensão é que o governo acredita ter tomado conhecimento de um método de contornar, ou ‘fazer jailbreak’, do Fable 5”, afirmou a empresa.
Jailbreaking é um processo de burlar restrições de software projetadas para proteger uma rede cibernética, permitindo que hackers acessem informações sensíveis ou desbloqueiem recursos.
“Analisamos uma demonstração dessa técnica específica sendo usada para identificar um pequeno número de vulnerabilidades menores, já conhecidas”, disse a Anthropic. “Essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também conseguem encontrá-las sem exigir um bypass.” Antes do lançamento do Claude Fable 5, a empresa destacou diversas “salvaguardas” que havia implementado para evitar ataques cibernéticos.
Líderes de finanças, tecnologia e governo haviam expressado preocupações com seu lançamento público, após uma liberação privada em abril para pré-visualização e testes de vulnerabilidades dentro do próprio sistema. A Anthropic disse ter concedido acesso antes do lançamento a um pequeno número de organizações porque a ferramenta era tão inteligente que poderia ser perigosa devido à sua capacidade de explorar ou invadir sistemas de computador.
A empresa se autoproclamou “poderosa demais para ser lançada” antes que o Claude Fable 5 fosse disponibilizado publicamente, o que alguns críticos questionaram como exagero e estratégia de marketing. “As capacidades do Fable excedem as de qualquer modelo que já disponibilizamos ao público”, disse a empresa.
A União Europeia, que obteve acesso ao Mythos no início de junho após semanas de negociações, afirmou que o episódio mais recente reforça ainda mais “a necessidade de soberania tecnológica” da Europa.
“Tomamos nota do comunicado da Anthropic e estamos avaliando”, disse Thomas Regnier, porta-voz da Comissão Europeia, que neste mês anunciou medidas para reduzir a dependência do bloco de 27 países em relação à América e à Ásia em tecnologias-chave, incluindo IA.
Gina Neff, professora de IA Responsável na Queen Mary University London, disse à BBC que a decisão de restringir o acesso ao modelo pode limitar o desenvolvimento e os testes seguros desses sistemas de IA.
Ela alertou que isso também pode restringir a colaboração com governos ao redor do mundo.
“Estamos em um território desconhecido neste momento”, disse ela.
“Pessoas dentro da indústria de IA têm nos alertado que essas ferramentas estão melhorando muito rapidamente e que precisamos desenvolver capacidades para manter nossas empresas protegidas contra ataques cibernéticos.
Ela afirmou que, em testes, o Instituto de Segurança em IA do governo do Reino Unido constatou que o modelo conseguia explorar defesas e sistemas em 73% das vezes.
“É uma mudança de patamar em capacidade em cibersegurança”, acrescentou.
A Anthropic tem estado na mira do governo Trump recentemente.
Donald Trump criticou publicamente a empresa, e o então secretário de Defesa dos EUA, Pete Hegseth, a classificou como “risco para a cadeia de suprimentos” — a primeira vez que uma empresa americana recebeu publicamente tal designação.
A designação significa que uma ferramenta ou serviço não é suficientemente seguro para uso pelo governo e, historicamente, é reservada a empresas sediadas em países adversários.
A Anthropic está processando o Pentágono após a designação. Um juiz dos EUA decidiu que a diretriz do Pentágono não poderia ser aplicada, o que significa que agências governamentais e organizações que trabalham com as Forças Armadas dos EUA ainda podem usar a Anthropic enquanto o processo continua.
