No fim da semana passada, a Anthropic tirou do ar seus novos modelos de IA Claude Fable 5 e Mythos 5 após uma diretriz do governo dos Estados Unidos, baseada em controle de exportações, que proíbe “qualquer cidadão estrangeiro” de usar os serviços. A empresa está em conversas com a Casa Branca desde sexta-feira, mas ainda não conseguiu um acordo que permita restabelecer as ofertas.
Desde que o Mythos estreou em abril, a Anthropic afirmou — e alertou — que o modelo tem capacidades avançadas não só para encontrar vulnerabilidades de software (ajudando defensores a corrigi-las), mas também para identificar maneiras de explorá-las, algo que poderia ser usado por agentes mal-intencionados. A própria Anthropic destacou esse “gume duplo” no lançamento do Mythos 5 e do Claude Fable 5. “Uma grande parte do uso avançado de modelos de IA é de dupla utilização: as mesmas consultas que são benéficas nas mãos de profissionais de cibersegurança e pesquisadores de biologia podem ser perigosas se estiverem disponíveis para atores maliciosos”, escreveu a empresa em um post no blog na semana passada.
Com isso em mente, a empresa inicialmente liberou uma versão chamada Mythos Preview para um consórcio selecionado, como parte de um grupo de trabalho conhecido como Project Glasswing. O Mythos 5 também foi disponibilizado de forma privada para esse grupo na semana passada, enquanto o Claude Fable 5 — que é um modelo “nível Mythos” — foi lançado ao público em geral com bloqueios específicos que limitam sua capacidade de responder a perguntas sobre biologia e cibersegurança.
Então, no fim da semana passada, o governo Trump se moveu para restringir ambos os modelos porque acredita que as “barreiras de segurança” do Fable 5 podem ser desativadas, permitindo acesso total às capacidades do Mythos 5 — o que, segundo a alegação, configuraria um risco à segurança nacional.
Especialistas dizem, porém, que esse choque institucional apenas adia ou encobre uma verdade dura: a Anthropic pode estar na ponta da lança neste momento, mas as capacidades de IA em geral — e modelos de várias empresas e desenvolvedores de pesos abertos — quase certamente terão capacidades semelhantes às do Mythos 5 em um futuro próximo (se já não tiverem).
“É uma miopia extrema achar que nenhum outro concorrente da Anthropic vai desenvolver capacidades semelhantes às do Mythos — ou mesmo que já não as tenha desenvolvido”, diz Tarah Wheeler, chief security officer da consultoria especializada em cibersegurança TPO Group. “Há outras empresas logo atrás da Anthropic que provavelmente também têm essas capacidades e as estão mantendo em reserva enquanto observam como a Anthropic está sendo tratada no atual ambiente regulatório.”
A própria Anthropic enfatiza esse ponto desde o lançamento do Mythos Preview. “A mensagem real é que isto não é sobre o modelo ou sobre a Anthropic”, disse Logan Graham, líder de frontier red team da empresa, à WIRED quando o Mythos Preview foi lançado em abril. “Precisamos nos preparar agora para um mundo em que essas capacidades estejam amplamente disponíveis em 6, 12, 24 meses.”
A OpenAI, por exemplo, também fez um lançamento privado de um modelo focado em cibersegurança em meados de abril e anunciou uma estratégia ampliada para cibersegurança.
Pesquisadores observam que, mesmo antes dessa próxima geração de modelos, ofertas atuais de IA já poderiam ser usadas para caça avançada de vulnerabilidades e desenvolvimento de exploits com um “arnês” mais refinado. Um grande grupo de líderes de cibersegurança reforçou isso ao governo em uma carta aberta no domingo, argumentando que a diretriz de controle de exportações da Casa Branca foi equivocada.
“Não é um modelo; é a tendência geral da tecnologia”, diz Bruce Schneier, pesquisador da Universidade Harvard e da Universidade de Toronto, que vem analisando a situação. “Modelos menores, mais baratos e de código aberto, às vezes sozinhos e às vezes em conjunto, podem igualar o desempenho de Mythos/Fable com prompts mais sofisticados. E devemos esperar que outros modelos alcancem a criatividade e a tenacidade de Mythos/Fable em questão de meses — um pouco mais para modelos de código aberto.”
O que a Casa Branca e governos ao redor do mundo precisam fazer, dizem especialistas, é desenvolver de forma democrática planos muito mais amplos, transparentes e consistentes sobre como lidarão com avanços inevitáveis nas capacidades da IA em cibersegurança e em outras áreas sensíveis.
“A questão de política pública não é se uma tecnologia tem risco”, diz Chris Wysopal, cofundador da empresa de segurança em nuvem Veracode. “A questão é se uma restrição específica reduz esse risco de forma significativa ou se, na prática, apenas desacelera as pessoas que tentam tornar os sistemas mais seguros.”
https://www.wired.com/story/dangerous-ai-models-are-coming-no-matter-what
