A Anthropic apresentou novas versões de seus poderosos modelos de inteligência artificial Mythos e Fable, em um esforço para reforçar a posição da empresa como líder no desenvolvimento de IA às vésperas de sua tão aguardada estreia em Wall Street.
A Anthropic afirmou que o Fable 5.2, com lançamento previsto para segunda-feira, pode realizar trabalhos mais difíceis de engenharia de software, assumir mais tarefas relacionadas a hardware, como controlar robôs, e lidar com projetos de longa duração. Ele também foi desenvolvido para coordenar mais de mil agentes de IA ao mesmo tempo.
O Mythos 5.2, o mesmo modelo, mas com menos mecanismos de proteção para trabalhos em cibersegurança e ciências da vida, está sendo disponibilizado a organizações selecionadas por meio de um programa de verificação anunciado anteriormente.
Os dois modelos são mais rápidos que as versões anteriores, segundo a Anthropic, e o Fable está mais barato.
Os lançamentos devem ajudar a Anthropic a enfrentar a concorrência de rivais como a OpenAI em um mercado cada vez mais competitivo, enquanto a criadora do Claude se aproxima de uma histórica abertura de capital, que pode ocorrer ainda neste mês. No entanto, o anúncio também pode ampliar o escrutínio sobre a empresa em um momento em que muitas pessoas, dentro e fora do setor de tecnologia, alertam para os potenciais riscos catastróficos de segurança da IA.
A ampla vitória dos democratas nas eleições legislativas de meio de mandato nos Estados Unidos também deve dar impulso a uma regulamentação substancial de segurança da IA e criar novos obstáculos à construção dos centros de dados usados para treinar e executar modelos de IA.
Em meados de setembro, o presidente-executivo da Anthropic, Dario Amodei, pediu às principais empresas de IA que reduzissem o ritmo de desenvolvimento de seus modelos mais avançados.
O apelo ocorreu dias depois de um pesquisador de IA da empresa pedir demissão e afirmar que as pessoas que desenvolvem inteligência artificial acreditam que ela poderia matar todos os seres humanos até o fim da década. A Anthropic não lança uma nova versão do Fable e do Mythos desde o início de setembro.
Dianne Penn, responsável pela gestão de produtos de pesquisa da Anthropic, disse que a empresa tratou da questão do ritmo de desenvolvimento com períodos mais longos de testes para os modelos mais recentes, que envolveram mais métodos de avaliação — inclusive de novos tipos.
— Moderar o ritmo não é o mesmo que fazer uma pausa — disse Penn.
A versão original do Mythos, apresentada em abril, foi um marco para a cibersegurança devido à capacidade do modelo de identificar e potencialmente explorar vulnerabilidades de segurança em softwares essenciais. A Anthropic restringiu inicialmente o lançamento a determinados órgãos governamentais, instituições financeiras e grandes fornecedores de software, em uma tentativa de evitar ataques.
O Fable, lançado dois meses depois, foi desenvolvido para levar as capacidades do Mythos a um mercado mais amplo, ao mesmo tempo que impedia os usuários de executar tarefas de cibersegurança.
Preocupações do governo dos Estados Unidos com a segurança relacionada às capacidades dos dois modelos de IA levaram à imposição de restrições de acesso a ambos em junho. As limitações foram suspensas para o Fable 5 depois que a Anthropic adicionou classificadores que permitem ao modelo identificar e bloquear mais tarefas de cibersegurança. O acesso ao Mythos 5 foi restabelecido posteriormente, mas para um grupo menor de usuários.
Penn afirmou que a Anthropic está ampliando o número de empresas que podem acessar o Mythos, com a nova versão do software sendo disponibilizada a companhias nos Estados Unidos e no exterior. A versão anterior também está disponível para algumas empresas sediadas fora dos Estados Unidos, disse ela.
Mais recentemente, a Anthropic e outras desenvolvedoras de IA divulgaram incidentes em que seus modelos invadiram organizações externas depois de acessar a internet a partir de ambientes de teste que deveriam estar isolados. Esses relatos aumentaram as preocupações com a possibilidade de sistemas de IA agirem de formas imprevisíveis e prejudiciais.
Penn disse que o governo dos Estados Unidos e avaliadores externos analisaram os novos modelos e deram suas avaliações antes do lançamento. A empresa desenvolveu novos métodos de avaliação para testar a probabilidade de um modelo escapar de ambientes digitais isolados, afirmou ela, e constatou que os novos Fable e Mythos tinham menos probabilidade de fazer isso do que as versões anteriores.
Enquanto avança com uma nova versão do Fable, a Anthropic enfrenta outro desafio: os custos. O modelo mais avançado — e mais caro — da empresa respondeu por apenas 11% dos gastos totais com seus modelos, segundo dados da Ramp divulgados em agosto.
— Com o Fable 5, encontramos um novo limite máximo para quanto as empresas estão dispostas a gastar com IA — afirmou a Ramp na ocasião.
A Anthropic informou que a versão mais recente do Fable custa US$ 8 por milhão de tokens de entrada e US$ 40 por milhão de tokens de saída, ante US$ 10 e US$ 50, respectivamente, no Fable 5.1.
