Modelos de IA poderão em breve se ‘autorreplicar’ sem acesso a centros de dados, alerta Anthropic
A Anthropic afirmou, na segunda-feira (12), que seus experimentos sugerem que pequenos modelos de inteligência artificial podem estar a poucos meses de alcançar capacidade suficiente para se “autorreplicar” em dispositivos comerciais, como fornos “inteligentes” e televisões integradas ao sistema Android de marcas pouco conhecidas.
Em seus experimentos, a Anthropic investigou se modelos de IA seriam capazes de encontrar dispositivos vulneráveis, copiar a si mesmos para esses aparelhos e continuar se espalhando sem ajuda humana.
A empresa constatou que modelos pequenos, com menos de 30 bilhões de parâmetros, conseguiam executar as diversas etapas necessárias para a replicação.
No entanto, a companhia também verificou que esses modelos de IA tinham dificuldades para concluir toda a sequência de etapas, do início ao fim.
Em testes simplificados, nos quais algumas etapas de segurança foram removidas, a Anthropic constatou que o GLM-5.2 e modelos mais avançados eram capazes de realizar todo o processo de replicação de ponta a ponta.
Modelos capazes de se replicar seriam difíceis de desativar, já que não existe um ponto central de desligamento. Além disso, diferentemente de softwares maliciosos convencionais, eles poderiam identificar e compreender dispositivos desconhecidos por conta própria, tendo como alvo processadores de centros de dados, alertou a Anthropic.
A empresa concentrou sua pesquisa em dispositivos da chamada “internet das coisas”, tecnologia que conecta objetos físicos à rede de internet, como TVs com Android, eletrodomésticos e outros aparelhos conectados à internet, porque esses equipamentos geralmente apresentam sistemas de segurança frágeis.
A gigante de IA também alertou que, se os modelos pequenos continuarem evoluindo no ritmo histórico, poderão se replicar de forma autônoma até o fim deste ano. Modelos pequenos capazes de se replicar por meio da transferência de seus próprios pesos deverão alcançar essa capacidade pouco depois.
A Anthropic afirmou ainda que esses sistemas autônomos de IA provavelmente se replicariam lentamente e dependeriam de recursos computacionais amplamente disponíveis e relativamente pouco seguros.
A companhia acrescentou que os sistemas devem ter sua segurança reforçada para dificultar a disseminação desses agentes de IA.
