A Anthropic alertou que “worms” de inteligência artificial (softwares maliciosos dotados de IA que se autorreplicam) fora de controle em breve poderão sequestrar dispositivos domésticos inteligentes, como fornos e TVs, criando uma nova ameaça à segurança cibernética que será difícil de conter.
A empresa, comandada por Dario Amodei, informou em seu blog na segunda-feira (12) que agentes de IA podem estar a apenas alguns meses de conseguir se “autorreplicar” em dispositivos domésticos de uso cotidiano, criando redes potencialmente incontroláveis de agentes de IA.
O alerta da Anthropic é o mais recente de uma série de advertências sobre segurança cibernética feitas por pesquisadores de IA conforme as capacidades desses sistemas aumentam e os modelos se tornam mais difíceis de controlar.
A empresa, sediada em São Francisco, afirmou que, se os modelos de IA continuarem evoluindo no ritmo atual, a tecnologia será capaz de se disseminar pela internet como os “worms” de computador – softwares maliciosos que se propagam automaticamente de um dispositivo para outro, sem intervenção humana.
“Estamos vendo sinais de vida de worms de IA”, afirmou a Anthropic em uma publicação de pesquisa, comparando sua lenta disseminação por dispositivos vulneráveis a um “bolor limoso digital”.
O alerta sugere que o tipo de ataque que surpreendeu os pesquisadores que investigaram a invasão da Hugging Face por “enxames” de agentes da OpenAI, em julho, poderá ser lançado contra dispositivos pertencentes a proprietários de residências e empresas que sequer suspeitam da ameaça. O alerta mais recente da Anthropic se refere aos chamados dispositivos da “internet das coisas” (IoT, na sigla em inglês), que se disseminaram na última década, à medida que os consumidores passaram a utilizar aparelhos para controlar luzes, tomadas, termostatos e sistemas de segurança.
Historicamente, muitos desses dispositivos conectados à internet ofereceram níveis precários de segurança, seja porque eram fabricados a baixo custo por fabricantes de equipamentos eletrônicos genéricos, porque eram utilizados para a transmissão ilegal de serviços de TV ou porque as empresas que os desenvolveram originalmente encerraram suas atividades.
Esses equipamentos vulneráveis criam um terreno fértil para hackers, que já estão aproveitando a capacidade de programação da IA para acelerar e personalizar seus ataques.
Os worms são há muito uma forma popular e eficaz de os hackers disseminarem softwares maliciosos, pois conseguem se replicar e se espalhar rapidamente por grandes redes.
Entre os exemplos mais conhecidos estão o vírus ILOVEYOU, que se disseminou por computadores com Windows no início da era das empresas pontocom [no ano 200]; o Stuxnet, na década de 2010, que inicialmente tinha como alvo o programa nuclear do Irã; e o ransomware [software usado para invadir sistemas em troca de dinheiro] WannaCry, que se espalhou amplamente e atingiu organizações como a Deutsche Bahn, o Serviço Nacional de Saúde do Reino Unido (NHS), a Telefónica, a Renault e a FedEx.
Os worms alimentados por IA combinariam a capacidade desses exemplos de se disseminar pela internet com os recursos avançados dos modelos de inteligência artificial.
“Esperamos um futuro repleto de agentes operando em todos os tipos de hardware, inclusive em alguns que não estarão sob controle humano”, afirmou a Anthropic. “Embora seja verdade que os dispositivos de IoT sejam vulneráveis há muito tempo, agentes podem estar muito mais dispostos do que humanos a investir o esforço necessário para comprometer grandes parcelas da capacidade computacional de dispositivos de IoT em todo o mundo.”
Inicialmente, esses “worms” de IA se propagariam lentamente, de maneira semelhante a “um bolor limoso ou um enxame de moscas-das-frutas, que se reproduzem ao longo de vários dias”. Mas esse processo poderá se acelerar à medida que os eletrônicos de consumo se tornarem mais sofisticados e os modelos, mais eficientes.
“Ainda não temos um replicador autônomo fora de controle plenamente desenvolvido, mas os agentes estão se tornando cada vez mais capazes de executar as etapas individuais da cadeia de replicação”, afirmou a Anthropic. “Devemos nos empenhar em reforçar a segurança de nossos sistemas para dificultar a disseminação desses replicadores, mas também nos preparar para lidar com um mundo em que eles vieram para ficar.” (Tradução de Marina Della Valle)
