O modelo de IA da CulturePulse promete criar uma simulação virtual realista de Israel e dos territórios palestinos. Mas não se assuste: isso já foi testado em outras zonas de conflito.
Treinar modelos de inteligência artificial normalmente não envolve ficar cara a cara com um soldado armado apontando uma arma para você e gritando para o motorista sair do carro. Mas o sistema que F. LeRon Shults e Justin Lane, cofundadores da CulturePulse, estão desenvolvendo para as Nações Unidas não é um modelo de IA típico.
“Fui parado pelos militares [israelenses], por um cara segurando [um fuzil militar] porque tínhamos um motorista de táxi palestino que ultrapassou uma linha que ele não deveria”, diz Shults à WIRED. “Então, foi uma aventura.”
Shults e Lane estavam na Cisjordânia em setembro, apenas algumas semanas antes de Hamas atacar Israel em 7 de outubro, desencadeando o que se tornou um dos piores períodos de violência na região em pelo menos 50 anos.
Shults e Lane, ambos americanos que agora estão baseados na Europa, estavam no local como parte de um contrato que assinaram com a ONU em agosto para desenvolver um modelo de IA inédito que esperam ajudar a analisar soluções para o conflito entre Israel e Palestina.
Shults e Lane estão cientes de que afirmar que a IA poderia “resolver a crise” entre israelenses e palestinos provavelmente resultaria em muito ceticismo, senão hostilidade direta, especialmente diante das cenas horríveis que surgem diariamente em Gaza. Por isso, eles são rápidos em esclarecer que não é isso que estão tentando fazer.
“Francamente, se eu fosse expressar dessa forma, eu também ficaria cético”, diz Shults. “A chave é que o modelo não foi projetado para resolver a situação; é para entender, analisar e obter insights para implementar políticas e estratégias de comunicação.”
O conflito na região tem séculos de idade e é profundamente complexo, tornando-se ainda mais complicado pela crise atual. Inúmeros esforços para encontrar uma solução política fracassaram, e qualquer eventual fim da crise precisará do apoio não apenas das duas partes envolvidas, mas provavelmente da comunidade internacional mais ampla. Tudo isso torna impossível que um sistema de IA simplesmente forneça uma solução completamente formada. Em vez disso, o CulturePulse busca identificar as causas subjacentes do conflito.
“Sabemos que não se pode resolver um problema tão complexo com um único sistema de IA. Isso nunca será viável, na minha opinião”, diz Lane à WIRED. “O que é viável é usar um sistema de IA inteligente – usando um gêmeo digital de um conflito – para explorar as soluções potenciais que estão lá.”
O gêmeo digital ao qual Lane se refere é o modelo de IA multiagente do CulturePulse que eles estão construindo, o qual, em última instância, lhes permitirá criar uma versão virtual da região. Em iterações anteriores, o modelo replicou virtualmente cada pessoa, dotando-as de características demográficas, crenças religiosas e valores morais que ecoam seus equivalentes do mundo real, de acordo com Shults e Lane.
No total, os modelos da CulturePulse podem considerar mais de 80 categorias para cada “agente”, incluindo traços como raiva, ansiedade, personalidade, moralidade, família, amigos, finanças, inclusão, racismo e discurso de ódio, embora nem todas as características sejam utilizadas em todos os modelos.
“Esses modelos são sociedades artificiais completas, com milhares ou milhões de agentes simulados adaptativos e artificialmente inteligentes, que estão interconectados entre si, e são projetados de uma maneira mais psicologicamente realista e sociologicamente realista”, diz Shults. “Basicamente, você tem um laboratório, um laboratório artificial, com o qual você pode brincar no seu PC de maneiras que você nunca poderia fazer eticamente, com certeza, no mundo real.”
O projeto atual inicialmente modelará os aspectos socioecológicos da região israelense-palestina que são relevantes para o conflito, o que significa que é menor em escala do que alguns dos projetos anteriores. No entanto, caso o projeto seja expandido no futuro, um modelo poderia permitir que a ONU visse como a sociedade virtual reagiria a mudanças na prosperidade econômica, segurança aumentada, influências políticas em mutação e uma variedade de outros parâmetros. Shults e Lane afirmam que seu modelo prevê resultados com precisão clínica de mais de 95% de confiança em relação aos resultados do mundo real.
“Vai além de apenas aprender aleatoriamente e encontrar padrões como aprendizado de máquina, e vai além das estatísticas, que fornecem correlações”, diz Shults. “Na verdade, chega a uma causalidade, devido ao sistema de IA multiagente que desenvolve o conflito, a polarização ou a política de imigração pacífica a partir do zero. Portanto, mostra o que você deseja criar antes de experimentar no mundo real.”
As discussões em torno da IA e da guerra entre Israel e Hamas até agora têm se concentrado na ameaça representada pela IA generativa para disseminar desinformação. Embora essas ameaças ainda não tenham se concretizado, os ciclos de notícias têm sido obscurecidos pela desinformação e informações incorretas compartilhadas por todos os lados. Em vez de tentar eliminar esse elemento disruptivo, o modelo da CulturePulse tem considerado esse tipo de informação diretamente em sua análise.
“Na verdade, queremos deliberadamente garantir que esses materiais tendenciosos sejam incluídos nesses modelos. Eles apenas precisam ser inseridos no modelo de uma maneira psicologicamente real”, diz Lane.
Os massacres horríveis e as crises humanitárias ocorrendo em Israel e Gaza ao longo do último mês destacaram a necessidade urgente de uma solução para o conflito profundamente enraizado. Mas antes do último surto de violência na região, o Programa de Desenvolvimento das Nações Unidas (UNDP) já estava explorando novas opções na tentativa de encontrar uma solução, assinando um contrato inicial de cinco meses com a CulturePulse em agosto.
A aplicação de tecnologias de inteligência artificial a situações de conflito existe desde pelo menos 1996, com o uso de aprendizado de máquina para prever onde os conflitos podem ocorrer. O uso da IA nessa área tem se expandido ao longo dos anos, sendo utilizada para melhorar logística, treinamento e outros aspectos das missões de paz. Lane e Shults acreditam que poderiam usar a inteligência artificial para investigar mais a fundo e encontrar as causas raiz dos conflitos.
A ideia de um programa de IA que modele os sistemas de crenças que impulsionam o comportamento humano surgiu quando Lane se mudou para a Irlanda do Norte há uma década para estudar se a modelagem computacional e a cognição poderiam ser usadas para entender questões relacionadas à violência religiosa.
Em Belfast, Lane descobriu que, ao modelar aspectos da identidade e coesão social, e identificar os fatores que motivam as pessoas a lutar e morrer por uma causa específica, ele poderia prever com precisão o que aconteceria em seguida.
“Nós nos propusemos a tentar criar algo que pudesse nos ajudar a entender melhor o que há na natureza humana que às vezes resulta em conflito, e então como podemos usar essa ferramenta para obter uma compreensão melhor dessas questões mais profundas e psicológicas em escalas realmente grandes”, diz Lane.
O resultado de seu trabalho foi um estudo publicado em 2018 no The Journal for Artificial Societies and Social Simulation, que descobriu que as pessoas são tipicamente pacíficas, mas se envolverão em violência quando um grupo externo ameaçar os princípios fundamentais de sua identidade religiosa.
Um ano depois, Lane escreveu que o modelo que ele havia desenvolvido previa que as medidas introduzidas pelo Brexit – a saída do Reino Unido da União Europeia que incluía a introdução de uma fronteira rígida no Mar da Irlanda entre a Irlanda do Norte e o resto do Reino Unido – resultariam em um aumento da atividade paramilitar. Meses depois, o modelo foi comprovado corretamente.
O modelo de múltiplos agentes desenvolvido por Lane e Shults se baseou em destilar mais de 50 milhões de artigos do GDelt, um projeto que monitora “notícias transmitidas, impressas e da web de quase todos os cantos de todos os países em mais de 100 idiomas”. Mas alimentar a IA com milhões de artigos e documentos não foi suficiente, os pesquisadores perceberam. Para entender completamente o que estava levando as pessoas da Irlanda do Norte a se envolverem em violência contra seus vizinhos, eles precisariam conduzir sua própria pesquisa.
Lane passou meses encontrando e conversando com aqueles diretamente envolvidos na violência, como membros do Ulster Volunteer Force (UVF), um grupo paramilitar leal à coroa britânica, e o Exército Republicano Irlandês (IRA), um grupo paramilitar que busca o fim do domínio britânico na ilha da Irlanda. As informações que Lane coletou nessas entrevistas foram inseridas em seu modelo para obter uma compreensão mais completa da psicologia por trás da violência que assolou o país por três décadas.
Embora Lane esteja atualmente sediado na Eslováquia, ele mantém os contatos que estabeleceu enquanto estava na Irlanda do Norte, retornando pelo menos uma vez por ano para conversar novamente com as pessoas e atualizar seu modelo com as informações mais recentes. Se durante essas conversas Lane ouvir sobre um problema específico ou um motivo pelo qual alguém tomou uma ação específica que não está presente no modelo de IA, a equipe verificará se há dados laboratoriais para respaldá-lo antes de inseri-lo em seu modelo.
“E se os dados não existirem, sairemos e faremos nossas próprias experimentações com universidades para ver se há evidências, e então incorporaremos isso em nosso projeto”, diz Lane.
Nos últimos anos, Lane e Shults têm trabalhado com diversos grupos e governos para aplicar seu modelo e melhor compreender situações ao redor do mundo, incluindo os conflitos no Sudão do Sul e nos Bálcãs. O modelo também foi utilizado na Crise dos Refugiados Sírios, onde Lane e Shults viajaram para a ilha grega de Lesbos para coletar informações em primeira mão e ajudar seu sistema a integrar refugiados a famílias anfitriãs. A CulturePulse também trabalhou com o governo norueguês para combater a disseminação de desinformação sobre a Covid-19, buscando compreender melhor os motivos pelos quais alguém compartilha informações imprecisas.
A coleta de informações em primeira mão sobre o que está acontecendo no terreno é fundamental para o sucesso de todos esses esforços. Portanto, quando assinaram o contrato com o PNUD em agosto, a primeira coisa que Shults e Lane queriam fazer era visitar Israel e a Cisjordânia, onde passaram “cerca de uma semana” coletando dados. “Nos encontramos com a ONU e diferentes ONGs, fomos até as vilas, vimos em primeira mão como são as dinâmicas dos colonos”, diz Shults. O objetivo era ir até Gaza, mas não conseguiram obter permissão antecipadamente. A viagem a Israel também incluiu conversas com seus empregadores para descobrir exatamente o que eles esperam obter com esse projeto.
“Passamos uma semana inteira extraindo das autoridades da ONU que encontramos informações relevantes, que precisamos saber para o modelo, obtendo uma noção de sua compreensão das dinâmicas, dos dados que eles podem ter e que podem informar a calibração e a validação final do modelo”, diz Shults.
Shults não discutiu os parâmetros detalhados que a ONU especificou para serem incorporados ao modelo, mas sua equipe fornece atualizações regulares para a equipe da ONU por meio do Zoom sobre a construção do modelo e “os experimentos de simulação que estão sendo realizados para testar as condições e mecanismos que podem levar aos resultados desejados”, diz ele.
O PNUD ainda não respondeu ao pedido de comentário da WIRED.
O contrato da CulturePulse com o PNUD se encerra em janeiro, mas eles têm esperança de assinar um contrato de segunda fase que permita a construção de um modelo totalmente funcional. Neste mês, a CulturePulse também assinou um contrato de nove meses com o PNUD para trabalhar em um sistema que ajudaria a resolver questões culturais e religiosas ainda causando conflitos na Bósnia e Herzegovina desde o fim da Guerra da Bósnia em 1995.
A razão pela qual a ONU está recorrendo à inteligência artificial no conflito israelense-palestino, segundo Lane, é que simplesmente não há mais opções óbvias. “A forma como a ONU nos colocou foi que não há mais frutas ao alcance das mãos nessa situação”, diz Lane. “Eles precisavam tentar algo novo e inovador, algo que realmente pensasse fora da caixa, mas ainda abordasse as questões fundamentais do problema”
