Financial Times; Dois tópicos dominaram a reunião anual do Fórum Econômico Mundial em Davos, na semana passada: Donald Trump e a Inteligência Artificial (IA). Dos dois, o último foi o mais interessante e quase certamente o mais significativo. Na discussão, dedicou-se muita atenção à DeepSeek, a recém-surgida surpresa chinesa. Contudo, o que aprendemos é apenas que o conhecimento se propaga: nenhum país vai monopolizar essas novas tecnologias. Isso surpreende os mercados. Com as novas tecnologias, tais “surpresas” não são surpreendentes. Mas isso não muda a grande questão, que é o que o avanço da inteligência de máquina significa para todos nós.
Os humanos são seres sociais e inteligentes. Essa combinação é seu “aplicativo matador”. Ela lhes permitiu dominar o planeta. A inteligência humana inventou as tecnologias de propósito geral que moldaram o mundo, desde a domesticação do fogo até a criação dos computadores. Mas com computadores que pensam isso pode mudar. Blaise Pascal, o matemático e filósofo francês do século 17, disse que “o homem é apenas um caniço, o mais fraco da natureza, mas é um caniço pensante”. Essa singularidade está chegando ao fim?
Em Davos, participei de duas discussões fascinantes sobre os benefícios e os riscos dos avanços na IA. Uma foi uma entrevista deDemis Hassabis, cofundador da Google DeepMind e ganhador do Prêmio Nobel de Química, concedida a Roula Khalaf, editora do Financial Times. A outra foi uma entrevista de Dario Amodei, fundador e CEO da Anthropic e autor de “Machines of Loving Grace”, a Zanny Minton Beddoes, editora da The Economist.
A entrevista com Hassabis sublinhou os avanços recentes na nossa capacidade de fazer análises científicas, em especial na área da biologia. Ele disse que mais de 2 milhões de pesquisadores usam o AlphaFold, o programa desenvolvido pela DeepMind. “Nós catalogamos todas as proteínas conhecidas pela ciência, todas as 200 milhões… [A] regra geral é que um aluno de doutorado demora todo o seu doutorado para descobrir a estrutura de uma proteína.
Portanto, descobrir as de 200 milhões teria levado um bilhão de anos de tempo de doutorado. E nós simplesmente demos tudo isso ao mundo, de graça”. Segundo Hassabis, isso é a “ciência em velocidade digital”. A possibilidade que se abre diante de nós, então, é de uma aceleração enorme no avanço da medicina. De fato, podemos ter os próximos 50 a 100 anos de progresso normal em 5 a 10 anos. Amodei argumentou que, de modo geral, podemos imaginar a IA como “um país de gênios em um data center”, um país que agora os chineses podem ter tornado ainda mais barato do que era.
Mas esses são gênios de verdade? Meu teste seria verificar se, dado o conhecimento de toda a física até 1906, mas nada depois dessa data, a IA seria capaz de produzir a teoria geral da relatividade de Einstein.Parece plausível supor que o impacto dessa tamanha capacidade de resolução de problemas, seja no nível de “gênio” ou não, deva ser algo extraordinário. Ela poderia, entre outras coisas, acelerar os avanços no conhecimento e, portanto, o crescimento da produtividade e a disseminação da prosperidade. Ambos são desejáveis.
Nas últimas décadas, os aumentos na “produtividade total dos fatores” – a melhor medida de progresso técnico – têm sido modestos. Além disso, um número enorme de pessoas ainda vive em condições de extrema pobreza e, de maneira deprimente, o progresso desacelerou.
Mas também é evidente que o progresso acelerado pode igualmente criar dificuldades. A estrutura do mercado de trabalho, por exemplo, pode mudar de maneira massiva, neste caso com uma forte queda na demanda por trabalhadores que têm como qualificação uma inteligência treinada, mas em grande parte em tarefas de rotina. As previsões sobre esses tipos de efeitos variam.
Um artigo de 2023 de Erik Brynjolfsson e Gabriel Unger observa que, da mesma forma como tem ocorrido durante toda a revolução dos computadores, os efeitos na produtividade podem ser modestos. Esta vez, porém, pode muito bem ser diferente, com uma disparada na produtividade, mas acompanhada de mudanças econômicas e sociais grandes e desestabilizadoras na mesma proporção. De novo, a depender de como a sociedade responda, a IA bem-sucedida pode levar ao “tecnofeudalismo”, com concentrações de riqueza ainda maiores.
A invenção de um número imenso de novos tratamentos médicos pode elevar muito os custos da assistência de saúde e também os custos de lidar com vidas muito mais longas, mesmo que, no geral, sejam mais saudáveis. As pessoas estão prontas para viver ao lado de seus tataravós? Assim, coisas que aparentam ser boas podem criar desafios reais.
Para além disso, o desenvolvimento da IA imaginada cria grandes riscos. Como controlar seu uso por agentes mal intencionados, como Estados hostis, terroristas e assassinos em massa? Que julgamentos morais se permitirá que a IA faça em uma guerra? Como controlar o uso da inteligência artificial na vigilância? O “big brother” estará nos observando para todo o sempre? De novo, o que faremos sobre a fabricação de falsificações e fake news? Como a liberdade sobrevive a todas essas ameaças? Hassabis deixa claro que precisamos de limites mundiais efetivos para o uso da IA.
Em uma época de rompimento da cooperação internacional e desprezo pela própria ideia de uma “ordem internacional baseada em regras”, a China e os EUA trabalharão juntos para tornar a inteligência artificial segura? Não parece nada provável, em especial porque eles têm visões diferentes sobre como essas tecnologias devem ser usadas.
Lá atrás, em 2015, escrevi um artigo, cético na maior parte, sobre o provável (modesto) impacto das novas tecnologias na produtividade.
Os próximos anos podem finalmente provar que estou errado. Mas também notei que se, em vez disso, estivéssemos nos aproximando da “singularidade” tecnológica – uma inteligência artificial superior a toda a inteligência humana – tudo precisaria mudar.
Uma das grandes ideias da série de Frank Herbert é que no passado distante (nosso futuro) a humanidade travou uma jihad bem-sucedida contra máquinas que pensam. A partir de então, os seres humanos tiveram de se tornar super-humanos. Um dos personagem principais explica que “os seres humanos tinham ajustado essas máquinas para usurpar nosso senso de beleza, nossa necessária individualidade, a partir da qual fazemos julgamentos ativos. Naturalmente, as máquinas foram destruídas”.
Essa preocupação pode se mostrar sensata. Mas eu sou realista: a IA saiu da caixa de Pandora.
Martin Wolf é o principal comentarista econômico do Financial Times.
https://valor.globo.com/opiniao/coluna/como-viver-com-maquinas-que-pensam.ghtml
