Em meados dos anos 1960, o matemático e criptógrafo de Bletchley Park, na Inglaterra, I. J. Good, propôs um experimento mental que desde então se tornou praticamente um evangelho do Vale do Silício. Se conseguíssemos construir uma “máquina ultrainteligente”, argumentou, ela seria capaz de construir máquinas ainda melhores, desencadeando uma explosão de inteligência que deixaria a cognição humana muito para trás. A primeira máquina como essa, portanto, seria “a última invenção que homem precisaria fazer”.
Hoje, essa profecia, outrora assunto de ficção científica, se tornou o objetivo central das mais poderosas instituições do mundo. Demis Hassabis, do Google DeepMind, por exemplo, fala em “solucionar a inteligência”‘ de forma a “solucionar todo o resto”. É uma história que seduz. No entanto, mesmo se presumirmos, para fins de argumentação, que sistemas futuros sejam capazes de aprender, fazer experimentos e gerar verdadeiramente soluções inovadoras que estejam muito além dos modelos de hoje, a tese se baseia em inúmeras suposições questionáveis.
A primeira é que a inovação se parece ao sprint de uma corrida livre de atritos, da ideia inicial ao impacto final. Em vez disso, o processo de descoberta é mais como uma corrente, tão forte quanto seu elo mais fraco.
São esses elos fracos os que definem grande parte do progresso humano. Em 1986, o ônibus espacial Challenger se desintegrou 73 segundos após o lançamento, não por uma falha em seus motores ou softwares de ponta, mas porque uma pequena borracha de selamento não funcionou quando sujeitada ao frio das temperaturas atmosféricas (como Richard Feynman, um físico vencedor do Nobel, expôs brilhantemente em audiências sobre o desastre). Desde então, o anel de borracha “O-ring” tornou-se uma metáfora para todos os tipos de gargalos de importância crítica capazes de fazer naufragar até os mais avançados dos sistemas.
É dessa forma que a descoberta funciona. A inteligência geral artificial (IAG), em termos gerais entendida como um modelo capaz de executar quaisquer tarefas cognitivas, poderia acelerar drasticamente as pesquisas médicas em estágio inicial, mas se não conseguir conduzir ensaios clínicos, produzir em grande escala ou obter aprovação regulatória, o “grande avanço” nunca se tornará uma invenção que vai melhorar nossas vidas. Quando os estágios iniciais da descoberta são automatizados, o papel humano não desaparece; ele simplesmente migra para os gargalos que ainda restam, nos quais o poder de juízo, o conhecimento tácito e o know-how prático são o que importam.
Essa complexidade nos leva a uma ainda maior: a lAG não apenas precisaria superar os humanos; precisaria superar os humanos usando a própria IAG. Para que a narrativa da “última invenção” se sustente, as pessoas teriam que se tornar desnecessárias.
No entanto, a inteligência não é uma quantidade: “mais” não substitui simplesmente “menos”. Mesmo uma IAG altamente capaz poderia ser de um tipo diferente da humana: excepcional na velocidade e identificação de padrões, mas frágil quando confrontada com casos raros. Forças diferentes implicam pontos cegos diferentes, e quando estes não estão sobrepostos, combinar o juízo humano e o da máquina continuará superando qualquer um deles que trabalhe de forma isolada.
O jogo de Go oferece um lembrete útil. Depois que o AlphaGo, da Google DeepMind, derrotou Lee Sedol por 4 a 1 em 2016, sua superioridade sobre os jogadores humanos parecia definitiva. No entanto, em 2023, pesquisadores mostraram que, guiando os melhores programas até posições incomuns, fora de seu treinamento, um amador humano com habilidades computacionais modestas seria capaz de derrotar de forma consistente os melhores programas. A aparente supremacia ainda pode esconder fragilidades sistemáticas, e é nesse ponto que a contribuição humana agrega mais valor.
Um terceiro problema se refere ao conhecimento em si. A tese da última invenção presume que toda informação relevante pode ser codificada, mas normalmente esse não é o caso. Poucas invenções mudaram o mundo mais do que o Ford Modelo T, que transformou o automóvel em um produto de massa. No entanto, o feito de Henry Ford não residia apenas em um novo design. Mais importante foi sua abordagem na organização da produção. O know-how crucial não podia ser adquirido a partir de qualquer projeto. Ele estava incorporado em rotinas, sequenciamento, ferramentas e na resolução de problemas do dia a dia por aqueles no chão de fábrica. De forma similar, o sistema enxuto de produção da Toyota era difícil de replicar, porque está incorporado em rotinas humanas e na cultura, não em um esquema.
Contar com mais inteligência não supera automaticamente o “problema do conhecimento”‘ – o fato de que o que faz os sistemas complexos funcionarem é a informação dispersa e local, frequentemente não verbalizada. Se o conhecimento fosse fluidamente portátil, as empresas de um mesmo setor não se aglomerariam de forma tão intensa, como no Vale do Silício ou na City de Londres.
Em última análise, a IAG pode ser perfeitamente capaz de automatizar a inteligência. No entanto, o processo de invenção depende de algo a mais. Frequentemente, a parte difícil não é idealizar uma solução, mas, sim, traduzi-la na prática. Você precisa de know-how local, rotinas confiáveis, cadeias de suprimentos e capacidade institucional para fazer algo funcionar de forma confiável no mundo real.
AIAG mudará as descobertas, ao tornar o conhecimento especializado mais barato e a experimentação mais rápida. No entanto, “a última invenção da humanidade” é uma reivindicação muito mais forte. Para que seja verdadeira, precisaríamos de um mundo onde o know-how prático fosse totalmente transferível por meio de canais digitais e onde a responsabilidade pudesse ser automatizada junto com a cognição. Esse não é o mundo em que vivemos.
À medida que a inteligência se tornar mais barata, a vantagem estará com aqueles que forem capazes de obter resultados. Os humanos não vêm se tornando redundantes; eles vêm se tornando os gargalos mais decisivos do mundo.
https://valor.globo.com/opiniao/coluna/sera-a-ia-de-fato-a-ultima-invencao.ghtml
