Yuval-Harari_notaalta

O risco dos “humanos dispensáveis”

Disrupção tecnológica é uma preocupação central do historiador israelense Yuval Harari: a combinação do rápido avanço da biotecnologia e da inteligência artificial pode ser desastrosa para grande parte da humanidade, diz. É preciso que a sociedade pense seriamente e com rapidez sobre o tema. As consequências da atual inércia em relação ao futuro, afirma, vão desde o colapso completo de países que não conseguirão acompanhar a corrida protagonizada por algoritmos até a criação de uma classe de humanos simplesmente “dispensável”, irrelevante social e economicamente.
“A menos que criemos redes de segurança mundiais para proteger os humanos contra os choques econômicos que a IA [inteligência artificial] deverá provocar, países inteiros poderiam desmoronar e o caos, violência e ondas de migração resultantes desestabilizariam o mundo inteiro”, diz Harari, em entrevista, por e-mail, ao Valor.
Essas perspectivas sombrias e as questões que as acompanham tiveram, curiosamente, grande receptividade no ninho da tecnologia, o Vale do Silício, que ajudou a catapultar Harari, que não possui celular, à condição de escritor e filósofo futurista best-seller. Mark Zuckerberg, fundador do Facebook, incluiu “Sapiens, Uma Breve História da Humanidade”, o primeiro título assinado pelo historiador, em um projeto para promoção de leitura que montou em 2015. Bill Gates e o ex-presidente americano Barack Obama também recomendaram a obra.
Professor de história na Universidade Hebraica de Jerusalém, ele contabiliza hoje 20 milhões de exemplares vendidos, traduzidos para mais de 50 idiomas. Atualmente trabalha em um livro infantil sobre a história da humanidade. Tem uma agenda intensa de palestras em diferentes países e pela primeira vez o Brasil entrou em seu circuito. Harari chega ao país no início de novembro com uma programação que passa por São Paulo, Rio de Janeiro e Brasília. No dia 6 estará na capital paulista para o evento Cidadão Global, parceria do Valor com o Banco Santander , para trocar ideias com o geógrafo americano Jared Diamond, autor, entre outros, de “Armas, Germes e Aço”, que ele considera sua grande inspiração.
Em resenha para o “New York Times Book Review” sobre a mais recente obra do historiador, “21 Lições para o Século 21”, Gates afirma que “seus três livros trabalham profundamente alguma versão da mesma pergunta: O que dará sentido à nossa vida nas próximas décadas e séculos?”.
Para Harari, a meditação é um dos caminhos para buscar respostas e aprofundar a visão sobre si mesmo, o mundo e a vida. Dedica à prática duas horas diariamente e, todo ano, faz um retiro espiritual de 30 a 60 dias.
O historiador identifica no fato de ser gay uma influência significativa em seu trabalho. Considera que a tecnologia é ao mesmo tempo uma benção para a comunidade LGTB, por permitir que ela se conecte, quanto uma grande ameaça, justamente por reunir os dados desse público. Foi a partir de um site que ele conheceu, há 17 anos, Itzik Yahav, com quem está casado e que é seu gerente.
Atualmente, afirma, estão em desenvolvimento ferramentas de IA que monitoram os indivíduos a serviço de governos ou corporações. “Mas podemos optar por desenvolver um tipo muito diferente de ferramentas de IA, que monitore governos e corporações a serviços dos indivíduos.” Para ele, isso é algo que os cidadãos podem e devem demandar. A seguir, a entrevista.

Valor: O senhor sintetizou recentemente em uma equação alguns problemas com os quais o mundo se depara hoje: conhecimento biológico multiplicado pela capacidade de computação multiplicada pelos dados é igual à capacidade de hackear os humanos. O que isso representa?

Yuval Harari: A revolução tecnológica mais importante do século XXI é a capacidade de hackear seres humanos. Hackear seres humanos significa compreender os seres humanos melhor do que eles compreendem a si mesmos. Para isso, você precisa de muito conhecimento biológico, de muitos dados e de muita potência de computação. Até hoje, ninguém conseguiu fazer isso. Nem na Alemanha nazista nem na União Soviética, o governo conseguiu saber o que cada pessoa pensava ou sentia. Mas, em breve, alguns governos e empresas poderiam ter conhecimento biológico suficiente, dados suficientes e potência de computação suficiente para monitorar todas as pessoas, o tempo todo, e saber o que cada um de nós pensa ou sente. Uma vez que um governo ou uma empresa nos entenda melhor do que nós mesmos nos entendemos, vai poder prever nossos sentimentos e decisões, manipular nossos sentimentos e decisões e, cada vez mais, tomar decisões em nosso nome. A capacidade de hackear humanos, é claro, pode ser usada para bons propósitos – por exemplo, para prover uma assistência médica muito melhor e mais barata para bilhões de pessoas. Mas também pode ser usada para criar o pior regime totalitário na história humana. O regime vai saber não apenas tudo o que você faz, mas também tudo o que você sente. Quando você vir um líder na TV e se sentir revoltado, o regime vai saber. Quando você ler uma propaganda oficial e pensar que se trata de papo-furado – o regime vai saber. O regime vai saber o que as pessoas escondem delas próprias. Por exemplo, o regime vai saber que um garoto de 15 anos é homossexual antes mesmo que ele saiba isso. Mesmo se evitarmos tais regimes autoritários, ainda vamos precisar lidar com uma passagem gradual da autoridade dos humanos para os algoritmos. Hoje, já contamos com o algoritmo do Facebook para nos dizer quais são as novidades e o algoritmo do Google para nos dizer o que é verdade, enquanto a Amazon nos diz o que comprar e o Netflix nos diz o que assistir. À medida que os algoritmos passam a nos conhecer melhor do que nós mesmos, em algum momento eles vão nos dizer o que estudar, onde trabalhar, com quem nos casar e em quem votar.

Valor: A ruptura provocada pela tecnologia vai favorecer algum tipo de sistema político? Por que o senhor acha que a realidade possivelmente iria superar a distopia imaginada por George Orwell como mencionou recentemente?

Harari: No século XX, a democracia derrotou a ditadura porque a democracia era melhor no processamento de dados e na tomada de decisões. O conflito entre a
democracia e a ditadura não era apenas um conflito entre sistemas éticos diferentes, mas um conflito entre métodos diferentes de processamento de dados e de tomada de decisões. A democracia distribui informações e o poder de tomar de decisões entre muitas pessoas e instituições, enquanto a ditadura concentra as informações e o poder em um só lugar. Dada a tecnologia do século XX, era ineficiente concentrar tanta informação e poder em um só lugar. Ninguém tinha a capacidade de processar todas essas informações com a rapidez suficiente e tomar as decisões certas. Isso é parte do motivo pelo qual a União Soviética tomou decisões bem piores do que os Estados Unidos e pelo qual a economia soviética ficou muito atrás da americana. Em breve, no entanto, a inteligência artificial [IA] vai tornar possível administrar enormes volumes de informações centralmente. Na verdade, a IA torna sistemas centralizados mais eficientes do que sistemas difusos. Consequentemente, a principal desvantagem dos regimes autoritários no século XX – a tentativa de concentrar todas as informações em um só lugar – poderia se tornar uma grande vantagem no século XXI. Naturalmente, a democracia ainda tem uma grande vantagem em relação à ditadura, a saber, sua moderação e flexibilidade. Não importa até que ponto a IA avance, nunca vai ser perfeita. Até os melhores sistemas podem cometer erros. Quando um ditador comete um erro, ele normalmente se recusa a admitir e a tentar algo diferente. Os ditadores reagem aos erros culpando os demais e exigindo mais poder para si. Os sistemas democráticos estão muito mais dispostos a admitir seus erros e a mudar de rumo. É por isso que no longo prazo as democracias normalmente funcionam melhor do que as ditaduras. A esperança é que a democracia seja flexível o suficiente para se adaptar às novas realidades tecnológicas do século XXI.

https://valor.globo.com/brasil/noticia/2019/10/31/os-algoritmos-vao-nos-dizer-o-que-queremos.ghtml

Comentários estão desabilitados para essa publicação