The New York Times; No centro de Berkeley (EUA), um antigo hotel se tornou um templo dedicado à busca pela inteligência artificial (IA) e pelo futuro da humanidade. Seu nome é Lighthaven.
Ocupando grande parte de um quarteirão da cidade, esse complexo fechado inclui cinco edifícios e um pequeno parque contornado por roseiras, fontes de pedra e estátuas neoclássicas. Vitrais brilham no último andar do edifício mais alto, chamado Bayes House, em homenagem a um matemático e filósofo do século 18.
Lighthaven é a sede de fato de um grupo que se autodenomina Racionalistas. Esse grupo tem muitos interesses envolvendo matemática, genética e filosofia. Uma de suas crenças predominantes é que a inteligência artificial pode proporcionar uma vida melhor, desde que não destrua a humanidade primeiro. E eles acreditam que cabe às pessoas que desenvolvem a IA garantir que a tecnologia seja uma força para o bem maior.
O grupo já falava sobre os riscos da IA anos antes da OpenAI criar o ChatGPT, que trouxe a IA para o mainstream e virou o Vale do Silício de cabeça para baixo. Sua influência se espalhou discretamente por muitas empresas de tecnologia, desde gigantes do setor como o Google até pioneiros em IA como a OpenAI e a Anthropic.
Muitos dos maiores nomes do mundo da IA — incluindo Shane Legg, cofundador da DeepMind do Google; o CEO o da Anthropic, Dario Amodei; e Paul Christiano, ex-pesquisador da OpenAI que agora lidera o trabalho de segurança no Centro Americano para Padrões e Inovação em IA — foram influenciados pela filosofia racionalista. Elon Musk, que dirige sua própria empresa de IA, disse que muitas das ideias da comunidade estão alinhadas com as suas.
Musk conheceu sua ex-parceira, a estrela pop, Grimes, depois que ambos fizeram a mesma referência irreverente a uma crença racionalista chamada Basilisco de Roko. Esse elaborado experimento mental argumenta que, quando uma IA todo-poderosa surgir, ela punirá todos aqueles que não fizeram tudo o que podiam para trazê-la à existência.
Mas esses líderes da indústria de tecnologia evitam se autodenominar racionalistas, muitas vezes porque esse rótulo tem sido alvo de ridicularização ao longo dos anos.
A comunidade racionalista está intimamente ligada ao movimento Altruísmo Eficaz (AE), que visa reformular a filantropia calculando quantas pessoas se beneficiariam com cada doação. Essa forma de utilitarismo visa beneficiar não apenas as pessoas que estão vivas hoje, mas todas as pessoas que viverão no futuro. Muitos altruístas eficazes, ou EAs, decidiram que a melhor maneira de beneficiar a humanidade é protegê-la da destruição pela IA.
Os Racionalistas costumam se identificar como AEs. E os AEs costumam adotar filosofias racionalistas. Juntos, esses dois movimentos injetaram centenas de milhões de dólares em empresas, laboratórios de pesquisa e think tanks que visam construir IA e garantir sua segurança. Os maiores financiadores incluem magnatas da tecnologia como Jaan Tallinn, criador do Skype, e Dustin Moskovitz, cofundador do Facebook.
“Eles construíram um ecossistema vasto e bem financiado para difundir, amplificar e validar sua ideologia”, disse Mollie Gleiberman, antropóloga que estudou a ascensão dos Racionalistas e do Altruísmo Eficaz.
Estejam eles certos ou errados em suas preocupações quase religiosas com a IA, a indústria de tecnologia está levando em conta suas crenças.
No final de 2023, o CEO da OpenAI, Sam Altman, foi brevemente afastado de seu cargo porque membros do conselho ligados aos dois movimentos disseram que não podiam confiar nele para desenvolver IA para o benefício da humanidade.
Lighthaven é uma manifestação física de como essas ideias se espalharam pelo Vale do Silício e pela região de São Francisco — um templo moderno.
O prédio principal, chamado Aumann Hall, em homenagem ao teórico de jogos israelense Robert Aumann, oferece sete quartos e várias áreas comuns para festas e conferências. O Eigenspace, nomeado em homenagem a um conceito matemático esotérico, inclui uma academia e outra área comum com capacidade para 40 pessoas. Duzentas pessoas podem se espalhar pelo parque coberto de grama sintética, que também tem cadeiras e fogueiras elétricas.
“É um lugar onde podem acontecer coincidências felizes. Algumas pessoas comparam ao campus de uma faculdade ou ao MIT Media Lab”, disse Alex K. Chen, membro de longa data da comunidade, referindo-se ao laboratório de design do Instituto de Tecnologia de Massachusetts.
Todas as primaveras nos EUA, Lighthaven organiza a LessOnline, uma conferência onde blogueiros e comentaristas de sites racionalistas se encontram pessoalmente. Todas as terças-feiras, às 18h30, quase como um estudo bíblico, as pessoas se reúnem para ler e discutir The Sequences, o texto original que deu origem ao movimento.
“Religião é texto, história e ritual”, disse Ilia Delio, irmã franciscana e professora de teologia na Villanova University. “Tudo isso se aplica aqui.”
O movimento racionalista é tanto um estilo de vida quanto um conjunto de ideias. Seus adeptos combinam seu foco em IA com conselhos sobre como viver a vida e gerenciar a carreira. A comunidade abraça ideias não convencionais, incluindo o poliamor e a genética da inteligência, bem como o altruísmo eficaz, que também é um estilo de vida. E para os aspirantes a desenvolvedores de IA, os eventos racionalistas se tornaram oportunidades essenciais de networking.
Encontros como o programa Machine Learning Alignment and Theory Scholars, ou MATS, realizado em Lighthaven a cada verão, são uma forma mais importante de entrar no campo da segurança da IA do que a academia, disse Sonia Joseph, pesquisadora de IA da Universidade McGill, em Montreal, e da gigante tecnológica, a Meta.
Origem
Os racionalistas surgiram no final dos anos 2000, quando um filósofo online chamado Eliezer Yudkowsky escreveu The Sequences, uma coleção de ensaios que ensinava as pessoas a reexaminar o mundo através de um pensamento frio e cuidadoso. Isso muitas vezes envolvia o uso de estatísticas e probabilidades para informar suas decisões. Parte tutorial, parte entretenimento, parte jornada mística, os ensaios de Yudkowsky se tornaram um manual para a comunidade racionalista.
Em 2010, Yudkowsky apresentou os fundadores de uma empresa britânica de IA chamada DeepMind ao investidor Peter Thiel, ajudando a companhia a decolar. Menos de quatro anos depois, a DeepMind foi adquirida pelo Google por US$ 650 milhões. Agora, sua tecnologia e seus executivos estão liderando os esforços de IA da gigante da tecnologia.
Yudkowsky também dirigiu uma organização sem fins lucrativos dedicada à segurança da IA chamada Machine Intelligence Research Institute, em Berkeley. Lentamente, o movimento se tornou global. Grupos racionalistas surgiram em cidades como Nova York e Boston. Reuniões foram realizadas na Grã-Bretanha, Holanda e Austrália.
A primeira cúpula internacional do Altruísmo Eficaz foi realizada em 2013 em uma casa coletiva em Oakland, Califórnia, que servia como sede da Leverage Research, uma startup com laços profundos com a comunidade racionalista. Figuras importantes da comunidade, como Yudkowsky e Tallinn, ajudaram a orientar o movimento AE em direção às suas preocupações comuns sobre a inteligência artificial.
As críticas aos movimentos racionalista e AE têm sido frequentes, incluindo alegações de assédio sexual em casas coletivas e reclamações sobre o interesse da comunidade em eugenia e ciência racial. A reputação da comunidade foi prejudicada em 2023 depois que Sam Bankman-Fried, fundador da bolsa de criptomoedas FTX, que era um dos principais financiadores dos dois movimentos, foi condenado por fraude. Mas o movimento continua a prosperar.
Bankman-Fried tornou-se um corretor financeiro para beneficiar o maior número de pessoas por meio das causas da AE, incluindo a luta para manter a IA segura. No final, ele foi considerado culpado de roubar US$ 8 bilhões de seus clientes.
“Quando você pensa nos bilhões em jogo e na transformação radical de vidas em todo o mundo por causa da visão excêntrica desse grupo, quanto mais sectário ele precisa ser para ser considerado uma seita? Não muito”, disse Greg M. Epstein, capelão de Harvard que viu o surgimento das comunidades racionalistas e AE na universidade na última década e autor de “Tech Agnostic”, um livro que discute a tecnologia como uma nova religião.
“O que as religiões sectárias e fundamentalistas costumam fazer?”, acrescentou Epstein. “Elas fazem com que as pessoas ignorem seu bom senso sobre os problemas do presente para concentrar sua atenção em um futuro fantástico.”
Todo mês de dezembro, centenas de pessoas da comunidade se reúnem em locais como o planetário Chabot, em Oakland Hills, e o music hall Freight and Salvage, no centro de Berkeley, para uma tradição anual de fim de ano. Elas celebram o solstício de inverno, a noite mais longa do ano, com canções, histórias, humor e perguntas sobre o destino do mundo.
A celebração mais recente começou com uma canção chamada Uplift, que elogiava o poder da tecnologia ao longo da história da humanidade. Acompanhados por violão, violino e teclados, dois cantores começaram na Idade da Pedra e terminaram no futuro. “Luz para impulsionar as velas, ler os dados, as cidades brilham! Mãos digitam as teclas, clicam no mouse, lá vamos nós!”, eles cantavam. “Nossas vozes ecoam pelo mundo e pelo espaço! Envie-nos para colonizar outro lugar!”
Mas Ozy Brennan, um racionalista veterano, que atuou como mestre de cerimônias naquela noite, alertou sobre as nuvens que se aproximavam. “Enfrentamos uma série de ameaças que nossos ancestrais não poderiam imaginar: guerra nuclear, pandemias bioengenheiradas, inteligência artificial”, disse ele. “Se falharmos — e há todas as chances de que isso aconteça — 100% das crianças morrerão, assim como todas as outras pessoas.”
O prédio principal do Lighthaven, uma casa em estilo Tudor com fachada rosa e branca, foi construído em 1905. Na década de 1970, tornou-se uma pousada chamada Rose Garden Inn e logo entrou para a lista de marcos históricos de Berkeley.
Há cerca de três anos, a propriedade foi comprada por US$ 16,5 milhões por uma empresa chamada Lightcone Rose Garden, de acordo com registros imobiliários. A empresa era propriedade da Lightcone Infrastructure, que administra o LessWrong, o principal site dos racionalistas. “Cone de luz” é um termo da física que os racionalistas e os AEs costumam usar para descrever o volume de eventos futuros que podem influenciar a partir do momento atual.
Agora, a Lightcone também administra a Lighthaven. A equipe que supervisiona a propriedade inclui Ray Arnold, que organizou o primeiro Secular Solstice. Ela foi comprada com dinheiro de dois dos maiores financiadores da comunidade: Tallinn e Bankman-Fried, de acordo com uma ação judicial. Os fundos de Bankman-Fried, que foram usados como depósito, foram posteriormente devolvidos como parte de um acordo judicial.
Pessoas de fora nem sempre são permitidas no Lighthaven. Oliver Habryka, diretor da Lightcone, recusou um pedido do The New York Times para visitar as instalações.
