Vegetariano, pai do ChatGPT não vê perigo em IA e diz que pôquer o ensinou a avaliar riscos

The New York Times; Conheci Sam Altman no verão de 2019, alguns dias depois que a Microsoft concordou em investir US$ 1 bilhão em sua startup de três anos, a OpenAI. Por sugestão dele, jantamos num restaurante pequeno e decididamente moderno, não muito longe de sua casa em San Francisco.

No meio da refeição, ele ergueu o iPhone para que eu visse o contrato que nos últimos meses vinha negociando com uma das maiores empresas de tecnologia do mundo. Ele disse que o investimento de bilhões de dólares da Microsoft ajudaria a OpenAI a construir o que foi chamado de inteligência artificial geral, ou AGI, uma máquina capaz de fazer qualquer coisa que o cérebro humano possa fazer.

Mais tarde, enquanto tomava um gole de vinho doce no lugar da sobremesa, Altman comparou sua empresa ao Projeto Manhattan. Como se estivesse conversando sobre a previsão do tempo, ele disse que o esforço dos Estados Unidos para construir uma bomba atômica durante a Segunda Guerra Mundial foi um “projeto na escala da OpenAI –o nível de ambição a que aspiramos”.

Ele acreditava que a AGI traria ao mundo prosperidade e riqueza como ninguém jamais havia visto. Também temia que as tecnologias que sua empresa estava desenvolvendo pudessem causar sérios danos –espalhando desinformação, prejudicando o mercado de trabalho. Ou mesmo destruindo o mundo como o conhecemos.

“Eu tento ser franco”, disse ele. “Estou fazendo algo bom? Ou muito ruim?”

Em 2019, isso parecia ficção científica.

Em 2023, as pessoas estão começando a se perguntar se Altman era mais presciente do que imaginavam.

Agora que a OpenAI lançou um chatbot online chamado ChatGPT, qualquer pessoa com uma conexão à internet está a um clique de distância da tecnologia que responde a perguntas candentes sobre química orgânica, escreve um trabalho de conclusão de curso de 2.000 palavras sobre Marcel Proust e sua madeleine ou até mesmo gera um programa de computador que joga flocos de neve digitais na tela de um laptop –tudo com uma habilidade que parece humana.

Como as pessoas percebem que essa tecnologia também é uma forma de espalhar falsidades ou mesmo persuadir as pessoas a fazerem coisas que não deveriam, alguns críticos estão acusando Altman de comportamento irresponsável.

No último dia 30, mais de mil especialistas em IA e líderes de tecnologia pediram à OpenAI e a outras empresas que interrompessem seu trabalho em sistemas como o ChatGPT, dizendo que eles apresentam “riscos profundos para a sociedade e a humanidade”.

No entanto, quando as pessoas agem como se Altman tivesse quase realizado sua antiga visão, ele recua.

“O hype sobre esses sistemas –mesmo que tudo o que esperamos esteja certo em longo prazo– está totalmente fora de controle em curto prazo”, ele me disse numa tarde recente. Há tempo para se entender melhor como esses sistemas acabarão por mudar o mundo, disse ele.

Muitos líderes da indústria, pesquisadores de IA e especialistas veem o ChatGPT como uma mudança tecnológica fundamental, tão significativa quanto a criação do navegador da web ou do iPhone. Mas poucos concordam com o futuro dessa tecnologia.

Alguns acreditam que ela produzirá uma utopia onde todos terão todo o tempo e o dinheiro necessários. Outros acreditam que poderia destruir a humanidade. Outros ainda passam muito tempo argumentando que a tecnologia nunca é tão poderosa quanto todos dizem que é, insistindo que nem o nirvana nem o dia do juízo final estão tão próximos quanto podem parecer.

Altman, um empresário e investidor dos subúrbios de St. Louis, de 37 anos, magro e com aparência juvenil, senta-se calmamente no meio de tudo isso. Como CEO da OpenAI, ele de alguma forma incorpora cada uma dessas visões aparentemente contraditórias, esperando equilibrar as inúmeras possibilidades enquanto move essa tecnologia estranha, poderosa e imperfeita para o futuro.

Isso significa que ele é frequentemente criticado de todas as direções. Mas as pessoas mais próximas acreditam que é assim que deve ser. “Se você está incomodando igualmente os dois lados extremos, então está fazendo algo certo”, disse o presidente da OpenAI, Greg Brockman.

Passar um tempo com Altman é entender que o Vale do Silício impulsionará essa tecnologia, embora não tenha certeza de quais serão as implicações. A certa altura de nosso jantar em 2019, ele parafraseou Robert Oppenheimer, líder do Projeto Manhattan, que acreditava que a bomba atômica era uma inevitabilidade do progresso científico. “A tecnologia acontece porque é possível”, disse ele. (Altman apontou que, por obra do destino, ele e Oppenheimer fazem aniversário no mesmo dia.)

Ele acredita que a IA acontecerá de uma forma ou de outra, que fará coisas maravilhosas que nem ele pode imaginar, e que poderemos encontrar maneiras de atenuar os danos que ela pode causar.

É uma atitude que espelha a própria trajetória de Altman. Sua vida tem sido uma escalada constante em direção à maior prosperidade e riqueza, impulsionada por um conjunto eficaz de habilidades pessoais –para não mencionar um pouco de sorte. Faz sentido que ele acredite que as coisas boas acontecerão, e não as ruins.

Mas se ele estiver errado, há uma saída: em seus contratos com investidores como a Microsoft, o conselho da OpenAI se reserva o direito de desligar a tecnologia a qualquer momento.

O aviso, enviado com as instruções de direção, era “Cuidado com as vacas”.

A casa de fim de semana de Altman é um rancho em Napa, na Califórnia, onde agricultores cultivam uvas para vinho e criam gado.

Durante a semana, Altman e seu parceiro, Oliver Mulherin, um engenheiro de software australiano, dividem uma casa em Russian Hill, no coração de San Francisco. Mas quando chega a sexta-feira, eles se mudam para o rancho, um local tranquilo entre as colinas rochosas e cobertas de grama. Sua casa de 25 anos foi reformada para parecer ao mesmo tempo folclórica e contemporânea. O aço cor-ten (liga de ferro com carbono) que cobre as paredes externas está enferrujado com perfeição.

Quando você se aproxima da propriedade, vê as vacas caminhando pelos campos verdes e pelas estradas de cascalho.

Altman é um homem que convive com contradições, mesmo em sua casa-refúgio: um vegetariano que cria gado de corte. Ele diz que seu companheiro gosta deles.

Em uma tarde recente de caminhada na fazenda, paramos para descansar à beira de um pequeno lago. Olhando para a água, discutimos, mais uma vez, o futuro da IA.

Sua mensagem não mudou muito desde 2019. Mas suas palavras foram ainda mais ousadas.

Ele disse que sua empresa está construindo uma tecnologia que “resolveria alguns de nossos problemas mais prementes, realmente aumentaria o padrão de vida e também descobriria usos muito melhores para a vontade e a criatividade humanas”.

Ele não tinha certeza de quais problemas resolveria, mas argumentou que o ChatGPT deu os primeiros sinais do que é possível. Então, com sua próxima respiração, ele disse temer que a mesma tecnologia possa causar sérios danos se chegar às mãos de um governo autoritário.

Altman tende a descrever o futuro como se já estivesse aqui. Faz isso com um otimismo que parece deslocado no mundo de hoje. Ao mesmo tempo, ele tem um jeito de acenar rapidamente para o outro lado da discussão.

Kelly Sims, sócia da empresa de capital de risco Thrive Capital, que trabalhou com Altman como consultor do conselho da OpenAI, disse que era como se ele estivesse constantemente discutindo consigo mesmo.

“Em uma única conversa”, disse ela, “ele é os dois lados do clube de debate.”

Ele é um produto típico do Vale do Silício que cresceu tão rápida e alegremente em meados da década de 2010. Como presidente da Y Combinator, aceleradora de startups e investidor inicial do Vale do Silício, de 2014 a 2019, ele aconselhou um fluxo interminável de novas empresas –e foi astuto o suficiente para investir pessoalmente em várias que se tornaram nomes conhecidos, incluindo Airbnb, Reddit e Stripe. Ele se orgulha de reconhecer quando uma tecnologia está prestes a atingir um crescimento exponencial –e então seguir essa curva para o futuro.

A newsletter da Folha com o que interessa sobre a indústria de games e com as dicas do que você ainda vai jogar.

Carregando…

Ele, contudo, também é o produto de uma comunidade online estranha e extensa que começou a se preocupar, na mesma época em que Altman chegou ao Vale do Silício, que a IA um dia destruiria o mundo. Chamados de racionalistas ou altruístas efetivos, os membros desse movimento foram fundamentais para a criação da OpenAI.

A questão é se os dois lados de Altman são compatíveis: faz sentido percorrer essa curva se pode terminar em desastre? Altman certamente está determinado a ver como tudo se desenrola.

Ele não é necessariamente motivado por dinheiro. Como muitas fortunas pessoais no Vale do Silício que estão vinculadas a uma ampla variedade de empresas públicas e privadas, a riqueza de Altman não está bem documentada. Mas, enquanto caminhávamos por seu rancho, ele me disse, pela primeira vez, que não tem nenhuma participação na OpenAI. O único dinheiro que ele pode ganhar com a empresa é um salário anual de cerca de US$ 65 mil –”o mínimo para o seguro saúde”, disse– e uma pequena fatia de um antigo investimento na empresa pela Y Combinator.

Seu antigo mentor, Paul Graham, fundador da Y Combinator, explicou assim a motivação de Altman: “Por que ele está trabalhando em algo que não o tornará mais rico? Uma resposta é que muitas pessoas fazem isso quando têm dinheiro suficiente, o que Sam provavelmente faz. A outra é que ele gosta de poder”.

‘COMO BILL GATES DEVIA SER’

No final da década de 1990, a John Burroughs School, uma escola preparatória particular com o nome do naturalista e filósofo americano do século 19, convidou um consultor independente para observar e criticar a vida cotidiana em seu campus nos subúrbios de St. Louis.

A análise do consultor incluiu uma crítica significativa: o corpo estudantil estava repleto de homofobia.

No início dos anos 2000, Altman, um aluno de 17 anos da John Burroughs, decidiu mudar a cultura da escola, persuadindo individualmente os professores a colocar placas de “Espaço Seguro” nas portas de suas salas de aula como uma declaração de apoio a estudantes gays, como ele. Ele se assumiu durante seu último ano e disse que a St. Louis de sua adolescência não era um lugar fácil para ser gay.

Georgeann Kepchar, que ministrou o curso de ciência da computação avançada da escola, viu Altman como um de seus alunos de ciência da computação mais talentosos –e com um talento raro para levar as pessoas em novas direções.

“Ele tinha criatividade e visão, combinadas com ambição e força de personalidade, para convencer os outros a trabalhar com ele para colocar suas ideias em prática”, disse ela. Altman também me disse que pediu a um professor particularmente homofóbico para colocar uma placa de “espaço seguro” apenas para zombar o cara.

Graham, que trabalhou ao lado de Altman durante uma década, viu o mesmo poder de persuasão no homem de St. Louis.

“Ele tem uma habilidade natural de convencer as pessoas sobre as coisas”, disse Graham. “Se não é inato, pelo menos foi totalmente desenvolvido antes dos 20 anos. Conheci Sam quando ele tinha 19, e lembro-me de pensar na época: ‘Então é assim que Bill Gates devia ser’.”

Os dois se conheceram em 2005, quando Altman se candidatou a uma vaga na primeira turma de startups da Y Combinator. Ele ganhou uma vaga –que incluía US$ 10.000 em financiamento inicial– e depois de seu segundo ano na Universidade de Stanford ele desistiu para construir sua nova empresa, Loopt, uma startup de mídia social que permite que as pessoas compartilhem sua localização com amigos e familiares.

Hoje ele diz que durante sua curta estada em Stanford aprendeu mais com as muitas noites que passou jogando pôquer do que com a maioria das outras atividades acadêmicas. Após seu primeiro ano, ele trabalhou no laboratório de IA e robótica supervisionado pelo professor Andrew Ng, que viria a fundar o principal laboratório de IA do Google.

O pôquer, porém, ensinou Altman a ler as pessoas e avaliar o risco. Mostrou a ele “como perceber padrões nas pessoas ao longo do tempo, como tomar decisões com informações muito imperfeitas, como decidir quando vale a pena sofrer, de certa forma, para obter mais informações”, explicou enquanto caminhávamos pela fazenda em Napa. “É um grande jogo.”

Depois de vender a Loopt por um retorno modesto, ele ingressou na Y Combinator como sócio em meio período. Três anos depois, Graham deixou o cargo de presidente da empresa e, para surpresa de muitos em todo o Vale do Silício, escolheu Altman, então com 28 anos, como seu sucessor.

Altman não é um programador, engenheiro ou pesquisador de IA. É quem define a agenda, reúne as equipes e fecha os negócios. Como presidente da Y Combinator, expandiu a empresa de modo quase irresponsável, iniciando um novo fundo de investimento e um novo laboratório de pesquisa e ampliando o número de empresas assessoradas pela empresa em centenas a cada ano.

Ele também começou a trabalhar em vários projetos fora da empresa de investimentos, incluindo a OpenAI, que fundou sem fins lucrativos em 2015 ao lado de um grupo que incluía Elon Musk. Como admite o próprio Altman, a Y Combinator ficou cada vez mais preocupada por ele estar se espalhando muito.

Altman resolveu reorientar sua atenção para um projeto que, como disse, teria um impacto real no mundo. Ele considerou a política, mas se decidiu pela IA.

Ele acreditava, de acordo com seu irmão mais novo, Max, que era uma das poucas pessoas que poderiam mudar significativamente o mundo por meio da pesquisa de IA, ao contrário das muitas pessoas que poderiam fazê-lo por meio da política.

Em 2019, quando a pesquisa da OpenAI estava decolando, Altman assumiu as rédeas, deixando o cargo de presidente da Y Combinator para se concentrar numa empresa com menos de 100 funcionários que não tinha certeza de como pagaria suas contas.

Em um ano, transformou a OpenAI numa organização sem fins lucrativos com um braço com fins lucrativos. Dessa forma, ele poderia buscar o dinheiro necessário para construir uma máquina capaz de fazer qualquer coisa que o cérebro humano pudesse fazer.

LEVANTANDO ’10 PAUS’

Em meados da década de 2010, Altman dividia um apartamento de três quartos e três banheiros em San Francisco com seu namorado na época, seus dois irmãos e as namoradas deles. Os irmãos seguiram caminhos separados em 2016, mas permaneceram em um grupo de bate-papo, onde passavam muito tempo discutindo, como só irmãos podem, lembra-se um deles, Max. Então, certo dia, Altman enviou uma mensagem dizendo que pretendia levantar US$ 1 bilhão para a pesquisa de sua empresa.

Dentro de um ano, ele tinha feito isso. Depois de encontrar Satya Nadella, CEO da Microsoft, em um encontro anual de líderes de tecnologia em Sun Valley, em Idaho –muitas vezes chamado de “acampamento de verão para bilionários”–, ele negociou pessoalmente um acordo com Nadella e o diretor de tecnologia da Microsoft, Kevin Scott.

Alguns anos depois, Altman mandou uma mensagem de texto para seus irmãos novamente, dizendo que planejava levantar US$ 10 bilhões adicionais –ou, como disse, “10 paus”. Em janeiro passado, ele também havia feito isso, assinando outro contrato com a Microsoft.

Brockman, presidente da OpenAI, disse que o talento de Altman está em entender o que as pessoas querem. “Ele realmente tenta encontrar o que mais importa para uma pessoa –e depois descobrir como dar a ela”, disse Brockman. “Esse é o algoritmo que ele usa repetidamente.”

O acordo colocou a OpenAI e a Microsoft no centro de um movimento que está prestes a refazer tudo, de mecanismos de busca a aplicativos de e-mail e tutores online. E tudo isso está acontecendo num ritmo que surpreende até mesmo aqueles que acompanham essa tecnologia há décadas.

Em meio ao frenesi, Altman está calmo como sempre –embora diga que usa o ChatGPT para ajudá-lo a resumir rapidamente a avalanche de e-mails e documentos que recebe.

Scott acredita que Altman acabará sendo discutido da mesma forma que Gates, Steve Jobs e Mark Zuckerberg.

“São pessoas que deixaram uma marca indelével no tecido da indústria tecnológica e talvez no tecido do mundo”, disse ele. “Acho que Sam vai ser uma dessas pessoas.”

O problema é que, ao contrário dos dias em que Apple, Microsoft e Meta estavam começando, as pessoas estão bem cientes de como a tecnologia pode transformar o mundo –e com isso pode ser perigoso.

HOMEM NO MEIO

Em março, Altman tuitou uma selfie, banhado por um flash laranja-claro, que o mostrava sorrindo entre uma mulher loira fazendo um sinal de paz e um cara barbudo usando um chapéu de feltro.

A mulher era a cantora canadense Grimes, ex-parceira de Musk, e o cara de chapéu era Eliezer Yudkowsky, um autodenominado pesquisador de IA que acredita, talvez mais do que ninguém, que a IA um dia poderá destruir a humanidade.

A selfie –tirada por Altman em uma festa que sua empresa estava organizando– mostra o quão próximo ele está dessa maneira de pensar. Mas ele tem suas próprias opiniões sobre os perigos da IA.

Yudkowsky e seus escritos desempenharam papéis fundamentais na criação do OpenAI e do DeepMind, outro laboratório com a intenção de construir inteligência artificial geral.

Ele também ajudou a gerar a vasta comunidade online de racionalistas e altruístas eficazes que estão convencidos de que a IA é um risco existencial. Esse grupo surpreendentemente influente é representado por pesquisadores em muitos dos principais laboratórios de IA, incluindo o OpenAI. Eles não veem isso como hipocrisia: muitos acreditam que, por entenderem os perigos mais claramente do que qualquer outra pessoa, estão na melhor posição para construir essa tecnologia.

Altman acredita que os altruístas eficazes desempenharam um papel importante na ascensão da IA, alertando a indústria para os perigos. Ele também acredita que exageram esses perigos.

À medida que a OpenAI desenvolvia o ChatGPT, muitos outros, incluindo Google e Meta, construíam tecnologias semelhantes. Mas foram Altman e a OpenAI que decidiram compartilhar a tecnologia com o mundo.

Muitos no setor criticaram a decisão, argumentando que desencadeou uma corrida para liberar a tecnologia que faz as coisas erradas, inventa coisas e pode em breve ser usada para espalhar rapidamente a desinformação. Na sexta-feira (7), o governo italiano proibiu temporariamente o ChatGPT no país, alegando preocupações com a privacidade e com a exposição de menores a material explícito.

Altman argumenta que, em vez de desenvolver e testar a tecnologia a portas fechadas antes de liberá-la totalmente, é mais seguro compartilhá-la gradualmente para que todos possam entender melhor os riscos e como lidar com eles.

Ele me disse que seria uma “decolagem muito lenta”.

Quando perguntei a Altman se uma máquina capaz de fazer qualquer coisa que o cérebro humano pudesse fazer acabaria levando o preço do trabalho humano a zero, ele objetou. Disse que não conseguia imaginar um mundo onde a inteligência humana fosse inútil.

Se estiver errado, ele acha que pode compensar a humanidade.

Altman reconstruiu a OpenAI como o que chamou de empresa de lucro limitado. Isso permitiu que buscasse bilhões de dólares em financiamento, prometendo lucro a investidores como a Microsoft. Mas esses lucros são limitados, e qualquer receita adicional será bombeada de volta para a organização sem fins lucrativos OpenAI, fundada em 2015.

Sua grande ideia é que a OpenAI captará grande parte da riqueza do mundo por meio da criação da AGI e depois redistribuirá essa riqueza para as pessoas. Em Napa, enquanto conversávamos à beira do lago no centro de sua fazenda, ele citou vários números –US$ 100 bilhões, US$ 1 trilhão, US$ 100 trilhões.

Se a AGI criar toda essa riqueza, ele não tem certeza sobre como a empresa a redistribuirá. O dinheiro pode significar algo muito diferente nesse novo mundo.

Como ele me disse uma vez: “Sinto que a AGI pode ajudar nisso”.

https://www1.folha.uol.com.br/tec/2023/04/rei-do-chatgpt-nao-esta-preocupado-mas-sabe-que-voce-pode-estar.shtml

Comentários estão desabilitados para essa publicação