O CRITÉRIO DE TIM O’REILLY para medir o valor de uma empresa, pessoa ou sociedade há muito tempo é criar mais valor do que se captura. Não surpreende que O’Reilly — editor, pioneiro da internet, investidor de venture capital, organizador de conferências e disseminador de sabedoria tecnológica — esteja aplicando essa métrica à forma como as pessoas projetam e usam a IA. Especificamente, ele defende um futuro em que a IA de código aberto seja um elixir para as massas. Ele teme que, como a Microsoft nos anos 1990, os hiperescaladores de hoje estejam tentando prender os usuários aos seus produtos. Por isso, está promovendo esforços para tornar a tecnologia de IA open source — não apenas tornando acessíveis detalhes técnicos críticos, como os pesos das redes neurais, mas abrindo toda a pilha de um sistema de IA, dando controle a designers e usuários.
O’Reilly vê a IA como um novo meio criativo, que ele usa extensivamente — e até mantém um blog sobre suas conversas com ela. Durante nossa conversa, descobrimos que discordamos sobre o papel da IA na produção de conteúdo original. Adivinhe quem ficou com qual posição.
STEVEN LEVY: Você é totalmente a favor da IA de código aberto. Defenda seu ponto.
TIM O’REILLY: Primeiro, vamos garantir que estamos falando da mesma coisa. Quando a maioria das pessoas fala em IA de código aberto, na verdade está falando apenas de modelos com pesos abertos. É muito maior do que isso. Nos anos 1990, quando todo mundo estava focado em licenças de código aberto, eu dizia: “Não, não, trata-se da arquitetura do sistema. Ela permite participação?”
Por que isso é necessário?
Os grandes laboratórios estão interpretando o futuro de forma errada. Eles contaram a si mesmos uma narrativa segundo a qual ter o maior e melhor modelo é a chave para o futuro. Modelos grandes como o Claude estão sendo otimizados para casos de uso específicos, mas esses não são necessariamente os casos de uso que as pessoas querem. Eu quero incorporar meu próprio tempero especial. O mais importante é ter uma separação clara entre o modelo, o harness e a aplicação. E, neste momento, não estamos conseguindo isso. Eles construíram uma arquitetura de controle, em vez de uma arquitetura de liberdade e participação, e por isso têm a capacidade de rastrear você.
Não é contra os interesses das grandes empresas abrir mão do controle?
Ah, é totalmente contra os interesses delas. Mas isso não significa que estejam tomando a decisão estratégica correta. Por muito tempo, os modelos mais recentes e avançados eram realmente melhores para tudo. Agora eles são melhores para algumas coisas e piores para outras. As pessoas estão falando muito sobre como Fable e Sol são escritores piores do que os modelos de nível inferior. [Nota: Anthropic e OpenAI discordariam.] Os avanços que estamos obtendo na chamada IA de fronteira, na verdade, estão nos afastando ainda mais daquilo de que as pessoas comuns vão precisar. Podemos vencer a disputa pela IA de fronteira aqui nos EUA, e a China ainda assim vai nos superar porque terá modelos de nível inferior amplamente difundidos pela sociedade. O objetivo é dar às pessoas a capacidade de inovar livremente, de pintar fora das linhas.
As pessoas temem que software de código aberto possa ser um risco de segurança, já que agentes mal-intencionados poderiam contornar as proteções dos modelos de fronteira.
Todos os incidentes de cibersegurança que vimos vieram dos modelos de fronteira. Portanto, riscos como cibersegurança e a capacidade de desenvolver patógenos são, na verdade, um argumento para desacelerar mais os modelos de fronteira do que para restringir modelos com pesos abertos.
Então você acha que, com o código aberto, as potências da IA deixarão de ser dominantes?
Eu não prevejo o futuro. Mas direi que o mundo está avançando da forma como eu esperava. E se os grandes modelos de fronteira acabarem como mainframes ou supercomputadores — voltados para problemas realmente difíceis, que não são, na verdade, aquilo que se difunde pela sociedade? As pessoas estão construindo coisas como o Pi, um harness [agêntico] de código aberto. Uma das coisas em que estamos trabalhando na minha organização sem fins lucrativos, o AI Disclosures Project, é a ideia de um consórcio de memória aberta. A tese de Mark Zuckerberg é que ele vai prender você porque a Meta lhe dará a IA que melhor conhece você. A visão de código aberto precisa dizer não a isso. O open source pode oferecer a capacidade de trocar de modelos, trocar de provedores e manter todo o contexto de que precisa.
Você escreveu recentemente um artigo na Economist sobre como Elon Musk — assim como outros líderes de tecnologia — têm tanto poder em suas empresas que são anticapitalistas, no sentido de que seus desejos, e não o mercado, determinam a estratégia.
De modo geral, o Vale do Silício se tornou anticapitalista. Eles usam a linguagem dos mercados. Mas, por volta de 2010, esse modelo inteiro entrou em cena com Uber e Lyft. Financiadas por VCs, elas literalmente gastaram bilhões de dólares para subsidiar corridas. Os venture capitalists escolheram o vencedor, e não o mercado. Isso virou o modelo. Todo o capital se acumula em uma direção e sufoca outros caminhos possíveis.
Em IA, todo o dinheiro está sendo canalizado para algumas poucas empresas, mas nenhuma parece ter domínio garantido.
Porque é um modelo fracassado. A ação real está no código aberto. Assim como no início dos anos 1990, quando todos achavam que tudo era uma batalha para decidir quem dominaria o PC, e então a web surgiu do nada enquanto ninguém prestava atenção. Acho que o verdadeiro futuro da IA será uma efervescência de inovação que não está sendo financiada por venture capital — da mesma forma que a web não foi financiada por VCs.
Uma dessas disrupções pode atingir sua própria empresa, construída sobre livros e escrita.
O negócio de livros está em declinio há 25 anos. No nosso auge, nosso negócio de livros talvez faturasse US$ 70 milhões, e hoje está em US$ 30 milhões. À medida que os livros passaram a gerar menos receita, tivemos que encontrar uma forma de remunerar pessoas por compartilharem seu conhecimento, porque esse é o nosso negócio fundamental. Então a IA chega e aspira tudo. Podemos construir um conjunto de ferramentas que ajude as pessoas com isso? Ser capaz de invocar o conhecimento de especialistas é um superpoder, e precisamos descobrir como isso será daqui em diante.
Quando eu editar esta entrevista, vou condensar nossa longa conversa em uma versão mais curta, mas não vou usar IA para isso. E, claro, o texto da introdução será todo meu. Na verdade, essa é a nossa política.
Acho que isso é algo legado, que vai desaparecer. Minha capacidade de ter uma IA como parceira de pensamento quando estou escrevendo é muito poderosa.
A IA escreve por você?
Não, não. Eu a uso para brainstorming e para um tipo de escrita mais funcional. Quando entrevisto alguém por uma hora, vou à IA e digo: “Transforme isso em algo que eu possa usar.” Não tenho tempo para redigir todas essas entrevistas.
Você não se preocupa que a IA acabe substituindo a escrita humana?
A IA é literalmente um meio, da mesma forma que palavras escritas são um meio, ou tinta ou música são meios. Quando converso com uma IA ou crio arte com ela, obtenho algo diferente do que você obtém, da mesma forma que Michelangelo e Van Gogh obtiveram coisas completamente diferentes da tinta. A ideia de que não se pode escrever com IA parecerá tão curiosa quanto a ideia de que não se pode fazer um bom retrato ou uma boa paisagem com uma câmera. Haverá pessoas que serão mestres em expressar suas ideias convocando palavras de LLMs. As pessoas costumavam andar a cavalo. Hoje, poucas fazem isso. Estamos nos primeiros dias.
https://www.wired.com/story/tech-visionary-says-the-big-ai-labs-dont-get-what-people-want
