As gigantes da internet da China estão se apressando para comprar chips de alto desempenho da Nvidia que são vitais para a construção de sistemas de inteligência artificial generativa, com pedidos que no momento somam US$ 5 bilhões, num frenesi de compras alimentado por temores de que os Estados Unidos venham a impor novos controles às exportações.
Baidu, ByteDance, Tencent e Alibaba fizeram pedidos no valor de US$ 1 bilhão para cerca de 100 mil processadores A800 da fabricante de chips americana para serem entregues este ano, segundo fontes a par da situação. Os grupos chineses também compraram outros US$ 4 bilhões em unidades de processamento gráfico (GPU, na sigla em inglês) para serem entregues em 2024, segundo disseram duas fontes próximas da Nvidia.
Restrições de Washington
O A800 é uma versão mais fraca da GPU de ponta A100 da Nvidia para centros de dados. Devido às restrições às exportações impostas por Washington no ano passado, numa tentativa de sufocar as ambições tecnológicas de Pequim, as companhias de tecnologia chinesas estão podendo comprar apenas os processadores A800, que têm uma taxa de transferência de dados mais lenta que os A100.
Com o alarde em torno da IA se intensificando no último ano, as GPUs da Nvidia se tornaram a mercadoria mais cobiçada pelas grandes empresas mundiais de tecnologia, para fornecer poder de computação para o desenvolvimento de grandes modelos de linguagem de grande escala (LLMs,) de programação de inteligência artificial.
Os grupos chineses da internet estão correndo para estocar chips A800 por temerem que o governo Biden esteja contemplando novas restrições às exportações que abarcariam até mesmo os chips enfraquecidos da Nvidia, bem como uma escassez maior de GPUs motivada pela demanda avassaladora.
“Sem esses chips da Nvidia, não podemos prosseguir com o treinamento para nenhum modelo de linguagem”, diz um funcionário da Baidu que não quis ser identificado.
As companhias estão desenvolvendo seus próprios modelos de LLM depois do sucesso do ChatGPT, o revolucionário chatbot lançado pela OpenAI (apoiada pela Microsoft) oito meses atrás.
ByteDance
A ByteDance tem várias pequenas equipes trabalhando em vários produtos de IA generativa, incluindo um chatbot de IA de codinome “Grace”, que está passando por testes internos, segundo duas fontes próximas da companhia.
A ByteDance testou uma função de IA generativa para seu aplicativo de rede social TikTok este ano, chamada TikTok Tako, que licencia o ChatGPT da OpenAI.
Dois funcionários com conhecimento direto do assunto disseram que a ByteDance já estocou pelo menos 10 mil GPUs da Nividia para apoiar suas ambições. Eles acrescentaram que a companhia também encomendou quase 70 mil chips A800 para serem entregues no ano que vem e avaliados em cerca de US$ 700 milhões.
Alibaba
A Alibaba pretende conectar todos os seus produtos em seu modelo LLM, incluindo sua plataforma de compras online Taobao e sua ferramenta de mapeamento Gaode Map.
Baidu
Enquanto isso, a Baidu está com seu próprio projeto nos moldes do ChatGPT, um chatbot de IA generativa chamado “Ernie Bot”.
Baidu, ByteDance, Tencent e Alibaba não quiseram comentar.
A Nvidia disse em um comunicado: “As empresas de consumo da internet e provedores de nuvem investem bilhões de dólares em componentes de centros de dados todos os anos, frequentemente fazendo pedidos com muitos meses de antecedência”.
Estoque de chips
No início deste ano, com a empolgação com a IA ganhando força, a maiorias das gigantes chinesas da internet tinha menos de uns poucos milhares de chips em estoque, que poderiam ser usados para treinar modelos de linguagem de grande escala, segundo vários funcionários de empresas chinesas de tecnologia. Como a demanda aumentou desde então, o mesmo aconteceu com o custo desses chips.
“O preço do A800 nas mãos dos distribuidores aumentou mais de 50%”, disse um distribuidor da Nvidia.
Tencent Cloud
A Tencent Cloud anunciou em abril um novo cluster de servidores (centro de computação para outros alugarem) que usa GPU H800 da Nvidia, uma versão de seu modelo mais recente H100 adaptada para a China e que pode capacitar o treinamento de LLM, a direção autônoma e a computação científica.
ChatGPT na China
A Alibaba Cloud também recebeu milhares de chips H800 da Nvidia, e muitos clientes já contataram a companhia em busca de serviços de computação em nuvem alimentados por esses chips, para ajudá-los a replicar o ChatGPT na China, segundo fontes próximas da Alibaba.
A ByteDance fornece dispositivos de computação em nuvem com chips Nvidia A800 e A100. Ela também lançou em junho uma plataforma para empresas testarem diferentes serviços de LLM.
