Em meio à ‘Guerra Fria tecnológica’, EUA e China começam a conversar sobre riscos de IA

The Washington Post; Os EUA e a China vão ter suas primeiras conversas sobre os riscos da inteligência artificial (IA) na terça-feira, 14, em Genebra, enquanto os dois governos buscam evitar acidentes desastrosos e guerras não intencionais em meio a uma corrida armamentista pela tecnologia.

“Estamos focados em como os dois lados definem risco e segurança aqui”, disse um funcionário sênior do governo Biden a repórteres na semana passada, falando sob condição de anonimato para discutir as expectativas para as negociações.

Seth Center, enviado adjunto do Departamento de Estado para tecnologias críticas e emergentes, e Tarun Chhabra, diretor sênior de tecnologia e segurança nacional do Conselho de Segurança Nacional, vão liderar a delegação dos EUA, disse o funcionário do governo. A China será representada por funcionários do Ministério das Relações Exteriores e da Comissão Nacional de Desenvolvimento e Reforma, a agência central de planejamento econômico do país.

A IA tem se destacado na rivalidade entre os EUA e a China, com ambos os governos dando prioridade à tecnologia. Algoritmos sofisticados de computação podem dar a uma nação uma vantagem em áreas tão diversas como guerra, produção econômica e criação de produtos culturais. Pesquisadores dizem que a IA também pode ser aproveitada para campanhas de desinformação e ataques cibernéticos.

A IA exerce um fascínio especial sobre os militares e as agências de inteligência por seu potencial de ajudá-los a examinar mais dados brutos em segundos do que um ser humano conseguiria em uma vida inteira. As autoridades dizem que as guerras do futuro serão cada vez mais travadas com a IA ajudando a tomar decisões complexas no calor do momento.

O governo Biden impôs sanções à China em outubro com o objetivo de desacelerar seu desenvolvimento de IA, restringindo seu acesso a chips avançados, os cérebros dos sistemas de computação. As tensões entre os EUA e a China aumentaram ainda mais no mês passado, depois que o presidente Biden sancionou uma lei que proíbe a popular plataforma de vídeos curtos TikTok, a menos que ela seja vendida a um comprador não chinês.

O porta-voz da Embaixada da China, Liu Pengyu, disse em um comunicado que o diálogo entre os EUA e a China sobre IA teria efeitos para o futuro não apenas dos dois países, mas também de outras nações.

“Os dois lados têm a responsabilidade de se envolver em um diálogo franco”, disse ele.

Os funcionários do governo Biden moderaram as expectativas de resultados concretos das conversas desta semana, dizendo que não estão buscando divulgar uma declaração conjunta ou cooperar com a China na pesquisa de IA. Um funcionário descartou a ideia de que as sanções contra chips dos EUA possam ser revisadas, dizendo que Washington não negociará “medidas de segurança nacional”.

O desenvolvimento de IA da China continua atrasado em relação aos Estados Unidos, mas suas empresas de alta tecnologia, como Huawei, Alibaba e Baidu, fizeram avanços significativos. A China pode ter uma vantagem em certos aspectos, como o processo manual de rotulagem de dados que é usado para treinar modelos de IA, devido aos custos de mão de obra mais baixos do país.

Em um comentário para o think tank Brookings Institution, os acadêmicos Graham Webster e Ryan Hass sugeriram que essas conversas poderiam produzir um melhor entendimento compartilhado sobre o que constitui o uso militar permitido da IA e acordos sobre quais tipos de dados podem ser compartilhados entre fronteiras para o treinamento de modelos de IA.

As autoridades do governo não informaram se as conversas abordarão o TikTok ou a Huawei, a gigante das telecomunicações com sede na China que enfrentou sanções dos EUA. Ambas as empresas fizeram incursões em algoritmos de IA nos últimos anos.

O simples fato de manter uma linha de comunicação aberta pode ser um resultado suficiente das conversas por enquanto. Com a intensificação da desconfiança e da hostilidade, as autoridades de ambos os lados afirmam que evitar que a guerra fria de fato se torne acidentalmente quente – seja por um acidente de IA ou por um erro humano – deve ser uma prioridade política.

O termo “inteligência artificial” data da década de 1950, com pesquisas sobre computadores inteligentes mais antigas. Esses algoritmos atingiram um novo nível de sofisticação em 2015, quando a divisão DeepMind do Google revelou um programa de IA capaz de derrotar os melhores jogadores do mundo de Go, um clássico jogo de tabuleiro chinês considerado um dos jogos mais complexos de se criar estratégias.

Durante o governo Obama, o Conselho Nacional de Ciência e Tecnologia produziu um relatório em 2016 identificando a IA como um foco estratégico, recomendando que as agências federais intensificassem seus investimentos na tecnologia e mantivessem o controle sobre as nações rivais. A China definiu seu próprio plano nacional em 2017, com o objetivo de ser líder mundial em IA até 2030.

O lançamento do ChatGPT em 2022 trouxe essa corrida de desenvolvimento de IA para a visão pública, com o chatbot deixando claro para os consumidores leigos o quão avançada e amplamente útil essa tecnologia se tornou. Biden emitiu uma ordem executiva de IA em outubro, lançando um esforço de todo o governo para garantir que os Estados Unidos continuem sendo o líder mundial em tecnologia.

Mesmo com a enorme promessa de inovação da IA, um risco que as autoridades governamentais consideram preocupante é a possibilidade de os vastos conjuntos de dados conectados aos back-ends dos algoritmos de IA serem invadidos por adversários. Outro risco é o de acidentes militares devido ao mau funcionamento de sistemas automatizados.

Há também todos os tipos de questões éticas espinhosas à medida que os governos decidem exatamente o que programar para os sistemas de IA fazerem e quais margens de erro serão permitidas. O uso de algoritmos de IA pelo exército israelense para identificar indivíduos como alvos de bombardeio em Gaza, conforme relatado pela revista +972, gerou controvérsia nas últimas semanas.

https://www.estadao.com.br/link/cultura-digital/em-meio-a-guerra-fria-tecnologica-eua-e-china-comecam-a-conversar-sobre-riscos-de-ia-nesta-terca/

Deixe um comentário