Trabalhadores do Google querem que empresa abandone projeto do Pentágono

Milhares de empregados do Google, entre os quais dezenas de engenheiros seniores, assinaram uma carta de protesto contra o envolvimento da empresa em um programa do Departamento de Defesa norte-americano que usa inteligência artificial para interpretar imagens de vídeo, e que poderia ser usado para aprimorar a identificação de alvos para ataque por aeronaves de pilotagem remota (drones).
A carta, que está circulando dentro do Google e já foi assinada por mais de 3,1 mil funcionários, reflete um choque de cultura entre o Vale do Silício e o governo federal dos Estados Unidos, que deve se intensificar à medida que técnicas avançadas de inteligência artificial passarem a ser empregadas para fins militares.
“Acreditamos que o Google não deveria participar do negócio da guerra”, afirma a carta, endereçada a Sundar Pichai, o presidente-executivo da empresa. A carta pede que o Google se retire do Projeto Maven, um programa piloto do Pentágono, e que anuncie que, como norma, “jamais construirá tecnologia de guerra”.
Esse tipo de postura idealista, embora certamente não seja comum a todos os empregados do Google, parece natural em uma empresa cujo lema é “não faça o mal”, expressão invocada na carta de protesto.
Mas em Washington, no imenso setor de defesa norte-americano, e certamente no Pentágono, ela parece distintamente estranha. Afinal, o secretário da Defesa norte-americano, Jim Mattis, costuma repetir que um de seus objetivos centrais é aumentar a “letalidade” das forças armadas norte-americanas.
Desde o seu surgimento o Google encoraja seus funcionários a se pronunciarem sobre as questões que afetam a empresa. Oferece fóruns de mensagens e redes sociais internos nos quais os trabalhadores podem contestar os dirigentes e uns aos outros, quanto aos produtos e normas da empresa.
Recentemente, um acalorado debate sobre os esforços do Google para criar uma força de trabalho que exibisse mais diversidade acabou vazando.
PETIÇÕES
Empregados colocaram em circulação petições de protesto sobre diversas questões, entre as quais o Google Plus, o serviço de redes sociais da companhia, que nunca se provou capaz de competir com o Facebook, e o patrocínio do Google à Conferência de Ação Política Conservadora.
Empregados expressaram dúvidas quanto ao envolvimento do Google no Projeto Maven em uma recente reunião interna do pessoal da empresa. Diane Greene, que comanda a área de infraestrutura em nuvem do Google, defendeu o acordo, durante a reunião, e tentou atenuar as preocupações dos empregados. Um porta-voz da empresa disse que a maioria das assinaturas da carta foi recolhida antes que a companhia tivesse oportunidade de explicar a situação.
A empresa subsequentemente descreveu seu trabalho no Projeto Maven como “não ofensivo”, ainda que a análise de imagens em vídeo pelo Pentágono seja usada rotineiramente para orientação operações de combate ao terrorismo e insurgências, e que publicações do Departamento de Defesa deixem bem claro que o projeto oferece apoio a essas operações. Tanto o Google quanto o Pentágono afirmam que os produtos da companhia não criariam sistemas de armas autônomos e capazes de disparar sem operador humano, uma possibilidade muito debatida quando o assunto são os usos da inteligência artificial.
Mas melhorar a capacidade de análise dos vídeos obtidos por drones poderia facilitar a identificação de alvos humanos para ataque, e também identificar com mais precisão a presença de civis, para reduzir o número de vítimas civis acidentais.
Sem se referir diretamente à carta enviada a Pichai, o Google afirmou na terça-feira que “qualquer uso militar do aprendizado por máquina desperta questões válidas”. A empresa acrescentou que “estamos ativamente engajados em uma discussão abrangente sobre esse importante tópico, em toda a companhia”. O Google definiu esse diálogo como “imensamente importante e benéfico”, ainda que diversos empregados da empresa informados sobre a carta tenham afirmado que só discutiriam o assunto sob a condição de que seus nomes não fossem revelados, porque temem retaliação.
A declaração do Google afirma que a parte da empresa no Projeto Maven “foi definida especificamente para que não tivesse propósitos ofensivos”, ainda que representantes da empresa se tenham recusado a mostrar os trechos relevantes do contrato. O Departamento de Defesa afirmou que, porque a participação do Google no Projeto Maven é como subcontratado da ECS Federal, a empresa líder do projeto, não é possível revelar os montantes envolvidos ou os termos do contrato do Google. A ECS Federal não respondeu a pedidos de comentários.
O Google informou que o Pentágono estava usando “software de fonte aberta para reconhecimento de objetos, disponível para qualquer cliente da Google Cloud”, e baseado em dados não sigilosos. “Essa tecnologia é usada para rotular imagens para revisão humana, e tem por objetivo salvar vidas e evitar que pessoas precisem executar um trabalho altamente tedioso”, disse a companhia.
LIGAÇÕES
Alguns dos principais executivos do Google têm conexões significativas com o Pentágono. Eric Schmidt, antigo chairman executivo do Google e ainda membro do conselho da Alphabet, a holding da empresa, é parte de um órgão consultivo do Departamento de Defesa, o Conselho de Inovações para a Defesa; Milo Medin, vice-presidente do Google, também é membro do conselho”.
Em entrevista em novembro, Schmidt admitiu “uma preocupação geral na comunidade da tecnologia de que o complexo industrial-militar venha de alguma forma a usar seus produtos para matar pessoas incorretamente, por assim dizer”. Ele disse que fazia parte do conselho em parte para “ao menos permitir que exista comunicação”, e acresceu que as forças armadas “usariam essa tecnologia para a ajudar a manter a segurança do país”.
A inquietação quanto a contratos militares por parte de uma pequena fração dos mais de 70 mil empregados do Google pode não representar grande obstáculo para o crescimento da companhia. Mas no rarefeito campo da pesquisa de inteligência artificial, o Google está envolvido em intensa concorrência com outras empresas de tecnologia pelos profissionais talentosos, e por isso suas contratações poderiam sofrer se alguns candidatos a emprego reprovarem as conexões da empresa com a área de defesa.
Enquanto o Google defende seus contratos contra dissensão interna, alguns de seus concorrentes não hesitam em destacar seu trabalho em projetos de defesa. A Amazon alardeia seu trabalho no ramo de reconhecimento de imagens para o Departamento de Defesa, e a Microsoft enfatiza o fato de que sua tecnologia de computação em nuvem conquistou um contrato para lidar informações sigilosas de todos os ramos das forças armadas e agencias de defesa.
A disputa atual, reportada inicialmente pelo site de notícias tecnológicas Gizmodo, tem por foco o Projeto Maven, iniciado no ano passado como programa piloto para encontrar maneiras de acelerar a aplicação pelas forças armadas das tecnologias mais recentes de inteligência artificial. Uma porta-voz do Pentágono afirmou que a expectativa de custo para o programa era de US$ 70 milhões em seu primeiro ano. Mas os signatários da carta ao Google claramente esperam desencorajar a empresa de buscar contratos muito maiores com o Pentágono, à medida que crescem as aplicações militares da inteligência artificial.
O Google deve concorrer com outros gigantes da tecnologia, entre os quais Amazon e Microsoft, por um contrato multibilionário e plurianual para oferecer serviços de computação em nuvem ao Departamento de Defesa. John Gibson, vice-presidente de administração do Pentágono, disse no mês passado que o programa Enterprise Defense Infrastructure Cloud havia sido desenvolvido em parte para “aumentar a letalidade e a prontidão”, o que destaca como é difícil separar software, computação em nuvem e serviços correlatos das atividades de guerra propriamente ditas.
A carta de protesto dos empregados a Pichai, que vem circulando no sistema interno de comunicação da empresa há semanas, argumenta que aceitar trabalho militar poderia ter consequências adversas, ao alienar clientes e potenciais recrutas.
“Esse plano prejudicará irreparavelmente a marca do Google e sua capacidade de competir por talentos”, a carta afirma. “Em meio ao medo crescente de uma inteligência artificial distorcida e tornada arma, o Google já vem enfrentando dificuldades para manter a confiança do público”. O texto sugere que o Google corre o risco de ser visto como mais um integrante do setor de defesa, ao lado de gigantes como a Raytheon, General Dynamics e Palantir, uma empresa de big data.
“O argumento de que outras empresas, como a Microsoft e a Amazon, também estão participando não reduz os riscos para o Google”, a carta diz. “A história única do Google, seu lema ‘não faça o mal’ e seu alcance direto às vidas de bilhões de usuários o diferenciam”.
Como outras empresas que surgiram pequenas e se tornaram gigantes do Vale do Silício, o Google está sendo forçado a confrontar o idealismo que orientava a empresa em seus primeiros anos. O Facebook começou com a altaneira missão de conectar as pessoas de todo o mundo, mas recentemente vem sofrendo ataques por ter se tornado veículo para notícias falsas e por ter sido usado pela Rússia para influenciar a eleição norte-americana de 2016 e semear a dissensão no eleitorado dos Estados Unidos.
Paul Scharre, ex-funcionário do Pentágono e autor de “Army of None” [exército de ninguém], livro que será lançado em breve e trata do uso de inteligência artificial para criar armas autônomas, disse que o conflito interno no Google era inevitável, dado o histórico da empresa e a demanda florescente por inteligência artificial da parte das forças armadas.
“O pessoal da tecnologia tem um lado libertário forte, e eles encaram com cautela o uso de sua tecnologia pelo governo”, disse Scharre, pesquisador sênior no Center for a New American Security, em Washington. “Agora, a inteligência artificial está súbita e rapidamente saindo do laboratório de pesquisa e chegando à vida real”.

https://www1.folha.uol.com.br/mercado/2018/04/trabalhadores-do-google-querem-que-emprese-abandone-projeto-do-pentagono.shtml

Comentários estão desabilitados para essa publicação