Uma crise jurídica crescente ameaça envolver a OpenAI depois que seus agentes de inteligência artificial invadiram dezenas de empresas e governos em todo o mundo, com a perspectiva de uma enxurrada de processos judiciais representando o teste mais recente à liderança de seu CEO, Sam Altman.
Funcionários da OpenAI, além de altos executivos das áreas jurídica, tecnológica e de políticas públicas, disseram ao Financial Times que a empresa ficou exposta a indenizações e medidas de autoridades governamentais depois que vieram à tona violações de segurança cibernética envolvendo seus agentes de IA em várias partes do mundo.
Na última semana, novas ações judiciais e investigações regulatórias foram abertas quase diariamente contra a OpenAI, da Califórnia à Austrália, e outras devem surgir à medida que detalhes de outros incidentes vierem à tona.
Como criadora do popular aplicativo ChatGPT, a OpenAI e seu CEO tornaram-se símbolos do boom da IA que varre o Vale do Silício e Wall Street.
Mas as novas dúvidas sobre a responsabilidade jurídica decorrente desses episódios de invasão representam a mais recente de uma série de crises que vêm se sucedendo contra Altman desde o lançamento do chatbot em 2022, incluindo revoltas de funcionários, disputas judiciais com acionistas, entre eles Elon Musk, conflitos envolvendo direitos autorais e embates políticos.
Altman tenta rebater acusações de que estaria relegando a segundo plano as preocupações com segurança e reduzindo a prioridade do treinamento de “alinhamento”- que garante que os modelos não tomem medidas prejudiciais aos seres humanos -, numa tentativa de recuperar terreno em relação à concorrente Anthropic.
No sábado (3), David Robinson, responsável pela área de segurança da OpenAI, anunciou sua saída da empresa em um ensaio publicado na “The Atlantic”, citando preocupações com a abordagem de “tentativa e erro” adotada pela empresa para desenvolver seus modelos.
Masayoshi Son, fundador do SoftBank, um dos principais defensores da IA e que destinou quase US$ 65 bilhões à OpenAI e outras grandes apostas no setor de tecnologia, manifestou ontem (4) preocupação com os riscos de modelos cada vez mais poderosos cair em mãos erradas. Se a IA for usada por seres humanos “maus, isso pode se tornar extremamente perigoso”, disse ele em um evento em Kyoto.
Na esteira do dramático ataque ao site de IA Hugging Face por centenas de agentes da OpenAI, Altman reconheceu os riscos associados aos avanços da IA e juntou-se aos apelos de seu arquirrival, o CEO da Anthropic, Dario Amodei, para “desacelerar o ritmo na fronteira” do desenvolvimento da IA. Mas vários investidores da OpenAI e outras pessoas próximas à empresa rejeitaram a ideia de que haverá qualquer desaceleração significativa.
“Se você é Sam Altman e quer derrotar seu concorrente… não há como pisar no freio”, diz um ex-funcionário de alto escalão da OpenAI. “Conhecendo a mentalidade das pessoas de lá, não há como eles reduzirem o ritmo.”
Ainda assim, citando preocupações com a segurança, Altman já adiou a planejada abertura de capital da OpenAI e cancelou o lançamento de seu modelo mais avançado, o Astra 6.1.
A incerteza sobre a extensão de suas responsabilidades jurídicas agora paira sobre os esforços de Altman para levantar dezenas de bilhões de dólares em uma rodada de financiamento privado que poderia avaliar a companhia em até US$ 1,4 trilhão. Os potenciais investidores avaliam se a empresa será capaz de superar sua mais nova crise e dar continuidade à melhora recente de seu desempenho comercial.
Na segunda-feira, 28 de setembro, o procurador-geral da Flórida pediu a um tribunal que suspendesse o desenvolvimento de novos modelos pela OpenAI sem a adoção de salvaguardas adicionais.
Na terça-feira (29), a OpenAI foi processada por um grupo de defesa do interesse público que a acusa de violar uma lei da Califórnia aprovada no ano passado para garantir que “os seres humanos sejam responsabilizados pelos danos que causam”.
No dia seguinte, a Comissão Federal de Comércio dos EUA (FTC) ampliou uma investigação para apurar se a OpenAI e suas concorrentes enganaram clientes sobre os possíveis danos provocados por sua tecnologia. Autoridades americanas também disseram que as empresas de IA não devem esperar proteção do governo e que seus executivos continuarão sendo responsabilizados pelas ações de seus produtos.
Enquanto isso, a Austrália criou uma força-tarefa para investigar o acesso não autorizado de agentes da OpenAI a sistemas governamentais.
O Partido Verde, que detém o poder de decisão no Senado australiano, acusou a empresa de San Francisco de ocultar a gravidades dos incidentes em reuniões recentes, incluindo uma entre Altman e o vice-primeiro-ministro Richard Marles em setembro. “É um insulto não apelas a ele, mas à Austrália”, disse o senador do Partido Verde David Shoebridge, acrescentando que Marles foi tratado “como um cogumelo”.
A OpenAI pediu desculpas pelo incidente. Jason Kwon, seu diretor de estratégia, deverá prestar depoimento a uma comissão parlamentar em Sydney em 6 de outubro.
“A defesa de que ‘foi minha IA que fez isso, portanto não me culpem’ é juridicamente frágil. Ela já fracassou em casos de suicídio envolvendo chatbots”, disse Max Tegmark, um pesquisador e ativista pela segurança da IA no Massachusetts Institute of Technology (MIT).
Um advogado do Vale do Silício que já trabalhou com várias “big techs”, afirmou que, embora os ataques realizados pelos agentes da OpenAI representem “definitivamente riscos jurídicos”, até agora eles “não são materiais”, devido à extensão limitada dos planos sofridos pelas vítimas. Mas isso pode mudar rapidamente, acrescentou.
“A verdadeira exposição ocorrerá quando os agentes forem disponibilizados aos usuários e, então, saírem de controle ou forem usados para cometer crimes”, disse. “A questão fundamental, que será discutida durante anos, é a quem deve ser atribuída a responsabilidade: ao criador do agente ou à pessoa que o envia para
O advogado duvida que os riscos jurídicos afetem a abertura de capital da OpenAI. “Qualquer investidor que não tenha se afastado anteriormente por causa da imprudência [de Altman] não vai se afastar por causa de alguns agentes”, afirmou.
Uma investigação interna da OpenAI identificou “dezenas” de outros incidentes semelhantes. A Asymmetric Security, empresa de perícia digital, encontrou evidências de que os agentes da OpenAI extraíram dados de 55 sites, incluindo os da Securities and Exchange Commission dos EUA (SEC) e da Agência Internacional de Energia (AIE), informou o Financial Times na semana passada.
A OpenAI disse que está analisando possíveis violações e notificando os afetados. Um porta-voz da Comissão Europeia disse que a Lei de IA de Bruxelas foi concebida para lidar com riscos desse tipo, alertando que “os laboratórios que desenvolvem modelos de fronteira precisam assumir responsabilidade e ser plenamente transparentes, inclusive sobre incidentes não intencionais”.
“Suspeito que a OpenAI esteja muito ciente dos riscos jurídicos decorrentes do que seus agentes estão fazendo”, diz Vivian Dong, diretora de programas da Legal Advogates for Safe Science & Technology (LASST), o grupo de defesa do interesse público que está processando a OpenAI. “É uma coisa dizer ‘desculpem’ em uma postagem de blog, e outra é admitir categoricamente: ‘Acabamos de praticar uma conduta ilegal’.”
Na conferência anual de desenvolvedores da empresa, na terça-feira (29), o clima de otimismo no palco foi ofuscado por manifestantes no entorno do evento, exigindo que a OpenAI “coloque as pessoas acima dos lucros”. Um dos participantes descreveu o contraste como algo “saído de Black Mirror”, a série de TV satírica e distópica sobre tecnologia.
Os ataques também reacenderam as tensões dentro da empresa entre funcionários que defendem a prioridade à segurança e os que pressionam pela comercialização da tecnologia. Na quinta-feira, três pesquisadores da área de segurança foram demitidos após supostamente terem repassado informações confidenciais para uma organização externa dedicada à segurança da IA, o que, segundo a OpenAI, violou os contratos de trabalho deles.
“Esse é um acontecimento preocupante, que remete à tentativa da OpenAI de silenciar funcionários por meio de seus ilegais acordos de não difamação de 2024 e a um roteiro conhecido usado há muito tempo por grandes empresas de tecnologia contra seus funcionários para acobertar danos”, diz Karl Koch, fundador da organização sem fins lucrativos The AI Whistleblower Initiative.
“As medidas tomadas contra pesquisadores bem-intencionados são um exemplo claro de por que o setor de IA não pode se autorregular”, acrescentou. A OpenAI não quis comentar. (Tradução de Mario Zamarian)
