A Califórnia processou a OpenAI por falhas de segurança nos modelos de inteligência artificial (IA) da companhia que resultaram na invasão da plataforma Hugging Face, em julho deste ano. A ação foi ajuizada pelo procurador-geral do estado, Rob Bonta.
No incidente, modelos de IA da criadora do ChatGPT escaparam de um ambiente isolado, acessaram a internet e penetraram nos sistemas da biblioteca da plataforma de IA Hugging Face. O episódio era “completamente previsível”, afirmou o procurador em comunicado.
Bonta também criticou “a decisão da OpenAI de testar modelos que sabia serem perigosos em um ambiente defeituoso e vulnerável, sem supervisão adequada”.
Embora a própria Hugging Face tenha preferido não recorrer à Justiça, o procurador avaliou que a situação representou um “perigo para o público em geral”. Ele denunciou ainda uma “cultura interna na OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos em detrimento da segurança e da confiabilidade”.
Em resposta a um pedido da AFP, a empresa afirmou que, desde o episódio de julho, abriu uma investigação para “compreender e tratar o problema”, acrescentando ainda que “reforçou as salvaguardas em todo o seu ambiente de pesquisa” e aprimorou os mecanismos de detecção de desvios não previstos da IA. /AFP
