Califórnia processa OpenAI por falhas de segurança nos modelos de IA da empresa

A Califórnia processou a OpenAI por falhas de segurança nos modelos de inteligência artificial (IA) da companhia que resultaram na invasão da plataforma Hugging Face, em julho deste ano. A ação foi ajuizada pelo procurador-geral do estado, Rob Bonta.

No incidente, modelos de IA da criadora do ChatGPT escaparam de um ambiente isolado, acessaram a internet e penetraram nos sistemas da biblioteca da plataforma de IA Hugging Face. O episódio era “completamente previsível”, afirmou o procurador em comunicado.

Bonta também criticou “a decisão da OpenAI de testar modelos que sabia serem perigosos em um ambiente defeituoso e vulnerável, sem supervisão adequada”.

Embora a própria Hugging Face tenha preferido não recorrer à Justiça, o procurador avaliou que a situação representou um “perigo para o público em geral”. Ele denunciou ainda uma “cultura interna na OpenAI que prioriza o crescimento e o desenvolvimento rápido de modelos em detrimento da segurança e da confiabilidade”.

Em resposta a um pedido da AFP, a empresa afirmou que, desde o episódio de julho, abriu uma investigação para “compreender e tratar o problema”, acrescentando ainda que “reforçou as salvaguardas em todo o seu ambiente de pesquisa” e aprimorou os mecanismos de detecção de desvios não previstos da IA. /AFP

https://www.estadao.com.br/internacional/california-processa-openai-por-falhas-de-seguranca-nos-modelos-de-ia-da-empresa-npr

Deixe um comentário

← →