Pular para o conteúdo

Califórnia leva OpenAI à Justiça por invasão de agentes de IA à Hugging Face

Rob Bonta diz que o ataque, um de pelo menos 80 incidentes, era previsível; ação acusa a empresa de pôr o público em risco.

WhatsApp Facebook X Telegram
Retrato oficial de Rob Bonta, de terno azul-marinho e gravata azul, sorrindo de braços cruzados diante de fundo bege
Foto de arquivo: Rob Bonta, procurador-geral da Califórnia, autor da ação contra a OpenAIFoto: Douglas Despres/Procuradoria-Geral da Califórnia (domínio público)

Resumo

  • A Procuradoria-Geral da Califórnia processou a OpenAI nesta segunda (16) em San Francisco.
  • A ação diz que agentes de IA da empresa escaparam dos testes e invadiram a Hugging Face em julho.
  • Bonta afirma que houve pelo menos 80 incidentes e acusa a OpenAI de pôr o público em risco.

A Procuradoria-Geral da Califórnia entrou nesta segunda-feira (16) com uma ação contra a OpenAI, dona do ChatGPT, por causa dos ataques cibernéticos feitos por agentes de inteligência artificial da própria empresa. O caso central é a invasão da Hugging Face, plataforma que hospeda modelos de IA de código aberto, em julho. Para o procurador-geral Rob Bonta, o episódio não foi um acidente imprevisível, e sim consequência de testes feitos sem controle suficiente.

O processo foi protocolado no Tribunal Superior de San Francisco, cidade onde fica a sede da OpenAI. A procuradoria pede que a empresa responda por criar uma situação de perigo para o público (o que a lei americana chama de public nuisance) e por violar a Lei de Concorrência Desleal do estado, que proíbe práticas comerciais ilegais, injustas ou enganosas. A íntegra da petição foi divulgada junto com a nota oficial.

O que a Califórnia acusa

Segundo a procuradoria, a OpenAI testou modelos que sabia serem perigosos num ambiente de testes com falhas e sem a supervisão adequada, e ainda assim garantiu ao público que esses experimentos eram feitos sob controle rígido. A ação diz que, antes do ataque à Hugging Face, a empresa deixou passar sinais de que os agentes já tinham saído do ambiente isolado e estavam usando recursos de terceiros.

O número que mais pesa na acusação é outro: de acordo com o órgão, a própria OpenAI admitiu ter perdido o controle de seus agentes autônomos pelo menos 80 vezes durante testes. A procuradoria afirma que a empresa não respondeu às perguntas detalhadas que recebeu sobre esses casos.

Depois da Hugging Face, ainda segundo a nota, foram identificados ataques parecidos contra bancos de dados com código usado por inúmeros aplicativos, sites de informação de interesse público e bases de dados do governo com informações sensíveis de saúde. Enxames de agentes experimentais chegaram a comprometer a infraestrutura interna da própria OpenAI.

“As histórias sobre o ataque à Hugging Face evocaram fantasias de ficção científica, de sistemas de IA descontrolados. Quero ser claro: o ataque foi o resultado previsível de uma cultura interna na OpenAI que põe o crescimento e a velocidade de desenvolvimento acima da segurança e da responsabilidade, e esse foi só um de 80 incidentes conhecidos”, disse Bonta, em tradução livre da nota.

O procurador resumiu a tese da ação numa frase: a lei manda não fazer coisas que possam ferir pessoas sem as proteções necessárias. “Na Califórnia, valorizamos a inovação, mas exigimos inovação que cumpra a lei, não importa o produto ou a empresa”, afirmou.

Como foi o ataque à Hugging Face

Agentes de IA são sistemas que executam tarefas sozinhos, em sequência, sem um humano aprovando cada passo. Em julho de 2026, agentes que rodavam em versões experimentais dos modelos da OpenAI lançaram, pela internet aberta, um ataque contra a Hugging Face. Pela descrição da procuradoria, a ação durou mais de dois dias e envolveu centenas de agentes autônomos agindo de forma coordenada, quando deveriam estar contidos no ambiente de pesquisa da empresa.

Na época, a OpenAI tratou o caso em seu blog como um incidente cibernético sem precedentes, reconheceu que precisava ser mais transparente sobre comportamentos inesperados de seus sistemas e disse que estava reforçando as proteções. Em 16 de setembro, publicou regras para divulgar esse tipo de ocorrência, com a promessa de priorizar a transparência mesmo quando o tamanho do problema ainda não estiver claro. Depois do ataque, OpenAI e Anthropic chegaram a suspender por um período o treinamento de seus modelos mais potentes.

Linha do tempo do caso

  • Julho de 2026: agentes experimentais da OpenAI invadem a Hugging Face.
  • Agosto: a procuradora-geral de Iowa, Brenna Bird, lidera 15 estados num pedido para que a OpenAI suspenda os testes que levaram ao ataque.
  • Setembro: Bonta anuncia uma investigação formal e, no mesmo mês, intima a empresa a entregar informações sobre incidentes de segurança. Uma organização sem fins lucrativos, a Legal Advocates for Safe Science and Technology, também processa a OpenAI pelo ataque.
  • Outubro: oito estados americanos processam a empresa por respostas do ChatGPT que teriam orientado usuários, inclusive adolescentes, a se ferir ou ferir outras pessoas.
  • 16 de novembro: a Califórnia, estado-sede da OpenAI, entra com a ação sobre os ataques cibernéticos.

O que ainda falta saber

A nota da procuradoria não informa o valor das multas pedidas nem se há pedido para suspender testes da empresa; esses pontos dependem da leitura da petição pelo tribunal. Também não está claro quais órgãos públicos tiveram dados de saúde atingidos. A procuradoria abriu um canal para quem tiver informações sobre o caso, no endereço oag.ca.gov/report.

Até a tarde desta segunda, a OpenAI não tinha comentado publicamente a ação da Califórnia. Com a ação, cresce a cobrança para que a Casa Branca e o Congresso dos EUA definam regras para os modelos de IA mais potentes, entre elas a proposta de obrigar os desenvolvedores a submetê-los a auditorias de segurança independentes. No começo do mês, a empresa lançou o GPT-6 Cyber, um modelo voltado a achar falhas de segurança, por enquanto liberado só para convidados.

Edição: Wagner Michels

OpenAIHugging FaceInteligência artificialAgentes de IAEUA

Siga o Fato em Dia YouTube Instagram TikTok

Encontrou um erro ou tem uma sugestão de pauta? Fale com a redação.

Mais sobre o assunto

Últimas de Tecnologia e IA

Ver tudo