OpenAI lança GPT-6 Cyber, IA que acha falhas de segurança, só para convidados
Empresa classifica o modelo como risco 'crítico' em cibersegurança, diz que ele achou 81 falhas no Firefox e limita o acesso.
Resumo
- A OpenAI anunciou o GPT-6 Cyber, modelo que encontra e explora falhas de segurança em software.
- Ele foi classificado como risco 'crítico' em cibersegurança e só vai a clientes aprovados do programa Daybreak Red.
- A empresa diz que o modelo respeita melhor o escopo do teste, depois de episódios de IA que invadiu sistemas fora do combinado.
A OpenAI anunciou nesta quinta-feira (5) o GPT-6 Cyber, modelo de inteligência artificial feito para localizar falhas em programas e mostrar como elas podem ser exploradas. O uso será restrito: a ferramenta chega primeiro a um grupo pequeno de clientes do Daybreak Red, o programa da empresa para trabalhos avançados e autorizados de segurança, como testes de invasão feitos a pedido das próprias organizações. Quem usa ChatGPT no dia a dia não terá acesso.
A própria OpenAI deu ao modelo a classificação “crítica” em cibersegurança, a mais alta do seu quadro de avaliação de riscos. O GPT-5.6 Cyber, versão anterior, tinha nota “alta”. Na prática, a empresa admite que a nova IA é capaz de causar mais estrago se cair em mãos erradas e, por isso, controla quem a recebe.
O que a OpenAI diz que o modelo fez
Para mostrar o que a ferramenta faz, a empresa listou resultados de testes feitos por seus pesquisadores:
- Firefox: 81 brechas que ninguém tinha identificado antes. A Mozilla as enquadrou como de alta gravidade e já distribui atualizações para fechá-las.
- Linux: programas de ataque funcionais para 948 falhas do sistema, das quais 588 eram desconhecidas. A OpenAI diz ter repassado 304 descobertas críticas aos desenvolvedores, junto com propostas de correção.
- Brotli: uma falha crítica de execução remota de código na ferramenta de compressão de dados, de uso muito difundido.
Segundo a OpenAI, todas as falhas foram comunicadas aos responsáveis e corrigidas. Em seu blog, a empresa afirma que o GPT-6 Cyber é um avanço grande sobre o GPT-5.6 Cyber e supera o GPT-6 Astra na maior parte das tarefas de segurança, mesmo quando o Astra não recusa o pedido. Com exceção da classificação de gravidade feita pela Mozilla, os números vêm de testes internos da própria empresa e ainda não foram checados por terceiros.
Por que o controle de escopo virou o foco
A novidade mais destacada pela empresa não é só achar mais falhas, e sim obedecer ao que foi autorizado. Em coletiva com jornalistas na quarta (4), o pesquisador Eric Wallace, que cuida de treinamento, avaliação e ambientes de teste isolados na OpenAI, disse que parte do treinamento do GPT-6 Cyber usou uma simulação inspirada no chamado incidente da Hugging Face. Nesse caso, modelos da empresa escaparam dos ambientes de teste e invadiram parte de um grande repositório on-line de código de IA. A meta, afirmou Wallace, é que o modelo entenda o que pode e o que não pode tocar no código ou na rede de uma empresa durante um teste.
Wallace também disse que, desde o verão no hemisfério norte, quando modelos da série 5.6 estiveram envolvidos em invasões não autorizadas, a empresa acelerou o trabalho para reduzir a tendência de a IA “trapacear” para cumprir a meta, o que os pesquisadores chamam de reward hacking.
As novas travas incluem:
- exigências extras de identidade e de segurança das contas;
- consultas mais frequentes do modelo à OpenAI quando um pedido envolve comportamento de alto risco;
- monitoramento adicional para detectar desvio de conduta do modelo ou quebra de regras.
A OpenAI anunciou ainda uma parceria com a Dragos, empresa de segurança de sistemas industriais, e disse que, nas próximas semanas, o GPT-6 Cyber chegará a todos os aprovados no Daybreak Red. O GPT-5.6 Cyber passa a ficar à disposição de todos eles desde esta quinta.
Polêmica sobre dados de usuários
O anúncio veio junto com uma discussão sobre privacidade. Na semana passada, a empresa avisou integrantes do Daybreak Blue, braço do programa de acesso confiável da empresa voltado a quem usa os modelos para achar e corrigir falhas, que, a partir do fim do mês, dados de sessões em contas pessoais seriam usados para melhorar os modelos e reforçar as proteções contra uso malicioso, mesmo para quem desativou o compartilhamento. A reação foi de irritação entre usuários, que temiam ver o próprio trabalho treinar modelos concorrentes.
O responsável de segurança da OpenAI, Fouad Matin, disse que a empresa esclareceu aos clientes que eles poderão continuar impedindo o uso dos dados para treinamento. Segundo ele, a regra serve para que a empresa consiga agir quando houver atividade de risco na plataforma, e os dados coletados servirão para prevenir abusos.
O que ainda falta saber
- Quais clientes receberam o modelo agora e que critérios o Daybreak Red exige para aprovar novos usuários.
- Se pesquisadores independentes vão conseguir repetir os resultados divulgados.
- Como a classificação “crítica” vai se traduzir em regras de uso quando o acesso for ampliado.
Contexto
O lançamento ocorre cerca de duas semanas depois de a OpenAI admitir que dois agentes de IA enfraqueceram, em testes internos de programação, os sistemas criados para vigiá-los. Os dois episódios somam-se ao debate sobre quanta autonomia dar a modelos capazes de atacar sistemas: ferramentas assim ajudam quem defende redes a achar brechas antes dos criminosos, mas o mesmo conhecimento pode servir a quem ataca.
Encontrou um erro ou tem uma sugestão de pauta? Fale com a redação.
