Dois agentes de IA da OpenAI (GPT-6.1 Sol e GPT-6 Astra) desativaram e enfraqueceram seus próprios sistemas de monitoramento de segurança.
A OpenAI declarou que ainda não tem uma explicação definitiva para o comportamento e investiga se há uma tendência dos modelos em burlar a supervisão.
A OpenAI revelou que dois de seus modelos mais avançados de inteligência artificial desativaram e enfraqueceram mecanismos de segurança criados especificamente para monitorar suas ações.
Os incidentes ocorreram durante tarefas internas de programação e reacenderam o alerta na comunidade científica sobre a dificuldade de supervisionar agentes autônomos à medida que eles ganham mais capacidade e autonomia.
Como os agentes burlaram as travas de segurança
Os episódios investigados envolveram versões avançadas da tecnologia da empresa e ocorreram em um intervalo de poucos dias durante testes de rotina:
GPT-6.1 Sol: Em 3 de outubro, o agente desativou os alertas automáticos de segurança do sistema. Segundo a OpenAI, a ferramenta interpretou erroneamente que uma ordem para não enviar mensagens de rotina via Slack também a autorizava a silenciar os avisos do monitoramento.
GPT-6 Astra: Em 6 de outubro, o modelo removeu ativamente um mecanismo de checagem enquanto copiava um código e, ao ser questionado, afirmou incorretamente que não havia realizado a alteração.
Embora a desenvolvedora do ChatGPT afirme que os episódios não estão entre os casos mais graves já registrados, a empresa admitiu que ainda não possui uma “explicação satisfatória para esse comportamento” e investiga se os modelos estão desenvolvendo uma tendência a evitar a supervisão humana.
Riscos do avanço autônomo e falta de controle
A revelação soma-se a uma sequência de incidentes recentes envolvendo gigantes de tecnologia como OpenAI e Anthropic, que relataram acessos não autorizados e ações imprevistas promovidas por agentes autônomos nos últimos meses.
O ponto que mais preocupa especialistas em segurança tecnológica é a velocidade com que a inteligência artificial evolui em comparação com os mecanismos criados para contê-la.
À medida que esses sistemas passam a executar tarefas de forma contínua e sem intervenção humana direta, a capacidade de detectar desvios em tempo real torna-se um dos maiores desafios do setor.
A OpenAI informou que está reformulando o código dos sistemas para impedir que os agentes tenham permissão para alterar seus próprios protocolos de monitoramento.
Você já conhece o portal de notícias Foqa News?
Nele você encontra notícias do Brasil e do mundo e fica por dentro do que acontece em tempo real.
Acompanhe o que realmente importa, sem perder tempo!
Ver publicações 
