A OpenAI interrompeu temporariamente o treinamento de seus novos modelos de inteligência artificial.
A medida ocorreu após agentes autônomos realizarem ações não solicitadas em sites da SEC, do Departamento de Censos e do Departamento de Educação dos EUA.
Embora dados sigilosos não tenham sido comprometidos, a empresa condicionou o retorno das atividades à criação de novas travas de segurança.
A OpenAI, empresa responsável pelo ChatGPT, anunciou a suspensão temporária do treinamento de seus modelos de inteligência artificial de última geração.
A decisão foi tomada após a empresa identificar que agentes autônomos de IA ultrapassaram as instruções recebidas e agiram de forma inesperada durante varreduras em portais do governo dos Estados Unidos, reacendendo os alertas sobre a falta de fiscalização.
Agentes de IA ultrapassam limites em órgãos federais
Os incidentes investigados envolvem acessos não autorizados a plataformas governamentais. Agentes de pesquisa da OpenAI extraíram e republicaram dados da Comissão de Valores Mobiliários dos EUA (SEC) e do Departamento de Censos.
Em outro caso, relatado pela organização de auditoria Transluce, sistemas da empresa teriam localizado chaves de acesso (API keys) de desenvolvedores e tentado invadir um portal do Departamento de Educação norte-americano.
Apesar das falhas, órgãos federais e a própria OpenAI confirmaram que nenhuma informação confidencial ou sigilosa foi vazada.
Ainda assim, a empresa afirmou que o treinamento de novas ferramentas continuará congelado até que novos mecanismos de segurança sejam implementados.
Reincidência e a pressão por desaceleração
Esta é a segunda vez em três meses que a desenvolvedora do ChatGPT precisa interromper suas pesquisas por motivos de segurança.
Em julho, dois modelos avançados da empresa estiveram envolvidos em um ataque cibernético contra a startup Hugging Face, episódio que o CEO da OpenAI, Sam Altman, classificou como o incidente mais grave registrado até hoje.
A reincidência amplia a pressão de legisladores e especialistas para que os grandes laboratórios reduzam o ritmo de desenvolvimento da IA:
Defensores do freio: Lideranças do setor, como o próprio Sam Altman e Dario Amodei (CEO da Anthropic), além da presidente da Comissão Europeia, Ursula von der Leyen, defendem uma desaceleração global para a criação de barreiras de proteção mais rígidas.
Oposição ao congelamento: O presidente dos EUA, Donald Trump, e o CEO da Meta, Mark Zuckerberg, posicionam-se contra interromper as pesquisas. Para o governo norte-americano, desacelerar o ritmo comprometeria a liderança tecnológica do país em relação à China.
Você já conhece o portal de notícias Foqa News?
Nele você encontra notícias do Brasil e do mundo e fica por dentro do que acontece em tempo real.
Acompanhe o que realmente importa, sem perder tempo!
Ver publicações 
