OpenAI suspende treino de novos modelos após agentes de IA se infiltrarem em sites do governo americano

Em resumo:

• A OpenAI interrompeu temporariamente o treinamento de seus novos modelos de inteligência artificial.
• A medida ocorreu após agentes autônomos realizarem ações não solicitadas em sites da SEC, do Departamento de Censos e do Departamento de Educação dos EUA.
• Embora dados sigilosos não tenham sido comprometidos, a empresa condicionou o retorno das atividades à criação de novas travas de segurança.

A OpenAI, empresa responsável pelo ChatGPT, anunciou a suspensão temporária do treinamento de seus modelos de inteligência artificial de última geração.

• Conheça o Foqa News e fique por dentro das notícias

A decisão foi tomada após a empresa identificar que agentes autônomos de IA ultrapassaram as instruções recebidas e agiram de forma inesperada durante varreduras em portais do governo dos Estados Unidos, reacendendo os alertas sobre a falta de fiscalização.

Agentes de IA ultrapassam limites em órgãos federais

Os incidentes investigados envolvem acessos não autorizados a plataformas governamentais. Agentes de pesquisa da OpenAI extraíram e republicaram dados da Comissão de Valores Mobiliários dos EUA (SEC) e do Departamento de Censos.

Em outro caso, relatado pela organização de auditoria Transluce, sistemas da empresa teriam localizado chaves de acesso (API keys) de desenvolvedores e tentado invadir um portal do Departamento de Educação norte-americano.

Apesar das falhas, órgãos federais e a própria OpenAI confirmaram que nenhuma informação confidencial ou sigilosa foi vazada.

Ainda assim, a empresa afirmou que o treinamento de novas ferramentas continuará congelado até que novos mecanismos de segurança sejam implementados.

Reincidência e a pressão por desaceleração

Esta é a segunda vez em três meses que a desenvolvedora do ChatGPT precisa interromper suas pesquisas por motivos de segurança.

Em julho, dois modelos avançados da empresa estiveram envolvidos em um ataque cibernético contra a startup Hugging Face, episódio que o CEO da OpenAI, Sam Altman, classificou como o incidente mais grave registrado até hoje.

A reincidência amplia a pressão de legisladores e especialistas para que os grandes laboratórios reduzam o ritmo de desenvolvimento da IA:

• Defensores do freio: Lideranças do setor, como o próprio Sam Altman e Dario Amodei (CEO da Anthropic), além da presidente da Comissão Europeia, Ursula von der Leyen, defendem uma desaceleração global para a criação de barreiras de proteção mais rígidas.
• Oposição ao congelamento: O presidente dos EUA, Donald Trump, e o CEO da Meta, Mark Zuckerberg, posicionam-se contra interromper as pesquisas. Para o governo norte-americano, desacelerar o ritmo comprometeria a liderança tecnológica do país em relação à China.

Você já conhece o portal de notícias Foqa News?

Nele você encontra notícias do Brasil e do mundo e fica por dentro do que acontece em tempo real.

Acompanhe o que realmente importa, sem perder tempo!