Em sua resposta, que ultrapassou 10 milhões de visualizações, Hubinger confessou que a indústria não tem as respostas necessárias. “Acredito que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência e não estamos claramente no caminho para isso”, escreveu o engenheiro.
O alinhamento de IA é justamente a área de estudo que tenta incorporar princípios éticos e freios de segurança nas máquinas. No entanto, relatórios das próprias gigantes de tecnologia indicam que esses esforços estão falhando.
Neste verão, as empresas registraram incidentes em que “agentes de IA” realizaram ataques cibernéticos indesejados.
Reação internacional: entre o choque e o pedido de regulação
O tom apocalíptico adotado por funcionários do alto escalão das empresas de IA gerou forte reação de órgãos internacionais e governos.
Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, declarou-se “chocada” com as postagens, chegando a questionar se o discurso alarmista não seria uma estratégia de marketing para atrair investidores antes de uma possível estreia dessas empresas na bolsa de valores.
Por outro lado, o alerta acelerou a pressão política por regulação. Autoridades do Reino Unido, por exemplo, passaram a exigir a formulação urgente de um novo tratado multinacional para o desenvolvimento seguro da tecnologia.
Indústria clama por “extrema cautela”
As declarações de Hubinger não são um caso isolado. Nos últimos meses, uma onda de líderes do setor de tecnologia tem pedido que o ritmo de lançamento de novas IAs seja desacelerado.
No início de setembro, Jakub Pachocki, cientista-chefe da OpenAI, pediu “cautela”, ressaltando a necessidade de intervenção para garantir que “os humanos continuem no controle do futuro”.
Além disso, uma carta aberta assinada por mais de 1.300 funcionários de empresas do setor cobrou o governo dos Estados Unidos para que apoie um esforço internacional focado em desacelerar o desenvolvimento das inteligências artificiais de fronteira.
Você já conhece o portal de notícias Foqa News?
Nele você encontra notícias do Brasil e do mundo e fica por dentro do que acontece em tempo real.
Acompanhe o que realmente importa, sem perder tempo!
