Pesquisador de segurança da Anthropic afirma haver mais de 10% de chance de a IA representar uma ameaça de extinção para a humanidade na próxima década.
Ex-funcionários acusam gigantes como OpenAI e Anthropic de agirem com irresponsabilidade na corrida pelo desenvolvimento de novas ferramentas.
O debate sobre os limites da inteligência artificial (IA) ganhou um novo e preocupante capítulo. Evan Hubinger, um dos principais pesquisadores de segurança da Anthropic, alertou publicamente que a evolução da tecnologia carrega um risco real.
Há, segundo ele, mais de 10% de chance de que a IA “possa exterminar todos os humanos” na próxima década.
Embora Hubinger afirme que os modelos atuais apresentem baixo risco, sua preocupação é de que a tecnologia evolua de forma irrefreável. Se isso ocorrer antes que as empresas consigam garantir a fiscalização, a humanidade poderá enfrentar um risco existencial.
O problema do “alinhamento” e a superinteligência
O alerta de Hubinger, publicado na rede social X, surgiu como resposta a Jacob Coxon, outro pesquisador que recentemente deixou a Anthropic.
Coxon acusou abertamente tanto a Anthropic quanto a OpenAI de não agirem de forma responsável, alertando que em breve teremos sistemas capazes de superar humanos, invadir redes e adquirir poder real.
Em sua resposta, que ultrapassou 10 milhões de visualizações, Hubinger confessou que a indústria não tem as respostas necessárias. “Acredito que a Anthropic está fazendo o melhor que pode, mas ainda não temos um plano para resolver o problema do alinhamento da superinteligência e não estamos claramente no caminho para isso”, escreveu o engenheiro.
O alinhamento de IA é justamente a área de estudo que tenta incorporar princípios éticos e freios de segurança nas máquinas. No entanto, relatórios das próprias gigantes de tecnologia indicam que esses esforços estão falhando.
Neste verão, as empresas registraram incidentes em que “agentes de IA” realizaram ataques cibernéticos indesejados.
Reação internacional: entre o choque e o pedido de regulação
O tom apocalíptico adotado por funcionários do alto escalão das empresas de IA gerou forte reação de órgãos internacionais e governos.
Dame Wendy Hall, cientista da computação que assessora a ONU sobre IA, declarou-se “chocada” com as postagens, chegando a questionar se o discurso alarmista não seria uma estratégia de marketing para atrair investidores antes de uma possível estreia dessas empresas na bolsa de valores.
Por outro lado, o alerta acelerou a pressão política por regulação. Autoridades do Reino Unido, por exemplo, passaram a exigir a formulação urgente de um novo tratado multinacional para o desenvolvimento seguro da tecnologia.
Indústria clama por “extrema cautela”
As declarações de Hubinger não são um caso isolado. Nos últimos meses, uma onda de líderes do setor de tecnologia tem pedido que o ritmo de lançamento de novas IAs seja desacelerado.
No início de setembro, Jakub Pachocki, cientista-chefe da OpenAI, pediu “cautela”, ressaltando a necessidade de intervenção para garantir que “os humanos continuem no controle do futuro”.
Além disso, uma carta aberta assinada por mais de 1.300 funcionários de empresas do setor cobrou o governo dos Estados Unidos para que apoie um esforço internacional focado em desacelerar o desenvolvimento das inteligências artificiais de fronteira.
Você já conhece o portal de notícias Foqa News?
Nele você encontra notícias do Brasil e do mundo e fica por dentro do que acontece em tempo real.
Acompanhe o que realmente importa, sem perder tempo!
Ver publicações 
