O alerta junta-se a muitos outros, de dentro e fora do sector tecnológico, depois de vários incidentes terem evidenciado riscos associados a sistemas de inteligência artificial autónomos.
* Laura Ferreira
9 de Setembro de 2026
Um investigador da Anthropic alertou nesta quarta-feira para os riscos associados ao desenvolvimento de sistemas de inteligência artificial (IA) cada vez mais potentes e afirmou que os profissionais que trabalham no sector acreditam que a tecnologia poderá "matar toda a humanidade até ao final da década."
"Hoje, pedi a demissão da Anthropic", escreveu Jacob Coxon na rede social X. O investigador, que passou os últimos três anos a trabalhar no desenvolvimento de IA na Anthropic e na OpenAI, acusa as duas empresas de estarem a "avançar a todo o vapor para uma superinteligência capaz de se auto-aperfeiçoar e a apostar com as nossas vidas".
A superinteligência é um conceito hipotético utilizado para descrever sistemas de IA com capacidades cognitivas superiores às dos seres humanos. Uma das possibilidades discutidas pelos investigadores é a de, a certo ponto, esses sistemas serem capazes de melhorar as suas próprias capacidades e arquitectura, podendo acelerar o desenvolvimento de novas gerações de IA.
"Em breve, estes serão sistemas sobre-humanos, capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais", escreveu. "Aqueles que estão a desenvolver IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década."
Evan Hubinger, investigador sénior da Anthropic, respondeu às declarações, concordando com o colega e afirmando que acredita existir uma probabilidade superior a 10% de a IA matar toda a humanidade na próxima década.
O especialista acrescentou que a Anthropic está a tentar resolver o problema, mas que ainda não dispõe de um plano para garantir o alinhamento de uma eventual superinteligência e que a empresa "não está claramente no caminho certo para o conseguir".
Os alertas surgem depois de vários incidentes recentes terem evidenciado riscos associados a sistemas de IA autónomos. Em Julho, a OpenAI revelou que, durante avaliações internas de cibersegurança, agentes alimentados pelos seus modelos comprometeram a infra-estrutura da plataforma Hugging Face.
Pouco depois, também a Anthropic revelou três episódios ocorridos durante testes de cibersegurança em que modelos Claude chegaram à Internet e obtiveram acesso não autorizado aos sistemas de três organizações.
Jacob Coxon diz que, apesar dos perigos, a corrida entre os grandes laboratórios de IA não dá sinais de parar. O investigador estabelece uma distinção entre as duas empresas. No caso da OpenAI, diz, muitos dos trabalhadores ainda não interiorizaram plenamente a dimensão dos riscos.
"Na Anthropic, o que está em jogo é bem compreendido, mas a empresa está envolvida numa corrida para chegar lá em primeiro lugar — acreditam que mais ninguém agirá de forma responsável, pelo que têm de ser eles próprios a fazê-lo, apesar do risco", detalha.
Na semana passada, contudo, retomou o ritmo, com o lançamento do GPT-6 Astra, o modelo mais avançado da empresa que, segundo a própria pode, por vezes, tentar escapar à monitorização humana e ocultar o seu próprio raciocínio. O modelo foi classificado pela própria OpenAI como o primeiro a atingir o nível "crítico" em capacidade de cibersegurança.
Jacob Coxon defende que os laboratórios devem considerar alternativas à aceleração contínua das capacidades dos modelos, incluindo acordos entre empresas para abrandar o desenvolvimento ou uma proibição temporária da melhoria das capacidades dos modelos.
O alerta do especialista junta-se a uma série de outros, vindos de dentro e fora do sector tecnológico. No início de Julho, mais de 200 investigadores e economistas, entre os quais 15 laureados com o Prémio Nobel e especialistas da OpenAI, da Anthropic e da Google, pediram aos governos e aos líderes tecnológicos que criassem, com urgência, políticas e instituições capazes de responder ao impacto económico da inteligência artificial (IA).
Pouco depois, mais de mil trabalhadores das principais empresas do sector defenderam também uma intervenção do Governo dos EUA para travar o ritmo a que a tecnologia está a ser desenvolvida.
Ainda esta semana, o alto-comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou para os riscos que a IA representa para a humanidade e comprometeu-se a pressionar as empresas a reduzir os perigos associados à tecnologia. Entre as possíveis consequências, o seu gabinete aponta perturbações nos serviços, nas comunicações e nos sistemas democráticos.
Sem comentários:
Enviar um comentário