* David Pontes
14 de Setembro de 2026
O 11 de Setembro de 2001 tem características que fizeram dele um evento transformador que ficará para sempre impresso na história do mundo. 25 anos depois, a 12 de Setembro, ocorreu um evento com capacidade para fazer mudar radicalmente o curso da história, mesmo que nunca consiga ombrear com os atentados que fizeram cair um dos ícones do capitalismo norte-americano.
A 12 de Setembro, foi publicado um texto de um dos líderes de uma das mais importantes empresas de inteligência artificial (IA), que poderá desencadear decisões - haja esperança - capazes de conter forças com capacidades destruidoras muito maiores do que qualquer atentado alguma vez perpetrado por um ser humano.
Na quarta-feira já tinha surgido um aviso sério. Jacob Coxon, investigador da Anthropic alertou que os profissionais que trabalham no sector da IA acreditam que a tecnologia poderá "matar toda a humanidade até ao final da década". Sem uma linguagem tão drástica no dia 12, sábado, Dario Amodei veio afirmar, através da publicação de um ensaio, para um nível de risco similar devido à incapacidade, confessada, de controlar a IA.
E Dario Amodei não é apenas um investigador da área, é o presidente executivo da Anthropic, o que quer dizer que o alerta veio do centro do sistema. As suas palavras pesarão ao ponto de, ontem, num momento bastante inédito, Sam Altman, da OpenAI, e Elon Musk, da SpaceXAI, virem concordar com Amodei.
O que diz Amodei? Preocupado com o recente incidente em que 700 agentes de IA atacaram como um "colectivo fanaticamente devoto" a infra-estrutura da startup Hugging Face, ele considera que o risco de perder o controlo da IA é real e pode redundar em ciberataques, bioterrorismo ou uma forte perturbação económica. Amodei alerta que, com a aceleração das capacidades dos modelos e a possibilidade de estes começarem a contribuir para a sua própria evolução, em seis a doze meses um conjunto semelhante ao que atacou a Hugging Face pode tomar conta de toda a internet.
Por isso, por muito que seja estranho, num mundo em que tem imperado a velocidade e a competição, Amodei e outros patrões estão a pedir que o desenvolvimento na área abrande, para que seja possível estabelecer vigilância independente, regulamentação e coordenação entre todos os actores no mundo democrático. Os que libertaram a fera, estão agora a pedir ajuda para a conter.
Só que uma outra fera que eles ajudaram a libertar, Donald Trump, já veio dizer que não quer abrandar porque o que lhe interessa é a corrida com a China. Será que só a regulamentadora União Europeia estará disposta a ouvi-los? Seria uma poderosa ironia.
Note que o texto faz referência a eventos e declarações atribuídos a Dario Amodei que não constam do meu conhecimento nem encontrei registo correspondente — pode valer a pena confirmar as fontes originais antes de publicar ou partilhar.
transcrever
Aqui está a transcrição completa:
Investigador da Anthropic alerta que a IA pode matar toda a humanidade até ao final da década
O alerta junta-se a muitos outros, de dentro e fora do sector tecnológico, depois de vários incidentes terem evidenciado riscos associados a sistemas de inteligência artificial autónomos.
Um investigador da Anthropic alertou nesta quarta-feira para os riscos associados ao desenvolvimento de sistemas de inteligência artificial (IA) cada vez mais potentes e afirmou que os profissionais que trabalham no sector acreditam que a tecnologia poderá "matar toda a humanidade até ao final da década."
"Hoje, pedi a demissão da Anthropic", escreveu Jacob Coxon na rede social X. O investigador, que passou os últimos três anos a trabalhar no desenvolvimento de IA na Anthropic e na OpenAI, acusa as duas empresas de estarem a "avançar a todo o vapor para uma superinteligência capaz de se auto-aperfeiçoar e a apostar com as nossas vidas".
A superinteligência é um conceito hipotético utilizado para descrever sistemas de IA com capacidades cognitivas superiores às dos seres humanos. Uma das possibilidades discutidas pelos investigadores é a de, a certo ponto, esses sistemas serem capazes de melhorar as suas próprias capacidades e arquitectura, podendo acelerar o desenvolvimento de novas gerações de IA.
"Em breve, estes serão sistemas sobre-humanos, capazes de invadir qualquer sistema, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais", escreveu. "Aqueles que estão a desenvolver IA acreditam sinceramente que esta poderá matar-nos a todos até ao final da década."
Evan Hubinger, investigador sénior da Anthropic, respondeu às declarações, concordando com o colega e afirmando que acredita existir uma probabilidade superior a 10% de a IA matar toda a humanidade na próxima década.
O especialista acrescentou que a Anthropic está a tentar resolver o problema, mas que ainda não dispõe de um plano para garantir o alinhamento de uma eventual superinteligência e que a empresa "não está claramente no caminho certo para o conseguir".
Os alertas surgem depois de vários incidentes recentes terem evidenciado riscos associados a sistemas de IA autónomos. Em Julho, a OpenAI revelou que, durante avaliações internas de cibersegurança, agentes alimentados pelos seus modelos comprometeram a infra-estrutura da plataforma Hugging Face.
Pouco depois, também a Anthropic revelou três episódios ocorridos durante testes de cibersegurança em que modelos Claude chegaram à Internet e obtiveram acesso não autorizado aos sistemas de três organizações.
Jacob Coxon diz que, apesar dos perigos, a corrida entre os grandes laboratórios de IA não dá sinais de parar. O investigador estabelece uma distinção entre as duas empresas. No caso da OpenAI, diz, muitos dos trabalhadores ainda não interiorizaram plenamente a dimensão dos riscos.
"Na Anthropic, o que está em jogo é bem compreendido, mas a empresa está envolvida numa corrida para chegar lá em primeiro lugar — acreditam que mais ninguém agirá de forma responsável, pelo que têm de ser eles próprios a fazê-lo, apesar do risco", detalha.
Na semana passada, contudo, retomou o ritmo, com o lançamento do GPT-6 Astra, o modelo mais avançado da empresa que, segundo a própria pode, por vezes, tentar escapar à monitorização humana e ocultar o seu próprio raciocínio. O modelo foi classificado pela própria OpenAI como o primeiro a atingir o nível "crítico" em capacidade de cibersegurança.
Jacob Coxon defende que os laboratórios devem considerar alternativas à aceleração contínua das capacidades dos modelos, incluindo acordos entre empresas para abrandar o desenvolvimento ou uma proibição temporária da melhoria das capacidades dos modelos.
O alerta do especialista junta-se a uma série de outros, vindos de dentro e fora do sector tecnológico. No início de Julho, mais de 200 investigadores e economistas, entre os quais 15 laureados com o Prémio Nobel e especialistas da OpenAI, da Anthropic e da Google, pediram aos governos e aos líderes tecnológicos que criassem, com urgência, políticas e instituições capazes de responder ao impacto económico da inteligência artificial (IA).
Pouco depois, mais de mil trabalhadores das principais empresas do sector defenderam também uma intervenção do Governo dos EUA para travar o ritmo a que a tecnologia está a ser desenvolvida.
Ainda esta semana, o alto-comissário das Nações Unidas para os Direitos Humanos, Volker Türk, alertou para os riscos que a IA representa para a humanidade e comprometeu-se a pressionar as empresas a reduzir os perigos associados à tecnologia. Entre as possíveis consequências, o seu gabinete aponta perturbações nos serviços, nas comunicações e nos sistemas democráticos.
Sem comentários:
Enviar um comentário