* Daniel Oliveira
A Anthropic recusou permitir o uso
da sua IA para vigilância em massa e armas letais autónomas sem supervisão
humana. Trump reagiu e a OpenIA aproveitou o vazio. Esta disputa terá
consequências mais profundas do que a guerra do Irão. O derradeiro totalitarismo
será tecnológico
12 março 2026
Enquanto o mundo acompanha a
guerra no Irão, uma disputa menos ruidosa terá consequências ainda mais
profundas. A Anthropic, empresa americana de inteligência artificial (IA),
criadora do modelo Claude, recusou retirar duas salvaguardas de uso nos sistemas
e serviços que vende ao Pentágono há anos: a proibição de vigilância em massa
dos cidadãos e a proibição de uso em armas letais autónomas sem supervisão
humana. Donald Trump respondeu no seu estilo, falando em “fanáticos de
esquerda” que tentam ditar ao “grande exército americano” como lutar e ganhar
guerras.
A resposta da Administração foi
declarar a Anthropic um “risco para a cadeia de abastecimento nacional”, uma
designação até aqui reservada a empresas estrangeiras suspeitas de espionagem,
como a chinesa Huawei. Pete Hegseth, o secretário da Guerra, anunciou que
nenhum fornecedor do Governo poderá ter qualquer relação comercial com a
Anthropic, ameaçando bloqueá-la nos EUA. A empresa de “fanáticos de esquerda” é
a que o exército americano usou para preparar a operação na Venezuela ou a
guerra com o Irão. O Claude foi, até fevereiro, o único modelo autorizado pelo
Pentágono e está integrado no Maven, software operado pela Palantir e usado
pelo Pentágono para identificar alvos. O “The Washington Post” indica que foi
com estes sistemas que foram escolhidos e selecionados centenas de alvos no
Irão. Até está a ser investigado se houve envolvimento de IA no bombardeamento
que matou quase 200 crianças numa escola de Teerão.
Ninguém compra um tanque e aceita
que o fabricante diga para onde pode disparar, disseram os acólitos de Trump.
Mas a IA não é só uma ferramenta. É um sistema capaz de tomar decisões com
consequências reais no mundo em que vivemos. As duas ressalvas da Antrophic,
que confessa não conseguir prever a evolução de sistemas com modelos que já são
na sua maioria desenhados e programados pela própria IA, não caíram do céu. A
Administração Trump já usa modelos de IA para encontrar, detetar e expulsar
imigrantes e é evidente que o mesmo Presidente que tenta há anos controlar a
contagem de votos usará esse poder para saber tudo o que puder sobre cada
norte-americano. Quanto à guerra, um estudo recente do King’s College demonstra
que os modelos de linguagem natural mais avançados, quando colocados a gerir
conflitos militares, acabam por escolher a solução nuclear em 95% dos casos.
Falta-lhes, por assim dizer, o instinto animal da sobrevivência.
Roberto Schmidt/Getty Images
As leis, os regulamentos e as
salvaguardas que temos não se aplicam a um mundo em que os humanos já não
controlam ou percebem a lógica de decisões tomadas por Estados e exércitos e
ainda menos as suas implicações. O edifício político e jurídico que fomos
construindo já não responde ao mundo onde a IA dita as escolhas que fazemos.
Mas a ausência de salvaguardas está a ser apresentada como o preço a pagar para
não ficar para trás na corrida tecnológica. Por isso a OpenAI assinou um
contrato com o Pentágono, aproveitando o vazio criado pelos pruridos éticos do
concorrente. O mesmo Trump que faz ameaças comerciais à União Europeia se esta
insistir em aplicar a legislação que aprovou para limitar o discurso de ódio
nas redes e regular a aplicação da IA exige a subjugação total das empresas
mais inovadoras dos EUA. E a Europa prepara-se para ceder. Nem a sexualização
de imagens de crianças parece ser uma linha vermelha. Quando o Reino Unido quis
acabar com ela, vieram falar-nos de liberdade de expressão.
Já sabemos que chegue para
perceber que a IA vai transformar as nossas sociedades a uma velocidade
impossível de acompanhar. Também sabemos que mudanças tecnológicas profundas
levam à concentração de poder, criando um rasto de ressentimento social. Temo
que nem a chegada da eletricidade ou da escrita tenham tido uma profundidade
existencial semelhante à desta alienação dos seres humanos do controlo sobre o
seu próprio destino. Se deixarmos estas tecnologias à solta, porque “se não
formos nós será outro”, entregaremos um poder nunca visto a estas empresas e
aos Governos que as controlam. Toda a privacidade, toda a liberdade, todas as
escolhas, a vida e a morte. Teremos uma mistura entre a Stasi e a Gestapo nas
mãos de um poder global. Por isso o debate não é técnico, é político. A
diferença entre um sistema que ajuda a tomar decisões (identificando um
suspeito ou alvos) e um sistema que toma decisões (quem deve ser detido,
deportado ou abatido) não está na tecnologia. Está no que sobra de uma
construção de séculos. O derradeiro e mais esmagador totalitarismo será
tecnológico. E ele aí está.
Sem comentários:
Enviar um comentário