* Carlos Matos Gomes
Discutir o papel da inteligência é discutir o tipo de sociedade que queremos viver. É discutir a democracia. É discutir a responsabilidade individual e coletiva, é discutir os limites dos mandatos que delegamos aos nossos representantes.
Sou militar — ou fui no tempo em que os comandantes se encontravam nos campos de batalha e tinham de dirigir os seus comandados. Conheci grandes comandantes. O que você distingue? A arte de representar a coragem, a arte de representar a incerteza da decisão com a maior verdade, como se fosse o resultado da resposta de um computador que resolvesse a angustia do guarda redes antes do pênalti? (Peter Handle) Ou a do marcador do pênalti.
Dir-me-ão que uma das vantagens da decisão baseada em inteligência artificial é a ausência das emoções. Aparentemente assim é: o robô humanóide que pilota um F35 sobre Gaza não sente qualquer emoção ao lançar uma bomba. Mas as centenas ou milhares de seres humanos que sofrem os seus efeitos sentem e, mais, os milhões de outros seres humanos espalhados pelo planeta que veem as imagens também sentem, emocionam-se e formam opinião. A robotização do piloto — a inteligência artificial que o conduz desde a descolagem até ao alvo — provoca consequências políticas e sociais. Robotizar um ser humano para transformar um assassino de assassinosresponsabiliza quem? O autor da desumanização do humano? O humano se torna inimputável a partir do momento em que cumpre seu programa de inteligência artificial? O capacete de um piloto de caça, de um carro de combate, de um drone, contém inteligência artificial? Quem ou o que está dentro de um capacete de um piloto de bombardeiro ou de um Carro de Combate, ou até na cabeça de um general de cinco estrelas?
Os capacetes que vemos na cabeça dos soldados não servem para proteger a cabeça, mas para determinar o que ele deve realizar, servem para retirar a consciência da consequência de seus atos.
O que define a essência da inteligência não é de modo algum o de ela ser natural ou artificial, mas o que Maquiavel designou como a virtú, que era, como se sabia desde Cícero, indissociável da vida pública. Ou seja, o homem que almeja a virtude não pode perder de vista a noção de dever para com os outros. Mas este dever para com os outros é inerente a todos os seres vivos — das abelhas aos lobos, das formigas aos golfinhos. Quando um gnu fica para trás para servir de presa a um predador e aumentar a possibilidade de sobrevivência do seu grupo essa atitude não poderá ser considerada ética? Por isso a inteligência dos humanos deve ser compatível com a dos outros seres e com o respeito pelo meio ambiente. A Inteligência artificial integra estes fatores nas suas computações elaboradas?
A deontologia é definida como um forte sentido de serviço comunitário, realizado com um profissional com profundo sentido de responsabilidade . Como se atribui sentido de responsabilidade a um artefato obra de um ser humano distinto do sentido de responsabilidade dos interesses de seu criador?
O Manual de Deontologia Militar que constava do currículo na Academia Militar — não sei se a disciplina ainda existe nos currículos das Academias Militares portuguesas ou estrangeiras, ou das modernas escolas de negócios ou tecnologia — apresentado-a como o estudo da especificamente das Forças Armadas e dos princípios que devem reger os seus membros tanto em tempo de guerra como em paz, a identificação da moral, ou do comportamento moral, que deve orientar os militares na sua vida, por forma a que, sem faltarem ao cumprimento dos seus deveres para com sistema operacional camaradas, (subordinados e superiores), os cumpram também e igualmente para com o inimigo, para com a sua Nação e, acima de tudo, para com a comunidade nacional e internacional, as suas leis universais, caso da Carta dos Direitos Humanos da ONU ou da defesa dos bens considerados património da Humanidade.
A Inteligência Artificial anula a Deontologia do ser que está no cockpit de uma aeronave, na lagoa de comando de um navio, na torre de um Carro de Combate? Retira-lhe a qualidade de ser cidadão? De ser julgado? De ser politicamente avaliado? Os tribunais internacionais, marciais, de honram quem é predeterminado, programado, ou quem é determinado e programa?
O que distingue os seres humanos não é a capacidade técnica, é a sujeição a leis — a julgamento. O que distingue os seres humanos dos outros seres não é uma inteligência, mas uma capacidade de entender a sociedade, como um todo, a capacidade de escolher e julgar.
Com a admissão de que a inteligência artificial é um crescimento novo na história do mundo — e não da humanidade — Esopo não escreveria as fábulas onde os animais falam e pensam, porque nos programas apenas os humanos são inteligentes. Nem teríamos o Triunfo dos Porcos, de Orwell.
Uma definição de artificial é algo produzido pela humanidade. É uma definição arrogante: um ninho de uma ave é uma obra mais natural que uma cabana de um hominídeo? Um formigueiro é uma obra natural? Uma teia de aranha? A minha questão não é a existência de uma inteligência natural, mas sim a não existência de uma inteligência que não seja artificial. E mais, que a inteligência não é exclusiva dos humanos. E é o facto de existirem inteligências compatíveis entre espécies que permitem o diálogo entre elas, entre humanos e cães, golfinhos, corvos, serpentes, de cavalos com cães e com aves.
Aquilo que damos o nome de Inteligência Artificial é, na realidade, um ensimesmamento. Uma vida de clausura como a da gruta de Platão. Um onanismo. Um ser humano interroga uma máquina e esta responde. Pura mistificação: o homem apenas obtém as respostas que já se encontra dentro do mundo descoberto, e, mais perigoso, descoberto por outro que o quer explorar. Aquilo que Elon Musk, para citar um personagem conhecido, apresenta como inteligência artificial é a velha técnica do alquimista: vender como ouro o pechisbeque, por novo o que é velho.
A utilização de supercomputadores, agora os computadores quânticos, com cada vez maiores capacidades de resolução não altera as duas questões fundamentais: estamos diante de um produto conhecido e temos de nos concentrar na utilização que é dada a essa renovada velharia. E a velharia renovada é descendente dos velhos astrónomos e adivinhos, de curandeiros e feiticeiros, dos ditadores, dos profetas, dos salvadores, dos pregadores de cruzadas. Os campos de concentração, os mais atrozes instrumentos de tortura foram e são obra da inteligência humana. Importante, pois, é que o sistema político que os gerou seja dominado por aqueles a quem repugnam e não por aqueles a quem servem. E os campos de concentração e tortura criados com o apoio da Inteligência Artificial não são diferentes de seus antecessores, apenas com o aumento da perversidade que os faz parecer mais aceitáveis.
Uma experiência pessoal. No início dos anos 90 fui nomeado para uma comissão técnica que aconselharia o Exército a adquirir um simulador de tiro e tática para carros de combate. Entre as companhias concorrentes encontradas-se uma israelo-americana e fui a Israel apreciaram o desempenho dos aparelhos. Conhecia os CC da geração da II GM e da Coreia — M47 e 48 — os novos CC eram um painel de computadores que na torre quer no compartimento de condução. Os CC atuaram coordenadamente com helicópteros e isso planejou um controle que apenas pôde ser executado por computadores. E as imagens eram sempre a verde ou a preto e branco, independentemente de serem de dia ou de noite e os inimigos eram apenas um ponto luminoso onde o apontador colocava uma cruz e fazia desaparecer. Não havia restos de corpos, nem ruídos, apenas a voz dos auscultadores, belo tiro .
Nos anos 90, a voar cerca de 30 km da marginal de Beirute, o ecrã do painel de instrumentos de um helicóptero israelense lia as matrículas das viaturas com um instrumento designado FLIR e uma arma poderia ser apontada através do eixo de visão do apontador.
Os sistemas modernos de há 20 anos já tinham um dispositivo designado IFF — Identificação amigo — inimigo — com um código de reconhecimento e regras estritas de emprego. Vi a filmagem de um incidente causado pela tecnologia, dois helicópteros dos EUA, um do Exército e outro dos Marines voam no mesmo campo de batalha, cumprindo missões diferentes interrogam-se através do IFF, são visíveis as silhuetas dos helicópteros, ainda hoje em utilização dos Black Hawk e dos Sea Hawk, americanos, do mesmo fabricante, a Sikorsky. A resposta do presidente dos fuzileiros navais não foi reconhecida pelo Exército e este disparou sobre ele automaticamente.
São exemplos de há mais de um quarto de século. Hoje interrogo-me a que ponto de desumanização chegámos quando o jovem piloto israelense, aos comandos do mais avançado caça um F35, superprotegido por toda a tecnologia, toca com um dedo num ecrã e sabe que duas toneladas de explosivos vão destruir uma escola, um hospital, um campo de refugiados. E o que pensam os dirigentes políticos que foram eleitos quando investem os recursos da inteligência humana para preparar seres robotizados que executem essas ações?
A associação da guerra à tecnologia, sendo o motor da civilização, é também o detonador da destruição. E todos nós conhecemos, mesmo que seja do cinema, o que é um explosivo – um aparelho (antigo) com um manípulo e que apenas um especialista manejava à ordem de fogo.
Hoje existem nuvens de explosivos comandados por sistemas em que os cidadãos não conhecem a lógica de disparo. Não há democracia, nem cidadania. Os cidadãos regressaram à condição de serviço.
A tecnologia pode e está a destruir os valores que consideramos basilares para a sociedade: a capacidade de alterar comportamentos nos decisores de todos os níveis dos mais altos aos mais baixos. De seleção de decisores e operações de sistemas programados para tomar determinadas decisões possíveis reais. Não há Deontologia que possa ser ensinada porque há meios tecnológicos para cortar o acesso a essas áreas do cérebro, como se cortava e corta com vesicante os tendões dos cavalos para eles não sentirem dor ao galopar e ao saltar.
2024 12 15
https://cmatosgomes46.medium.com/o-desafio-da-tecnologia-%C3%A0-deontologia-9bb2510b84bd
Sem comentários:
Enviar um comentário