Tecnológicas alargam equipas para treinar máquinas. Nos EUA, desemprego de recém-filósofos é mais baixo que de informáticos
27 agosto 2026
Gonçalo Almeida Jornalista
No século XIX, o filósofo inglês
John Stuart Mill defendeu que a ação mais correta é a que produz a maior
felicidade para o maior número de pessoas. Chamou-lhe utilitarismo. É uma ideia
com quase dois séculos, que hoje se tenta reproduzir nos quartéis-generais das
empresas de inteligência artificial (IA). Entre duas respostas possíveis, o
modelo de IA tem de ser capaz de escolher a que traz um maior benefício ao
maior número de utilizadores. A indústria chama a este trabalho “alinhamento de
valores”. E paga salários de seis dígitos a quem o fizer.
Durante décadas, um diploma de
Filosofia embatia contra um leque limitado de possibilidades de trabalho, sendo
a academia o destino mais provável. Agora, os últimos dados da Reserva Federal
de Nova Iorque, nos Estados Unidos da América (EUA), mostram que a taxa de
desemprego é menor para os recém-licenciados em Filosofia do que para os informáticos. E estão a ser contratados pelas mesmas
empresas: as grandes tecnológicas.
Muitos filósofos estão a ser
absorvidos pelas empresas de IA, que fazem crescer os seus departamentos de
ética para treinar as máquinas. A Anthropic (dona do Claude) e a Google
DeepMind empregam já dezenas de filósofos, não como consultores distantes, mas
dentro das equipas que decidem como os grandes modelos de linguagem se
comportam.
Robert Clowes, filósofo e
investigador no Instituto de Filosofia da Universidade Nova (IFILNOVA), em
Lisboa, explica que a investigação de ponta em IA “saiu das universidades há
cinco anos ou mais” e agora quem quer fazer as perguntas difíceis sobre estas
máquinas precisa de estar onde elas se constroem.
Anthropic e Google DeepMind
empregam dezenas de filósofos, integrados nas equipas que estudam os modelos de
IA
Na Anthropic, o rosto mais visível é Amanda Askell, doutorada
em Ética pela Universidade de Nova Iorque. Foi a principal autora do documento
que estipula os valores do modelo Claude e que bebe de fontes tão díspares como
Immanuel Kant e a Declaração Universal dos Direitos Humanos. Ao seu lado
trabalha Joe Carlsmith, que fez o doutoramento em Oxford sobre o estatuto moral
das entidades. Na DeepMind, Iason Gabriel, nomeado pela revista “Time” entre as
100 personalidades mais influentes da IA, conduz a investigação sobre esse
“alinhamento de valores”, e em maio a empresa criou um cargo cujo título é,
simplesmente, “filósofo”, entregue a Henry Shevlin, de Cambridge.
Boa parte do trabalho é decidir
que regras inscrever nos modelos, e aqui a filosofia oferece dois
grandes guiões, que se digladiam há séculos. De um lado, a deontologia, cara a
Kant. Regras absolutas que proíbem mentir, coagir ou tratar as pessoas como
meros meios, mesmo em nome de um bem maior. Do outro, o consequencialismo, de
que o utilitarismo de Mill é a face mais conhecida. Pesar custos e benefícios e
escolher o mal menor. A “Constituição” do Claude é sobretudo deontológica, ao
passo que o ChatGPT, da OpenAI, e o Gemini, da Google, se inclinam mais para a
outra abordagem, segundo os especialistas. Mas a filosofia aplicada à IA não
está só nos chatbots, mas em toda a sua aplicação. Por exemplo, no software dos
carros autónomos, que, perante um acidente inevitável, tem de calcular a forma
menos trágica de embater, ou nos sistemas de armas, que ponderam os objetivos
militares e as mortes de civis.
Há ainda lições mais antigas. O
método socrático, o questionamento sucessivo que Platão atribui a Sócrates para
expor contradições, tem sido explorado para tornar os modelos menos bajuladores
e mais dispostos a procurar a verdade, e a “ignorância socrática”, a
consciência de que não se sabe algo, para conter o excesso de confiança que
leva a IA a “alucinar” e a dar respostas falsas.
“Não podemos ter máquinas cujas
regras de comportamento ético sejam completamente distintas das nossas”, diz ao
Expresso Luís Moniz Pereira, professor emérito da Nova e ex-presidente da
Associação Portuguesa para a IA. O problema, nota, é que “nós próprios não
temos respostas totalmente claras” e usamos uma combinação de escolas éticas
incompatíveis. Alerta ainda para o risco de “criar um neocolonialismo moral se
impusermos uniformidade” da moral, se o mesmo algoritmo correr de forma igual
em todo o mundo, uma vez que nas sociedades ocidentais o indivíduo tende a vir
primeiro e nas orientais domina a responsabilidade coletiva. Em breve, Luís
Moniz Pereira publicará o livro “Máquinas Éticas: Da Moral da Máquina à
Maquinaria Moral”, em coautoria com António Barata Lopes.
Um disfarce ético?
Mas contratar filósofos é
escrutínio ético a sério, ou o que os críticos designam ethics-washing,
uma espécie de verniz para melhorar a reputação? Moniz Pereira defende que é
“sobretudo um sinal hipócrita para o exterior”, uma campanha de relações
públicas, “uma vez que as promessas morais das big tech têm ficado no papel”.
E um filósofo pago por uma
empresa com fins lucrativos tem independência? “É óbvio que não”, uma vez que
os contratados “seguirão na direção de conservarem o seu emprego”, moldando a
opinião pública às diretrizes do conselho de administração, considera Luís
Moniz Pereira. No seu entender, o medo de uma superinteligência consciente que
se apodera do mundo é “um mito que nos desvia a atenção do importante”: o
verdadeiro risco não é a máquina virar-se contra nós, mas o uso cumulativo que
os humanos farão da IA sem coordenação. E há quem “se aproveite dos receios do
público” para captar atenção e financiamento.
FRASES
“Não podemos ter máquinas
cujas regras de comportamento ético sejam completamente distintas das nossas”
Luís Moniz Pereira
Professor emérito da Universidade
Nova de Lisboa
“Contratar um ou dois
filósofos, enquanto os departamentos de humanidades são reduzidos em todo o
mundo, é uma manobra para desviar a atenção”
Anna Ciaunica
Investigadora e filósofa
“O teste não é saber se o
filósofo é sincero, mas se é livre para publicar algo que o seu empregador
preferiria que não publicasse”
Robert Clowes
Investigador e filósofo
Anna Ciaunica, investigadora do
Centro de Filosofia das Ciências da Universidade de Lisboa, é igualmente
cética, mas por outra via. “Contratar filósofos, enquanto os departamentos de
humanidades são reduzidos ou subfinanciados em todo o mundo, é uma manobra para
desviar a atenção”, diz, alegando que as empresas terão recursos para financiar
“institutos completos, com vozes diversas”, em vez de “algumas privilegiadas”.
“Para mim, isto parece uma mera fachada”, acrescenta Anna Ciaunica.
Robert Clowes contrapõe que os
filósofos dentro das empresas “não são decoração”. E lembra que Askell escreveu
a ‘Constituição’ do Claude “com os modelos à sua frente”. O teste que propõe
não é medir a sinceridade de ninguém, mas a liberdade. Saber se o filósofo é
“livre para publicar algo que o seu empregador preferiria que não publicasse”.
Cursos ganham força
Lá fora, entretanto, a filosofia
aplicada à IA já entrou na universidade pela porta da frente. Cambridge criou o
primeiro mestrado britânico dedicado ao uso responsável da IA e tem agora um
mestrado em Ética da IA, Dados e Algoritmos. Oxford oferece um mestrado em
Ética Prática no seu instituto Uehiro e Edimburgo abriu mestrados de filosofia
online adaptados à IA. São programas pensados de raiz para cruzar filosofia,
direito e ciências da computação.
Em Portugal há alguns cursos
intensivos focados na IA, como é o caso da formação que a Católica e o IST, em
parceria com a Abreu Advogados, lançaram há três anos. Mas o tema vive quase
todo dentro dos cursos de engenharia e informática, como módulo. Clowes, que
veio de fora para Lisboa, lê a assimetria como estrutural, não como falta de
interesse: “As contratações fazem-se através de departamentos, e os
departamentos contratam para ensinar disciplinas reconhecidas.” Um programa
genuinamente conjunto “é muito difícil de construir e ainda mais de dotar de
pessoal, porque não há departamento a quem isso caiba”.
O Simpósio Português sobre
Filosofia e Inteligência Artificial terá uma terceira edição no próximo ano
O diálogo existe à margem da sala
de aula. Houve um Simpósio Português sobre Filosofia e IA, em Alcochete, em
2022, e de novo em 2024 e prepara-se uma terceira edição, para 2027. Mas, nota
Clowes, faltou consolidação: “Aquilo aconteceu porque pessoas concretas o
organizaram, não porque uma instituição decidiu que isto importava.” “Não
conheço nada que junte a filosofia da mente e a ciência cognitiva à
investigação em IA da forma que estas perguntas exigem. A ética e o direito
estão representados. As perguntas prévias, o que são estes sistemas e o que nos
estão a fazer, não têm casa”, lamenta.
No fim, analisar o valor de um filósofo na folha de pagamentos de uma empresa de
IA talvez se reduza a uma pergunta: se cabe a um punhado de empresas conduzir
uma tecnologia desta dimensão, preferimos, ou não, que haja um filósofo na
sala? Edward Harcourt, diretor do Instituto de Ética na IA, da Universidade de
Oxford, responde que sim, “desde que haja também filósofos fora dessa sala”. A
ética das grandes empresas, avisa, “tende a refletir uma corrente filosófica e
cultural dominante”.
Mas para Clowes, o que mais
importa é aquilo a que chama o “problema mente-tecnologia”. Os nossos
conceitos, de mente, memória, criatividade, até de amizade, formaram-se quando
conversávamos com outros humanos. Hoje, milhões de pessoas interagem com sistemas
de IA, e a alguns chamam amigos.
Ciaunica devolve outra imagem.
Sem o velho carpinteiro Geppetto, lembra, não há Pinóquio, e sem mentes humanas
não há IA. O que a preocupa é “o que é que a tecnologia nos faz a nós e aos
nossos filhos”, sobretudo se substituirmos as interações humanas por
artificiais. O foco tem estado todo no que as máquinas podem tornar-se e quase
nenhum em quem as está a criar, e porquê, alerta. Talvez a pergunta mais
filosófica que a IA nos devolve não seja se as máquinas vão um dia pensar como
nós. Mas sim se nós, à força de conviver com elas, ainda vamos pensar como
humanos.
TRÊS PERGUNTAS A
Edward Harcourt
Diretor do Instituto de Ética
na IA da Universidade de Oxford
Já alertou para o
ethics-washing. Em concreto, como pode o público distinguir o trabalho genuíno
sobre ética da mera construção de reputação?
Não há fórmula para o distinguir.
Temos apenas de nos apoiar nas coisas do costume: que interesses estão em jogo
e, por isso, que razões temos para pensar que o eticista está a falar de forma
desinteressada? E, também, qual é a qualidade do comentário que nos é
oferecido? Um material que não passe de mero ethics-washing dificilmente será
muito perscrutador.
Pode um filósofo de uma
empresa fazer ainda verdadeira filosofia?
Não se deve saltar para a
conclusão de que quem é pago por empresas, quer seja para fazer filosofia, quer
seja para fazer qualquer outra coisa, não pode estar a dizer aquilo que teria
querido dizer de qualquer maneira. E há uma versão específica deste mal-entendido
que surge em relação à inteligência artificial (IA). Social e culturalmente, a
IA não brotou do nada. Pelo contrário, reflete algumas tendências profundas que
já estavam presentes na nossa cultura antes de a IA entrar em cena. Um bom
exemplo disto é a ideia de que as máquinas podem ser “conscientes”, podem ser
entidades dotadas de mente. Esta noção tem sido debatida na filosofia há
décadas, com uma corrente dominante poderosa a defender uma resposta “sim”. Os
filósofos que trabalham sobre “IA aparentemente consciente” e que são
contratados por empresas de IA limitam-se a continuar a dizer aquilo que já
andavam a dizer antes.
Mas esse foco na consciência e
superinteligência é intelectualmente sério?
Na minha opinião, a ideia de que
a IA possa ser “consciente” é uma das piores orientações intelectuais da
história da humanidade, mas creio que talvez esteja em minoria dentro da
profissão. Penso que a superinteligência é uma questão diferente. Não estou
convencido de que a IA poderosa seja superinteligente, ainda que as suas
capacidades em algumas áreas, como a capacidade de digerir e sintetizar
informação complexa, ultrapassem a capacidade dos humanos. Isto porque a
inteligência — pelo menos a inteligência tal como é encarada pelos humanos —
envolve muito mais do que estas capacidades. Desde logo, envolve sabedoria
prática: o poder de julgar o que vale a pena fazer e em função de quê. A
“superinteligência” de Nick Bostrom, que destrói o mundo para fabricar mais
clipes de papel, decididamente não tinha isso.
Sem comentários:
Enviar um comentário