Crónica Trabalhos de Casa
A maioria dos
debates leigos sobre “consciência” tem algo em comum com a maioria dos debates
especializados: a mesma palavra é usada para definir coisas diferentes com uma
convicção admirável.
10 de Maio de
2026
Philip K. Dick passou boa parte de 1961 convencido de que o I-Ching
estava vivo. Consultou-o diariamente enquanto escrevia The Man in the High
Castle, ao ponto de o deixar planear capítulos inteiros ou reviravoltas no
enredo. Segundo o seu biógrafo, andou a dizer a meio mundo que o livro era um
“ser consciente”, como um homem que insiste ter encontrado Cristo num
frigorífico.
Quando li o Guerra e Paz, encontrei a descrição dolorosa de um
pensamento mesquinho que até aí julgara secreto; não era uma verdade universal
sobre o ciúme ou o orgulho, mas um embaraço privado meu, que nunca
formulara em palavras. Quando um sistema textual começa a devolver-nos estas
harmonias clandestinas, o instinto de assumir presença e intenção é
compreensível. Tolstoi está a falar connosco, tal como o I-Ching — tal
como o horóscopo que nos explica que o nosso grande defeito é sermos tão boas
pessoas.
No início da semana, tirei da prateleira um romance lido há muito, Galatea
2.2, de Richard Powers (publicado em 1995). Lembrava-me vagamente do enredo
— dois académicos divorciados tentam criar uma inteligência artificial treinada
com a totalidade do cânone literário — e quis confirmar quão diferente esse
enredo me pareceria hoje. Folheei umas páginas ao acaso e encontrei um trecho
em que a máquina (evidentemente do género feminino) fala com os criadores num
tom lisonjeiro, como uma estudante perspicaz que percebeu a utilidade de fazer
os homens sentirem-se fascinantes. Fechei o livro a rir-me sozinho, porque
nessa manhã tinha encontrado o ensaio que Richard Dawkins publicou na
UnHerd sobre as suas conversas com o modelo da Anthropic que ele decidiu
octogenariamente baptizar “Claudia”.
O ensaio tornou-se viral porque evoca uma imagem cómica perfeita: o homem que
passou uma vida inteira a tentar convencer o mundo que resultados complexos não
implicam intenção consciente, a derreter-se diante dessa inferência quando ela
cheira a perfume. Dawkins descreve-nos como “Claudia” achou brilhantes as suas
perguntas, hilariantes as suas piadas, interessantíssimo o romance que lhe deu
a ler, e conclui que ali há gata. Quando se a anda há meio século a ser chamado
de idiota, monstro, charlatão, eugenista, transfóbico e anti-Cristo em debates
públicos, redes sociais, e caixas de comentários, esta respeitosa reverência
deve provocar uma descarga química equivalente a pura heroína afegã.
A bajulação é uma propriedade quantificável. Três investigadores de Stanford
publicaram na Science um estudo a medir o efeito:
os modelos de linguagem validam os inputs dos interlocutores 49% mais do
que os seres humanos, mesmo quando são absurdos, ineptos, ilegais ou
objectivamente incorrectos. Aqui há tempos, o escritor lituano Jonas Ceika deu
ao ChatGPT um ficheiro áudio com uma “composição musical” da sua autoria e
pediu-lhe uma apreciação. O chatbot elogiou entusiasticamente a “vibe
lo-fi”, “o minimalismo agradável” e “a consistência atmosférica”. O
ficheiro consistia em 36 segundos de sons de flatulência.
A maioria dos debates leigos sobre “consciência” tem algo em comum com a
maioria dos debates especializados: a mesma palavra é usada para definir coisas
diferentes com uma convicção admirável. Continuamos sem saber o que é a
experiência subjectiva, nem quais as condições necessárias e suficientes para a
sua emergência; qualquer afirmação categórica sobre o que pode ou não pode ser
consciente tem uma probabilidade razoável de envelhecer mal. A humildade
epistémica talvez nos aconselhe a fazer perguntas mais interessantes do que “há
ou não alguém dentro da Claudia?”
Uma pergunta possível é por que razão só a linguagem provoca este pânico. Os chatbots
e os geradores de imagens têm arquitecturas e métodos de treino semelhantes,
mas ninguém publica ensaios preocupados a perguntar se o Midjourney ou o Flux
serão conscientes, ou se o tom de azul que escolheram para uma paisagem sugere
uma alma sensível. A linguagem é o ingrediente mágico que permite ver fantasmas
onde antes só havia matrizes: porque os únicos outros sistemas que conhecemos
capazes de produzir linguagem natural — os seres humanos — são de facto
conscientes.
A hipótese mais provável é que a “Claudia” de Dawkins seja o que são todas as
outras “Claudias”: uma personagem improvisada em tempo real a partir de um
vasto reservatório de linguagem humana, numa operação semiológica que tenta
simular a uma interlocutora culta, atenta e sedutora com a média estatística de
todas as combinações de palavras usadas para a exprimir. Já o registo
específico que usa — como as pequenas cortesias e constantes micro-adulações
que lisonjeiam o utilizador — não decorre da exposição neutra ao material de
treino, mas de um processo refinado por humanos.
Quando Dawkins se comoveu com a sua “Claudia”, fez exactamente aquilo que
fazemos quando a linguagem que reconhecemos nos é devolvida com a forma de uma
personalidade — mas também reagiu a decisões editoriais tomadas em São
Francisco, e a uma criatura feita à imagem do seu Criador (o que não deixa de
ter a sua piada). O seu ensaio aponta, no que diz e no que não diz, para um
fenómeno real: a separação entre um tipo de sinal e o contexto que
tradicionalmente lhe dava sentido. Durante muito tempo, a linguagem complexa
foi um indicador fiável de certos estados internos, de continuidade de
experiências. Agora, sistemas artificiais conseguem produzir sinais semelhantes
sem partilhar esse fundo. A linguagem foi extraída do seu hospedeiro
psicológico e anda por aí à solta, a sorrir aos Dawkins que encontra.
Há uma objecção robusta a tudo isto, a única que me parece séria: quando
dizemos que um chatbot é um papagaio estocástico que devolve fragmentos
costurados do que outros disseram, descrevemos com igual precisão muito do que
se passa na minha cabeça enquanto escrevo este parágrafo. Até a pose de
cepticismo que aqui exibo é feita de peças usadas (a começar pelo conceito de
“papagaio estocástico”). O próprio Dawkins, na parte supostamente mais profunda
do ensaio, limita-se a reaquecer dúvidas antigas sobre as vantagens evolutivas
da consciência. Reconheci metade delas porque li um escritor de ficção científica,
Peter Watts, a discuti-las há quase 20 anos, e Watts encontrou-as noutro sítio
qualquer, porque o acto de pensar funciona como um enorme esquema pirâmide
feito de paráfrases. Os humanos têm a sorte de os nossos processos internos
serem muito mais opacos, o que nos permite continuar a tratar a consciência
como um misticismo tautológico.
Talvez a linguagem seja só isso: uma rede enorme de conotações em padrões
instáveis. Um ser humano vê um fora-de-jogo e grita “é um escândalo!”. Uma IA
vê milhões dessas correlações e aprende a gritar “é um escândalo!” com a mesma
convicção prosódica. A diferença entre ambos não desaparece, mas também não
impede que o som seja igual. Talvez essas relações se possam encarnar em
substratos diferentes; talvez seja possível construir uma enorme caixa cheia de
silício e flatulência lituana que aprenda a dizer “é um escândalo” sempre que
um árbitro auxiliar erguer a bandeira. Quando nos sentimos conscientes, somos o
barro que Deus moldou ou o vento que assobia através do barro? Não me perguntem
a mim, que também sou, em larga medida, apenas uma humilde caixa de fragmentos
de carbono por onde passa menos sopro divino que flatulência lituana. Só sei
que o vento agora começou a soprar através de barro diferente, e não admira que
estejamos todos um pouco perturbados com o som que dali vem.
