Há algo de desconcertante em finalmente existir uma máquina capaz de manter um diálogo coerente e informado sobre quase qualquer tópico. As experiências de quem já experimentou usar o ChatGPT (ou sistemas semelhantes) têm levantado questões sobre se estes sistemas poderão (vir a) ter consciência — e, mais fundamentalmente, sobre o que é a consciência. Neste artigo vou apresentar algumas ideias em torno deste tema, tentando ir um pouco além das discussões que geralmente encontramos nos media.[1]
- Numa recente entrevista dada pelo escritor de ficção científica Adrian Tchaikovsky, é discutido um livro seu onde, num universo fantástico, corvos (ou uns primos afastados deles) exibem grande inteligência. São capazes de resolver problemas complexos e dialogar, dando respostas sofisticadas às questões que lhes são apresentadas. No entanto, quando os humanos lhes perguntam sobre a sua vida mental, os corvos negam ter qualquer consciência. Avaliando pelo seu comportamento, são claramente inteligentes; mas dizem não ter um “eu”. O paralelo com o ChatGPT é evidente: quando perguntamos a este chatbot algo pressupondo um “eu” humano do outro lado do diálogo, a máquina começa por esclarecer o que (não) é: como um modelo de linguagem de inteligência artificial, eu não tenho uma mente da mesma forma que os seres humanos têm. Eu sou um programa de computador […]
A questão mais interessante que isto levanta não é sobre esses corvos imaginários nem sobre os modernos chatbots. É sobre nós. Os humanos também são muito competentes a usar a linguagem e resolver uma variedade de tarefas cognitivas. E, ao contrário dos corvos no livro de Tchaikovsky e do ChatGPT, acreditamos, com força inabalável, que temos um “eu”. O que levanta uma possibilidade (que no romance é introduzida por um corvo): e se formos nós, humanos, que estamos enganados e nos estivermos a iludir com a ficção de existir um “eu”? Se calhar os corvos e os chatbots é que têm razão. Na ausência de mais informação, parece-me intelectualmente desonesto (e um bocadinho arrogante) pressupormos que, face a entidades que exibem uma performance cognitiva semelhante à nossa mas dizem não ter um “eu”, a nossa experiência subjectiva (e obviamente não-falsificável) de termos um “eu” estará necessariamente correcta. Talvez a sensação de existir um “eu” no nosso interior seja ilusória, o equivalente a um “bug” no nosso software mental.
- Se tivermos a humildade de reconhecer “inteligência” aos corvos imaginários e aos chatbots, então surge outra possibilidade. Essas inteligências terão evoluído em contextos e seguindo trajectórias muito diferentes da nossa. (Como será ser um corvo, parafraseando Thomas Nagel?) E, naturalmente, a nossa forma de inteligência também terá incontáveis especificidades, fruto da evolução dos humanos (e dos seus ancestrais) no planeta que habitámos ao longo dos últimos milhões de anos. Não haverá nada de surpreendente se, dados esses caminhos tão diferentes que estas formas de inteligência trilharam, cada uma delas tenha as suas… idiossincrasias. Se calhar a nossa forte convicção de que temos um “eu” é um acaso evolutivo — uma ilusão que poderá, plausivelmente, ter-se revelado “adaptativa” em algum ponto da jornada evolutiva dos humanos. Não haveria, assim, nada de surpreendente em outras inteligências — que se desenvolveram voando pelos céus ou ziguezagueando biliões de vezes ao longo de circuitos electrónicos gravados sobre silício — não partilharem essa nossa característica.
Aliás, pensar de uma perspectiva evolutiva a nossa convicção de que temos um “eu” abre as portas a considerá-la como um mero estádio evolutivo. Quem sabe os corvos imaginários de Adrian Tchaikovsky e a actual geração de chatbots tenham simplesmente “curto-circuitado” esta fase da evolução da inteligência humana, desenvolvendo competências cognitivas que se assemelham às nossas sem terem necessitado de passar por esta fase. E quem sabe se nós próprios, humanos, não poderemos vir também a ultrapassá-la.
- Para quem teve alguma exposição ao budismo, a natureza ilusória do “eu” é uma noção familiar. Desta perspectiva, o surgimento destes novos chatbots até poderia (tal como os corvos do romance) eventualmente contribuir para o nosso desenvolvimento espiritual. Estas entidades apresentam-nos um espelho onde encontramos uma imagem que exibe a nossa capacidade mais querida (o uso da linguagem, a derradeira linha de defesa nas guerras fronteiriças entre o humano e o não-humano). E não há um “eu” do outro lado. Então será que devo estar assim tão confiante de que há mesmo um “eu” do lado de cá?
- São apenas “papagaios estocásticos”, dizem críticos conhecedores destes novos chatbots. Estes sistemas funcionam, sem ter qualquer referência programada à mais básica noção de significado de uma só palavra que seja, compondo probabilisticamente resmas e resmas de texto com base nos padrões escondidos em biliões de palavras que foram escritas por humanos e que se podem encontrar online. Esses padrões foram captados em (assim chamados) “grandes modelos linguísticos”, cada um deles um emaranhado indecifrável de associações entre palavras. São estes modelos probabilísticos, descrevendo genericamente que palavra-costuma-estar-próxima-de-que-outra-palavra, que servem de alicerces a estes chatbots. É neste sentido que por vezes ouvimos dizer que os actuais chatbots são pouco mais do que um sistema sofisticado de “auto-complete”.
Tudo isto é tecnicamente correcto, mas se me pedirem para descrever como é que eu[2] produzo texto no decurso de uma conversa — ou ao redigir este texto para a Almanaque — será que sei adiantar muito mais do que eu estou “espontaneamente” a completar a frase que comecei anteriormente? Que estou, neste instante, a digitar não sei exactamente porquê e-s-t-a-s-e-q-u-ê-n-c-i-a-d-e-c-a-r-a-c-t-e-r-e-s porque “encaixam” com o texto já escrito? E, se me forçarem mesmo a avançar uma explicação sobre como está a ser composto este estranho parágrafo, remeterei (com poucas certezas e ainda menor entendimento) para processos no mínimo tão complexos e incompreensíveis como estes “grandes modelos linguísticos” dos chatbots: os fenómenos electroquímicos ocorridos nesse outro “emaranhado” de biliões de interligações que estão, neste momento, a ocorrer dentro do meu crânio. Por outras palavras: que motivos tenho para acreditar que eu próprio funciono de uma forma assim tão diferente da de um “papagaio estocástico”?
- Uma breve digressão, motivada pelo ponto anterior: os especialistas que explicam o funcionamento interno destes sistemas ao grande público fazem-no, com frequência, para explicar por que é errado pensar que estes chatbots podem ser inteligentes (ou conscientes ou sencientes). Ao mesmo tempo, uma parte importante destas descrições salienta a incrível complexidade dos modelos probabilísticos que estão no coração destes sistemas. Apesar de sabermos quais são as operações elementares que geram esses modelos, uma vez formados são verdadeiras “caixas negras” que escapam ao entendimento de qualquer humano devido à sua incrível complexidade.
Ora, onde há grande complexidade, há a possibilidade de emergência. Quando pensamos sobre o surgimento da vida na Terra e o desenvolvimento da nossa própria (aparente?) consciência, aceitamos comummente que, de uma enorme sequência de (em si mesmas simples) reacções físico-químicas, pode emergir uma forma de vida; ou que, das interligações entre biliões de neurónios, pode surgir a consciência. Ou seja, parecemos estar em paz com a noção de que algo fundamentalmente novo pode emergir da complexidade, mesmo quando temos um bom entendimento de cada uma das operações individuais por detrás desse sistema complexo.
- Por fim, algumas destas discussões evocam o especismo com o qual há muito nos armamos ao lidar com os outros animais. A nossa relação milenar de exploração e extermínio de animais não-humanos requer que nunca vacilemos na nossa convicção de que “somos diferentes”. Dado quão bem desenvolvido está este músculo,[3] seria inesperado que desta vez fôssemos rápidos a reconhecer as semelhanças entre nós humanos e estas outras formas de inteligência. Mas o convite que elas nos apresentam pode ser-nos útil. Mais do que a revisitar as já tão gastas questões sobre se o outro com que nos deparamos é digno de ser considerado inteligente, consciente ou senciente, os corvos imaginários de Adrian Tchaikovsky e os recém-chegados papagaios estocásticos desafiam, cada um de nós, a um outro exercício. Relaxar um pouco a mão com que nos agarramos a algumas das nossas maiores certezas, permitir que fiquem ligeiramente mais difusas algumas das fronteiras que temos tão firmemente desenhadas nas nossas mentes. Obrigado, robot.
___
[1] Escrevo da perspectiva de um leigo em filosofia da consciência que nunca gostou particularmente de ler ficção científica, dois domínios onde certamente não faltarão ideias mais sofisticadas sobre estas questões.
[2] Presumivelmente um humano, embora tenha dias.
[3] Desnecessário dizer que isto é especialmente verdade na dita “civilização ocidental”, que também treinou abundantemente este músculo contra outros humanos.
