IA, Inevitabilidade Artificial
A política é inseparável da acção. Quando intervimos no mundo, agimos politicamente. As nossas escolhas, mesmo que condicionadas por circunstâncias que não controlamos, produzem efeitos políticos. Isso acontece porque somos animais com capacidade de consciência e porque encontrámos formas de organização comum que se baseiam em entendimentos, tensões e relações de força. A forma como se hierarquizam valores ou se privilegiam determinados tipos de organização em relação a outros é a essência da política. É por acreditar nisso que não consigo aceitar a ideia da inevitabilidade política. Para mim, essa seria a negação da própria política, tal como a entendo.
Não se pode travar o ar com as mãos?
A noção de inevitabilidade está, contudo, impregnada em muitas das discussões que ocupam o debate público dos nossos dias. Uma das expressões que mais vezes li e ouvi nos últimos tempos é, com algumas variações, a de que “não se pode travar o ar com as mãos”. Este ar de que aqui se fala é a Inteligência Artificial, quase sempre reduzida à sigla IA, num tempo de economia e simplificação da linguagem.
Entre os defensores de que a Inteligência Artificial é uma força sobrenatural que se imporá sobre a Humanidade, há aqueles que entusiasticamente sonham com um mundo novo de máquinas inteligentes capazes de nos substituir nas tarefas mais comezinhas, libertando-nos, e os que resignadamente esperam pelo apocalipse tecnológico que nos tornará a todos obsoletos e/ou extintos.
É difícil aferir a que ponto estarão certos os optimistas tecnológicos, embora não seja difícil encontrar exemplos de áreas científicas em que a Inteligência Artificial se revela uma ferramenta poderosa e de enorme potencial positivo.
Já o potencial destrutivo desta tecnologia está bem patente num estudo feito em 2022 pela Universidade de Oxford e pelo departamento de Inteligência Artificial da Google, DeepMind. O inquérito entrevistou 738 cientistas que trabalham em sistemas de aprendizagem de máquina (machine learning): mais de metade dos entrevistados afirmou haver 5% de hipóteses de a IA provocar a extinção humana.
Não havendo certezas sobre quem está mais perto do prognóstico sobre os efeitos da Inteligência Artificial, urge começar a olhar para ela como aquilo que efectivamente é: uma ferramenta tecnológica. Ao longo da História, a tecnologia dominante em cada período, seja ele a Idade do Ferro ou a Revolução Industrial, teve impactos sociais e políticos profundos, mas não determinou de maneira absoluta as formas que cada sociedade humana encontrou para se organizar. Continuaram a existir alternativas.
O Pinóquio é ou não um menino de verdade?
Como o Gepeto, estamos demasiado encantados com a nossa própria criatura para nos lembrarmos de que somos o seu criador. Muito do que se tem escrito sobre a Inteligência Artificial e chatbots como o ChatGPT ou o Bing andam às voltas com a questão, certamente fascinante mas muito pouco prática, da consciência que estas máquinas terão ou não.
Quase sempre, os autores recorrem à tecnologia para lhe fazer perguntas, colocando-a num patamar de igualdade. Muitas vezes, acabam mesmo por falar destes dispositivos como se eles existissem por si próprios, independentemente da intervenção humana. Estamos a falar com o Pinóquio como se ele fosse um menino.
As capacidades com que estas máquinas foram criadas permitem-lhes certamente desenvolverem-se, para lá daquilo com que inicialmente foram programadas. Mas quando centramos o debate na questão da consciência do ChatGPT e tecemos considerações como se a tecnologia fosse em si uma “espécie” capaz de rivalizar com a nossa, estamos a divergir daquela que seria a análise mais urgente. E essa análise é política.
Desqualificação é a palavra-chave
Henry A. Kissinger escreveu em Fevereiro um artigo no The Wall Street Journal no qual avisa para as consequências sociais absolutamente transformadoras que a Inteligência Artificial pode trazer.
“Algumas consequências podem ser-lhe inerentes. Na medida em que usamos menos os nossos cérebros e mais as máquinas, os humanos podem perder algumas das nossas capacidades. O nosso próprio pensamento crítico, as nossas capacidades de escrita e (no contexto de programas “text-to-image” como o Dall-E e o Stability.AI) de design podem ficar em atrofia. O impacto da IA generativa na educação pode consubstanciar-se no declínio da capacidade de futuros líderes de distinguir entre aquilo que intuem e aquilo que absorvem mecanicamente. Ou pode resultar em líderes que aprendem os seus métodos de negociação com máquinas e a sua estratégia militar com evoluções da IA generativa em vez de o aprenderem com os humanos que estão nos terminais dos computadores”, escreve Kissinger.
Desqualificação é aqui uma palavra-chave. Leif Weatherby escreveu na Jacobin que estes sistemas “podem suplantar tarefas de baixo nível, tanto na escrita como na codificação, e podem levar a uma desqualificação cognitiva em massa, tal como a fábrica industrial desagregou e empobreceu o trabalho físico”.
Noam Chomsky defendeu numa entrevista ao Público que “esta inteligência artificial é o ataque mais radical ao pensamento crítico” pela forma como se pode transformar num poderoso instrumento de alienação, mas também pelos efeitos que tem ao ser capaz de gerar textos, sons e imagens falsas como se fossem reais, levando-nos a um estado de absoluto relativismo. Se não posso ter a certeza do que é verdadeiro ou falso, a descrença apodera-se de mim. Sem crenças, desisto de agir. E também essa é uma forma de desqualificação: rendemo-nos à ideia de que não estamos qualificados para discernir o real nem para intervir sobre ele.
A transformação social que Kissinger antevê que aconteça é a estocada final na democracia. “É provável que a liderança se concentre nas mãos das poucas pessoas e instituições que controlam o acesso ao número limitado de máquinas capazes de uma sintetização de alta qualidade da realidade”.
Na prática, este será o patamar extremo de uma desigualdade crescente a que já se assiste. É como se todos os mecanismos de desigualdade presentes no mundo ficassem potenciados por uma capacidade sem precedentes de computação.
Detectar “gestos suspeitos”
Neste exacto momento, a Inteligência Artificial usada em dispositivos como o ChatGPT não é sequer uma verdadeira inteligência, é um mecanismo baseado na geração de textos com base na relevância estatística da ligação entre palavras, incapaz de verdadeira criatividade e limitado no conhecimento às bases de dados abertas (muitas vezes de duvidosa qualidade) presentes na Internet.
É por causa deste modelo de funcionamento que autores como Emily Bender e Timnit Gebru chamam a estes chatbots “papagaios estocásticos”. Este é, contudo, um dos seus maiores perigos. A Inteligência Artificial reproduz a média do que encontra na Internet e isso significa, muitas vezes, que se baseia em noções preconceituosas e estereotipadas.
Enquanto preparo este artigo, chega-me à caixa de correio uma nota de imprensa de uma empresa que comercializa o software Veesion. O comunicado explica que esta ferramenta “detecta gestos de roubo em tempo real graças à inteligência artificial”.
Ou seja, antecipa a potencial prática de um crime (que, por acaso não seria de “roubo”, mas de “furto”), com base na ideia preconcebida de que há um determinado padrão de comportamento (e não sei se de aspecto físico) preditivo de que se vai cometer esse crime. “Esta solução única e inovadora no sector de retalho está agora em uso em milhares de retalhistas em França, internacionalmente e recentemente também em Portugal! [sic]”, conclui o entusiástico press release, que adianta números debitados para impressionar, como o anúncio de “100 mil gestos suspeitos detectados por mês”.
Estamos, portanto, num domínio em que há “gestos suspeitos” e máquinas concebidas para os detectar. E isso é relevante porque, como em qualquer tecnologia concebida pelo Homem (pelo menos até ao momento), o Homem mantém a capacidade de agência ao ser o seu criador e programador.
Nietzsche ou Aristóteles?
E é por isso que, ao invés de travar a Inteligência Artificial da forma como tem sido feito em países como Itália, que suspendeu o uso do ChatGPT durante umas semanas, ou de simplesmente inventar leis para restringir o seu uso, é preciso ir à raiz do problema: a discussão sobre quem controla estas máquinas e que valores lhes são inculcados.
Os Governos não podem simplesmente aceitar ir gerindo, através de regulamentações feitas a posteriori, a forma como a IA é programada. É preciso que o público reclame para si uma intervenção sobre o esquema ético que lhe está subjacente. Instruir uma máquina com a ética de Nietzsche será necessariamente diferente de a programar sob os preceitos de Aristóteles. E esse é o debate que devíamos estar a fazer.
Há passos a ser dados nesse caminho. O Parlamento Europeu está a trabalhar em legislação que defina fronteiras e regras, que incluem a obrigatoriedade da divulgação das bases de dados usadas para treinar estes modelos de IA. Isso não chega. É preciso lembrar que estas tecnologias estão a ser criadas e desenvolvidas por empresas privadas, com interesses comerciais, numa lógica de mercado. Trazer para a esfera pública o seu domínio é essencial.
Teremos de conquistar “um futuro livre e radioso”
“Não quero programar máquinas inteligentes para aceitar e reproduzir a escassez e a desigualdade da sociedade moderna. Preferia usá-las para abolir a escassez e a desigualdade – e inculcar nos sistemas sociais que as rodeiam a ideia de que elas podem ser usadas somente para promover o bem-estar humano e devem ser usadas para esse fim”, defende Paul Mason num livro optimistamente intitulado “Um futuro livre e radioso, uma defesa apaixonada da Humanidade”.
Se é certo que as máquinas que produzimos são capazes de feitos maravilhosos, aquilo que nos torna melhores é a indefinível centelha de humanidade que carregamos. A mesma que faz com que nada seja melhor do que estar face a face com um humano e cuja ausência nos faz desesperar nas interacções mecanizadas com robots de call centers.
Na mesma entrevista ao Público, Chomsky frisa a luta titânica que enfrentará quem quiser resistir a um mundo dominado por uma Inteligência Artificial programada apenas para defender o sistema de mercado, sem preocupações sociais e humanitárias. “Não nos podemos esquecer de uma coisa: há imenso capital investido nestas tecnologias. Há instituições e organizações poderosas que se vão envolver nestas tecnologias e encontrarão inúmeras formas de contornar a legislação. Especialmente se as pessoas realmente quiserem isto [IA], criando uma lógica de procura e oferta. Aí as grandes organizações vão, certamente, encontrar uma forma de contornar a lei”.
Como se confronta, então, um poder tão forte? Da mesma maneira que a Humanidade tem encontrado, ao longo dos tempos, para resistir a várias formas de opressão. Pela acção colectiva, organizada, persistente e informada. Sim, ainda acredito que possa haver um “futuro livre e radioso”. Mas ele não nos será dado. Teremos de o conquistar.
