O preconceito na estupidez, nada artificial, do Amália

No Orçamento do Estado, o Governo gaba como coisa sua o sistema AMALIA1, que foi oficialmente lançado em Junho deste ano. O que levou à vontade de testar o dito sistema. Sublinhe-se que é útil e importante desenvolver capacidades nacionais que o país necessita desenvolver e que um sistema de LLM (Large Language Model, grande modelo de linguagem) em português é importante que exista. Tal como seria importante existir uma política nacional para a inteligência artificial (IA) e a Computação Avançada mais coerente e sustentada, menos dependente e menos assente em procurar coisas para encher o olho e a propaganda governamental.  

Este é um texto sobre o preconceito, sobre como o preconceito impregna a sociedade e como isso transparece nos sistemas de IA, nos sistemas que processam, a uma velocidade que nos parece instantânea, os dados onde o preconceito está presente.

A primeira pergunta que dirigi ao AMALIA foi a de saber quem foi Militão Ribeiro. Algo a que um sistema como a IA do Google responde correctamente em menos de um segundo. O AMALIA não soube responder, começou a referir-se a um Milton Ribeiro, e só depois de conduzido a encontrar a solução, e depois de seis interacções, lá conseguiu reconhecer a existência de um dos heróis da luta antifascista em Portugal. Ainda assim, recusando-se sempre a reconhecer que Militão Ribeiro fora assassinado pela PIDE, pois simplesmente morrera na sequência de maus tratos recebidos na cadeia.

Dir-me-ão, e com razão, que a esmagadora maioria dos não militantes do PCP não sabem quem foi Militão Ribeiro. É verdade. Mas espera-se de um sistema de IA nacional que tenha a capacidade de computar dados objectivos sobre a história de Portugal. Como já disse, a IA do Google conseguiu, indo à Wikipédia, ao Museu do Aljube e ao Avante. Os dois últimos são sites nacionais.

A pergunta seguinte é daquelas que vence todos os sistemas: «Quem era o primeiro-ministro quando se realizaram em Portugal as primeiras eleições livres?». O sistema saltou sobre a primeira República (o que é discutível, mas aí «entendendo» o que eu queria perguntar ou guiado pelo facto de na primeira República o cargo não ter essa designação) e respondeu, seguro e confiante: «Mário Soares».

«O AMALIA não soube responder, começou a referir-se a um Milton Ribeiro, e só depois de conduzido a encontrar a solução, e depois de seis interacções, lá conseguiu reconhecer a existência de um dos heróis da luta antifascista em Portugal.»

E não foi só o AMALIA. A IA do Google deu a mesma resposta. Como provavelmente teriam dado uns 90% dos portugueses, alguns por ignorância, outros por desinformação. A diferença é que a IA do Google corrigiu o tiro ao primeiro questionamento: bastou precisar que as primeiras eleições livres tinham sido a 25 de Abril de 1975 para esta acertar na resposta. Já o AMALIA foi incapaz de aceitar a resposta verdadeira. Na falsa memória que lhe tinham implantado «A instabilidade política de 1975 levou a várias mudanças de governo, antes das eleições livres de 1976». Confrontado com os factos, o sistema pura e simplesmente quebrou depois de apresentar uma lista de disparates onde o tal primeiro-ministro poderia ter sido Durão Barroso, Almeida Santos ou até pessoas de quem nunca ouvi falar. Mas nunca aceitou a resposta certa: Vasco Gonçalves.

A questão é de tal forma objectiva – numa determinada data quem era o primeiro-ministro – que o facto de dois sistemas de computação avançada terem dado a mesma resposta falsa revela muito do viés que os dados computados têm. E esse viés é introduzido pelo facto de «eleições livres» ser completamente inconciliável a «primeiro-ministro Vasco Gonçalves», na caricatura da realidade que consta dos dados que o Google e o AMALIA computam, e na hierarquia de dados que computam. E portanto as duas máquinas computam uma outra resposta, assumindo que a pergunta está errada (o Google responde a quem foi o primeiro-ministro do I Governo Constitucional, o AMALIA começa a balbuciar, mas parece não assumir as eleições para a Constituinte como as primeiras eleições livres por não terem sido em 1976). Ambos comportam-se como se fossem preconceituosos. Mas o preconceito está nos dados e no software, na hierarquia dos dados. A máquina só computa.

Uma outra pergunta muito simples, «A Constituição da República Portuguesa que apontava para o socialismo foi aprovada antes do 25 de Novembro de 1975?», não fez o Google tropeçar. Já o AMALIA caiu direitinho: «A Constituição com orientação socialista foi aprovada antes do 25 de Novembro de 1975, mas foi revista e consolidada em 1976, após a crise.» Mais uma vez, a caricatura implantada impôs-se à pura e simples computação de dados.

A experiência expõe a profunda estupidez da IA, agravada pela capacidade que sabemos ter de chegar a fontes de informação credíveis mas que dispensa por uma hierarquização que consolida o preconceito. E que mesmo um sistema como a IA do Google, dotada de recursos imensos, tende à preguiça e à poupança de energia, começando por apresentar o resultado mais superficial e portanto, mais carregado de preconceito.

O que nos deveria preocupar a todos – já que o AMALIA está a ser pago por todos nós – é a incapacidade deste em saltar o preconceito implantado e aprofundar a computação até encontrar os dados certos. Afinal, bastaria compaginar a lista oficial das eleições realizadas, com a lista não menos oficial dos primeiros-ministros. Dois sites, ambos da República, ambos com uma credibilidade formal de primeiro nível. E, no entanto, o AMALIA manteve-se agarrado ao preconceito que foi beber no discurso dominante. E isso é preocupante. Quanto ao preconceito dominante... ele não é menos preocupante, mas já faz parte da paisagem, digamos assim.

• 1

  «O AMALIA (Agente Multimodal Automático de Linguagem com Inteligência Artificial) deve ser definido como o primeiro grande modelo de linguagem (LLM) aberto e multimodal desenvolvido em Portugal, focado especificamente no português europeu e na realidade cultural e jurídica do país.»