João Ferreira: nem banir, nem proibir – a solução para a IA é o «controlo público»

Que haja Inteligência Artificial! E a IA começou a existir.

Para um leigo, foi um pouco este o processo através do qual a inteligência artificial entrou nas nossas vidas. Do nada, uma explosão súbita, seguida de um crescimento exponencial da IA que, em coisa de poucos anos, se imiscuiu inteiramente nas vidas de uma larga parte da população mundial: ainda que em muitos casos nem tenhamos noção de todos os aspectos das nossas vidas que estão a ser impactados pela IA.

Desde o lançamento do ChatGTP, em Novembro de 2022, o que parecia ser um simples (apenas na aparência) chatbot, uma ferramenta de IA generativa que simula a conversa de um ser humano, é agora altamente cotado no ranking de coisas que possivelmente vão provocar a extinção do Homo sapiens (em Setembro, alguns trabalhadores de empresas de IA demitiram-se, citando precisamente este receio).

O AbrilAbril falou com João Ferreira, vereador do PCP na Câmara Municipal de Lisboa e membro da Comissão Política do Comité Central que integra o grupo de trabalho que acompanha as questões da IA, poucos dias depois de ter apresentado a propostas dos comunistas para «uma estratégia nacional soberana para a IA».

Começando pelo fim. A discussão em torno da Inteligência Artificial que dominou a comunicação social nas últimas semanas: a Inteligência Artificial é uma ameaça à sobrevivência da humanidade?

O PCP rejeita essas simplificações, sejam as que tendem a endeusar a inteligência artificial, sejam as que a tentam demonizar. A aplicação da inteligência artificial, como qualquer tecnologia, tem de ser compreendida no contexto da formação socioeconómica vigente. É esse contexto que, em grande medida, vai determinar os seus impactos. 

IA e princípio de precaução

A IA comporta potencialidades de avanços inquestionáveis, mas também riscos e perigos assinaláveis. Não temos a ilusão de pensar que esta aplicação se faz no vácuo: é precisamente por se fazer no contexto de uma determinada formação socioeconómica (e compreendendo as relações de propriedade e de poder que têm sustentado a IA) que tendemos, nos dias de hoje, a dar aos riscos e aos perigos um peso maior do que a propriamente algumas das potencialidades.

A IA introduz mecanismos muito mais apertados de segurança (e de repressão); tem aplicações potencialmente catastróficas no sector da guerra e armamento; tem o potencial de destruir, por completo, a fiabilidade de qualquer vídeo ou imagem, indo ainda mais longe do que as redes sociais em estabelecer um mundo em que tudo é fake news. O próprio Papa denunciou as ameaças da IA numa encíclica. Para o PCP, os riscos não são demasiado grandes? A solução não deveria começar por cortar imediatamente a utilização da inteligência artificial no seu todo? 

Nós até acrescentamos outros riscos a esses que identificas. Por exemplo, uma questão que tem assumido crescente importância e que tem justificado uma crescente atenção da nossa parte: tudo o que resulta da aplicação das tecnologias associadas à inteligência artificial em contexto laboral. São tecnologias que (em teoria) poderiam aumentar a produtividade social do trabalho e que (se revertessem a favor dos trabalhadores) permitiram reduzir tarefas penosas, repetitivas, diminuir ritmos e reduzir jornadas de trabalho, diminuir a idade da reforma, mas que, inversamente (não há novidade aqui), e como já aconteceu com outras tecnologias no passado aplicadas em contexto capitalista, levam precisamente à desregulação de horários de trabalho, prolongamento de jornadas, o esbater de fronteiras entre o horário de trabalho e as restantes dimensões da vida das pessoas, incremento de vigilância em contexto laboral, perseguição aos trabalhadores, etc...

Há as questões que tu referiste da guerra, com formas cada vez mais sofisticadas (no fundo é disso que se trata) de matar, de perseguir. O mesmo para as redes sociais, com o poder brutal de condicionamento social e político que essas ferramentas hoje comportam e cujo poder está concentrado, essencialmente, nas mãos de três ou quatro grandes corporações tecnológicas. 

O futuro do trabalho dependerá das escolhas políticas e sociais sobre a IA

Ou seja, o que eu quero dizer é: sim, esses riscos são reais. Não só aqueles que referiste, como outros que nós identificamos (no ensino, numa esfera diversificada de áreas de intervenção dos Estados, de serviços públicos, etc...). Perante isto, qual é a solução? 

A solução, do nosso ponto de vista, não é banir ou proibir determinado tipo de tecnologias (ainda que na própria regulação de novas tecnologias existam determinados tipos de usos que possam ser proibidos ou limitados), mas a questão essencial é o controlo público: a propriedade e o controlo social desta enorme infraestrutura.

E é possível ter propriedade sobre uma inteligência artificial?

Às vezes tem-se a ideia destas tecnologias [de IA] como algo etéreo, desmaterializado. Nós estamos perante uma infraestrutura brutal, das maiores (se não a maior) que a humanidade já construiu do ponto de vista do que implica em estrutura material e física, uma infraestrutura brutal que implica a participação de milhões de trabalhadores. Há uma socialização clara do trabalho. Agora, o que é necessário do nosso ponto de vista é haver uma propriedade, um controlo social, sobre esta gigantesca infraestrutura que permita a sua mobilização não a favor de um determinado tipo de interesses, das grandes corporações tecnológicas, do grande capital (que está a investir em força neste tipo de tecnologias), mas, pelo contrário, a favor dos povos.

No caminho para essa questão decisiva que é a propriedade social desta enorme infraestrutura há uma batalha que se trava no campo da necessária regulação do uso destas tecnologias – seja no plano nacional, seja no plano internacional. Portugal, como parte da estratégia nacional soberana que defendemos para a IA, pode assumir um papel para incentivar a cooperação internacional neste domínio, em moldes muito diferentes dos que têm vindo a ser prosseguidos não só pela União Europeia, como pelos Estados Unidos também. Conceber uma estrutura de cooperação desejavelmente no plano das Nações Unidas que possa estabelecer parâmetros de regulação da IA e que tendencialmente, lá está, admita limitar ou mesmo proibir determinados tipos de usos numa abordagem orientada para o bem comum.

Mas a correlação de forças não está, neste momento, do lado da desregulação?

Pax Silica: A paz não é para todos. A IA também não

Isso parece uma evidência. Agora, é importante também, apesar de tudo, termos presente que, no actual contexto geopolítico, há iniciativas que se procuram contrapor a esse domínio das grandes corporações tecnológicas. Há uma abordagem, que é a dos Estados Unidos e da União Europeia (por arrasto), que é no sentido de defesa dos interesses destas grandes corporações. Mas existem abordagens alternativas.

A China tem tido um papel muitíssimo relevante. A defender uma abordagem orientada para o bem comum, para o benefício da humanidade, num quadro de cooperação que incentiva a partilha, que incentiva soluções de código aberto, que propicie que a inteligência artificial seja segura, controlável, que ajude a antecipar riscos, lá está, que avance no sentido da proibição, por exemplo, das armas autónomas e dos sistemas letais.

Vários destes sistemas têm sido utilizados na Palestina, quer antes, quer durante o genocídio que está em curso. Na Ucrânia também há algumas destas tecnologias. Na agressão ao Irão... Isto é um tipo de utilização que uma abordagem baseada na cooperação internacional, atendendo à fixação de um quadro de regulação da IA orientado para o bem comum, devia proibir: a utilização de armas accionadas sem intervenção humana e apoiadas em sistemas autónomos dirigidos por algoritmos de IA.

Achas possível consciencializar as pessoas para estes problema? Há uma desconexão entre aquilo que é a realidade da aplicação da inteligência artificial e aquela que é a relação da maior parte das pessoas com a IA? Para a maioria, é um LLM (modelo de linguagem em grande escala), é um chatbot com quem se conversa, que nos faz umas imagens, etc... A opinião pública, a oposição à IA, parece mais focada na questão dos custos hídricos e bancos de dados do que nas aplicações da IA em si

Nesta batalha há uma coisa que é fundamental: a percepção que a generalidade do público tem sobre o que é este tipo de tecnologias. E, sim, é uma percepção que está muito marcada pelos desenvolvimentos mais recentes no domínio da IA: a IA generativa, os chatbots. Eu diria que não é diferente do que aconteceu noutros momentos da história da humanidade, em que determinado tipo de tecnologias tiveram um poder tremendo na reconfiguração das relações sociais, de produção, com impacto profundo na vida das pessoas, sem que elas compreendessem propriamente por inteiro os mecanismos associados a algumas dessas tecnologias. 

«A elevação da cultura científica da generalidade da população é munição para o exercício de uma cidadania mais plena, que seja mais consciente do que são os riscos e ameaças e do que são as potencialidades – só isso permitirá a adesão de amplas massas da população à necessidade de controlar a propriedade social desta enorme infraestrutura e de a controlar democraticamente para benefício de todos, e não para benefício de uma ínfima minoria.»

Agora, é fundamental que a consciência da generalidade das pessoas se eleve ao ponto de compreender, pelo menos, aquilo que está associado aos riscos que traz para si, para as suas condições de vida, para a sua segurança, para os seus direitos, liberdades e garantias mas também às potencialidades que introduz nas suas vidas. A elevação da cultura científica da generalidade da população é munição para o exercício de uma cidadania mais plena, que seja mais consciente do que são os riscos e ameaças e do que são as potencialidades – só isso permitirá a adesão de amplas massas da população à necessidade de controlar a propriedade social desta enorme infraestrutura e de a controlar democraticamente para benefício de todos, e não para benefício de uma ínfima minoria.

E que futuro vês para a IA em Portugal? Estamos num país cada vez mais desindustrializado, um economia orientada para o sector de serviços, de emprego pouco especializado...

Vamos por partes. Na esfera produtiva, por exemplo, a IA comporta, para um país como Portugal, inúmeras potencialidades. Seja no apoio à modernização de processos industriais, seja numa utilização mais eficiente de recursos, nomeadamente recursos naturais. Na agricultura permite a melhoria da eficiência de uso de determinados recursos (na água, no solo), permitindo um planeamento mais adequado a que tipo de culturas se dão em determinado tipo de contextos. A esfera produtiva, tendo em conta as especificidades da nossa economia, é uma das áreas que nós [PCP] assinalámos como não podendo deixar de ter uma estratégia para a aplicação da inteligência artificial. 

A melhoria da produtividade, melhoria do planeamento, melhoria da gestão, melhoria da racionalidade de ocupação do território, eficiência no uso de recursos, são tudo coisas que podem advir da aplicação de algumas destas tecnologias à esfera produtiva. Em termos gerais, na agricultura, pescas, indústria, floresta, etc...

E em sectores como a Educação?

A nossa posição é de que a utilização dessas ferramentas de inteligência artificial no contexto educativo nas faculdades deve ser enquadrada de forma crítica. Ou seja, não tanto proibir ou banir o uso dessas ferramentas, que de resto se estão a disseminar e a surgir a uma velocidade muito considerável (não só no contexto do ensino superior, mas até no secundário e básico).

Quando a máquina entra na sala de aula

Duas coisas são fundamentais. Em primeiro lugar, enquadrar criticamente a sua utilização. Isto é, precisamos de ensinar quais são as limitações e os enviesamentos dessas ferramentas e, consequentemente, o que se pode esperar delas e o que é que não se deve esperar delas. Sem o enquadramento crítico dessa utilização, há riscos reais que têm vindo a ser identificados e estudados: perda de espírito crítico, empobrecimento cognitivo, limitações ao desenvolvimento intelectual de crianças e jovens – riscos reais e que têm que ser combatidos. Não são uma ameaça, são já consequências concretas da utilização de algumas destas ferramentas.

A outra prende-se, de uma forma geral, com a substituição do elemento humano – seja um professor no contexto de sala de aula, seja um professor a corrigir a matéria – por ferramentas de inteligência artificial. O tutor digital, [proposto por] Luís Montenegro.

A introdução desse tutor não significa que alunos que nunca tiveram acesso a explicações, a material de apoio, tenham agora uma vantagem que nunca tiveram? 

É aí que eu quero chegar. Isto não pode ser encarado numa perspectiva de substituição do professor, que é aquilo a que o Conselho Nacional de Educação ou a própria Fenprof/CGTP já se opuseram. No contexto em que estamos – de falta de professores – a tentação de os substituir pelos tais tutores digitais ou plataformas inteligentes de ensino é um risco, na medida em que o professor é insubstituível. Isto deve ser claro. O que não exclui que esta possa ser uma ferramenta adicional, para dar as aulas, para corrigir as provas, mas uma ferramenta adicional que possa apoiar quer professores, quer alunos em contexto de ensino-aprendizagem. Não é uma perspectiva de substituir professores.

Estas questões, especificamente na área da Educação, não obrigam também o PCP a repensar um pouco o conceito de escola. A entrada da IA no sistema de ensino não força a transformação do modelo atual (muito centrado na capacidade de decorar) num modelo mais centrado no espírito crítico? 

Essa necessidade não apareceu com a disseminação da inteligência artificial. Está relacionada com problemas de que a nossa escola pública padece, que não são de hoje, e que a afastam de um modelo que nós defendemos, que é o modelo da formação integral do indivíduo. Não só da transmissão do conhecimento, mas da formação do indivíduo com uma atitude crítica, interrogativa, de questionamento como base para se aprender melhor. Em termos gerais, sim, pode reforçar essa necessidade.

A nossa escola tem-se afastado dessa missão, que o PCP há muito defende, de formação integral do indivíduo. E ela é cada vez mais necessária, cada vez mais actual com a disseminação deste tipo de ferramentas.

O PCP propõe a criação de um laboratório de inteligência artificial em Portugal. Portugal é um país de escala pequena, sem uma grande indústria de investigação, muita da qual está subjugada aos interesses de grandes empresas privadas. Não faria mais sentido recorrer aos modelos que já estão criados pelas big techs estrangeiras do que estar a desenvolver as nossas próprias ferramentas?

Nós precisamos de uma estratégia nacional soberana para esta área de inteligência artificial. Esta estratégia carece, em termos gerais, de instituições do Estado português que estejam vocacionadas e aptas a desempenhar uma tarefa que é simultaneamente de administração, de regulação, de fiscalização e também de desenvolvimento de capacidade própria de investigação e desenvolvimento, apetrechadas com meios técnicos, humanos e materiais suficientes para desempenhar este conjunto de tarefas.

Algumas destas funções poderiam ser reunidas numa instituição – o Instituto Nacional de Computação Avançada, o INCA – que integraria o que seria um laboratório do Estado. Os laboratórios do Estado têm tipicamente esta função, não só de desenvolvimento de investigação numa determinada área mas o de apoiar o Estado nas opções que toma num determinado campo, informadas científica e tecnicamente. 

«Uma instituição como o INCA é fundamental não só para procurar desenvolver uma capacidade própria de computação avançada (nacional, soberana) e de armazenamento de dados, mas para compreender melhor os riscos de uma dependência que não desaparecerá no curto prazo.»

E o INCA, do nosso ponto de vista, deveria dar resposta a um conjunto de necessidades que se colocam, desde logo, do ponto de vista da segurança digital e cibernética. É uma questão que está aí em voga, por via dos ciberataques que têm vindo a acontecer, alguns deles promovidos por plataformas de IA generativa, contra infraestruturas críticas. O país tem de ser dotado de capacidade própria robusta neste domínio, mas é necessário também manter um registro actualizado do tipo de usos que se fazem da IA no país – só assim podemos também estudar e compreender os impactos dessas utilizações. 

É precisamente por serem aquelas que são hoje as relações de poder neste campo e a enorme dependência que existe face a grandes corporações financeiras e tecnológicas que nós temos de, por um lado, diminuir essa dependência e, por outro, ser capazes de perceber, fiscalizar e acompanhar a aplicação de algum do software e do hardware que importamos – há questões óbvias de segurança nacional, de salvaguarda de direitos, liberdades e garantias que resultam de um enorme poder computacional e de armazenamento de dados que estão nas mãos de grandes corporações tecnológicas.

Uma instituição como o INCA é fundamental não só para procurar desenvolver uma capacidade própria de computação avançada (nacional, soberana) e de armazenamento de dados, mas para compreender melhor os riscos de uma dependência que não desaparecerá no curto prazo. Precisamos de perceber em que medida as várias aplicações da IA estão, ou não, a contender com direitos, liberdades e garantias inscritos na Constituição da República Portuguesa (CRP). 

Para tudo isso nós precisamos de um corpo técnico e científico e de uma instituição com características que nós pensamos que hoje não existem, estão dispersas. O INCA deve trabalhar em conjunto, nomeadamente no que diz respeito à investigação e desenvolvimento, com uma rede de centros de investigação nas universidades e noutros contextos que já existem e que devem ser tidos em conta, obviamente. A ideia não é haver aqui duplicações, sobreposições, é haver uma cooperação entre as entidades que já existem – o INCA pode e deve assumir de forma mais plena responsabilidades em todas estas áreas.

A Estratégia Nacional de Inteligência Artificial (do Governo PSD/CDS) não prevê já muitas destas coisas?

Algumas coisas não. Outras prevê, mas nunca saíram do papel – a questão, por exemplo, de criar uma nuvem (cloud) soberana, para alojar dados de vários sectores da administração pública. Vários sectores da administração pública, central e local continuam a recorrer a nuvens, a capacidade de armazenamento de dados, estrangeiras, divididas pelas grandes corporações tecnológicas.

O INCA deveria ter aqui também um papel no desenvolvimento de capacidade soberana do ponto de vista digital e na mitigação da dependência face a essas grandes corporações estrangeiras. A soberania digital não significa, temos o cuidado de assinalar isso, a autarcia [uma sociedade ou comunidade auto-suficiente, que se basta a si mesma], que em qualquer caso seria até impossível num momento destes. O que ela exige é um sector público presente em áreas estratégicas. Exige universidades libertas da dependência económica aos interesses das grandes corporações e do grande capital. Exige uma vontade pública de dirigir, de planear, de concretizar.

Mesmo envolvendo o sector privado, esse envolvimento tem que ser feito numa lógica que supera a mera busca de lucros, tem de haver aqui uma orientação para o interesse nacional e para o bem comum.

Falávamos há pouco sobre direitos, liberdades e garantias. O artigo 78.º da CRP determina que «Todos têm direito à fruição e criação cultural, bem como o dever de preservar, defender e valorizar o património cultural». À vários anos que o PCP, quando trata questões de direitos de autor, ressalva sempre a importância de assegurar a difusão do conhecimento como um «elemento potenciador da criatividade, da elevação da consciência humana, individual e colectiva». Isso não se aplica também à Inteligência Artificial? Não faz sentido que também este instrumento tenha acesso a obras culturais, académicas, políticas, etc..?

Assistimos, nos últimos tempos, às grandes corporações tecnológicas a lançar massivos processos de aquisição de livros para treinar modelos de IA generativa, livros que depois destruíram. A Associação Portuguesa de Editores e Livreiros (APEL) alertou para um processo idêntico que poderia estar em curso em Portugal. 

Empresas de IA são acusadas de destruir milhões de livros

A questão é que nós estamos perante um processo de apropriação de um gigantesco património da humanidade (construído ao longo de gerações e gerações) por modelos de IA controlados por grandes corporações tecnológicas que passam a deter todo esse manancial de conhecimento, de criação artística, literária, cultural, científica. Passam assim controlar (em função também do que são os seus interesses e a sua lógica lucrativa) o acesso a algum desse material, desse património comum da humanidade.

Isto é um risco indiscutivelmente, esta forma de apropriação de um património comum da humanidade. Há pouco falávamos da encíclica do [Papa] Leão XIV. Esta é uma questão que ele identifica também: «a IA tem a cara de quem a concebe, de quem a financia e de quem a detém». O desenvolvimento e aplicação da IA neste contexto coloca a humanidade perante riscos tremendos e esse é um deles: um punhado de corporações tecnológicas, que passa a portajar, a condicionar e a limitar o acesso a esse imenso património. Daí até o Papa concluir que a IA devia ter o mesmo tipo de destino universal dos bens comuns: da água, do sol. 

Quanto à forma como a IA contende com direitos, liberdades e garantias inscritos na Constituição. A questão dos dados pessoais é talvez dos pontos em que isso é mais evidente. Temos uma necessidade evidente de estabelecer limites à recolha, à transmissão e à utilização de dados pessoais. Ao mesmo tempo, a necessidade de criar obrigações de transparência, de fiscalização, de reporte da utilização desses dados.

Isto é tão mais importante quando estamos perante o tipos de usos em que podem ser empregados os dados pessoais, sobretudo se não houver nenhuma regulação. Há pouco falávamos nas redes sociais e no poder de condicionamento de comportamentos sociais e políticos que o conhecimento e a utilização de dados pessoais pode propiciar. Mas isto levanta ainda questões a outros níveis: sistemas de decisão baseados em algoritmos que utilizam determinado tipo de dados pessoais para excluir o acesso a determinados tipos de seguros, possibilidades de tratamento médico, a contratos, a apoios sociais...

São áreas em que importa ter uma acção a dois níveis: limitação à utilização e transmissão de dados pessoais (e aqui é fundamental assinalar um processo que está em curso ao nível da União Europeia, de uma certa desprotecção que havia no uso comercial de dados pessoais). E, por outro lado, tudo o que seja a utilização de algoritmos de IA nos mais variados contextos para apoio à decisão. Esses algoritmos têm que ser escrutináveis e passíveis de recurso. Nós temos que perceber como é que eles funcionam.

Isso não se aplica também às redes sociais, por exemplo? Tivemos ainda agora o caso do Lula a ser censurado pela Meta (Facebook/Instagram)  

É um dos exemplos em que a aplicação desses algoritmos, que têm um poder enorme sobre a vida das pessoas, têm que ser escrutináveis, democraticamente escrutináveis. O que está em curso neste momento é um processo que procura aproximar a situação existente na UE daquilo que já se verifica, por exemplo, nos Estados Unidos. 

Ou seja, as Big Techs, apoiadas por instituições e representantes políticos (que assumem a defesa dos seus interesses na UE) consideraram que o nível de protecção que existia neste tipo de regulamentações era excessivo e um entrave ao negócio dos dados. E então, vai de desregular, de levantar esse entrave e, portanto, facilitar muito mais o negócio com os dados pessoais. Houve já quem dissesse que os dados eram o novo petróleo. E há uma actuação destes sectores condizente com esta assunção.

Quais são os grupos políticos que estão a cavalgar isso na União Europeia?

Desde logo a própria Comissão Europeia, que fez as propostas de desregulamentação. E os grupos que tradicionalmente.têm conduzido o rumo da integração: Direita, nas várias matizes que hoje assume, e a própria social-democracia.