Muito foi já escrito sobre a encíclica Magnifica Humanitas1 do Papa Leão XIV, «sobre a salvaguarda da pessoa humana na Era da Inteligência Artificial». É difícil resumir este texto vasto e denso, desafio que a apresentação feita por Antonio Spadaro, «O Verbo e o Código» consegue vencer com indiscutível sucesso. No seguimento da apresentação da Doutrina Social da Igreja Católica, a encíclica Papal escrutina as transformações induzidas pelas tecnologias digitais em praticamente todos os sectores da vida humana, das suas sociedades, e do mundo como um todo, e convida-nos a reflectirmos – católicos e não-católicos – sobre que futuro queremos construir.
Na busca de respostas às perguntas «Para onde vamos? Para que meta desejamos orientar-nos?» (#6)2, «O que estamos a construir?» (#90), o Papa repete com insistência que se dirige a todos, e não só aos crentes. Esperemos que esta mensagem de Leão XIV suscite diálogos e convergências alargadas que permitam, sem renegar reais divergências sobre muitas outras questões sociais e societais, e tal como já aconteceu numa época negra da nossa história, construir uma consciência largamente partilhada das ameaças – tanto sociais como existenciais, aos valores humanos bem como à democracia – que a «Era da Inteligência Artificial» nos coloca. Como se afirma na apresentação da encíclica, criar uma «contra-cultura do encontro» e de «discernimento comunitário».
Esta nota, que não pretende substituir-se à leitura do documento, «repesca» algumas das «ideias-chave» que atravessam toda a encíclica, a propósito dos diferentes temas abordados, como o trabalho, o ensino, a informação, ou a guerra. Muito brevemente, assinalarei ainda um efeito nefasto intrínseco à IA (generativa) que me parece é passado sob silêncio.
A participação activa de todos
Magnifica Humanitas não se limita a apresentar um olhar sobre a evolução do mundo, desafia-nos a sermos actores da «absorção» das novas tecnologias, de forma a garantir que a sua «metabolização» preservará a democracia e a dignidade e os valores humanos. Ao longo de toda a encíclica, o Papa apela a «assumir com firmeza a própria responsabilidade na construção de uma sociedade mais justa e fraterna» (#91), «saindo do pequeno mundo dos próprios interesses e empenhando-nos na medida das nossas possibilidade pelo bem comum» (#59). Afirma que todos «somos chamados a assumir um papel activo, sem nos refugiarmos no espiritualismo ou nos nossos pequenos mundos» (#236), que «o realismo autêntico não renuncia a mudar o mundo» (#218) e «há situações em que temos de abandonar as hesitações e tomar posição» (#216) e «ninguém está isento de responsabilidades»(#212).
Insta-nos a «entrar no estaleiro da história» (#241), lembrando que «a história pode mudar a partir da acção de muito poucos» (#124), que a construção de uma nova civilização nasce da «soma de pequenas e tenazes fidelidades» (#213), e insiste na necessidade de «proteger a capacidade das comunidades escolherem e corrigirem, sem relegar a sua intervenção a uma mera vigilância» (#109), de forma que «possam ter voz e contribuir para o discernimento sobre escolhas que afectam a vida das pessoas: trabalho, acesso a serviços, gestão de dados e ambientes digitais» (#72).
Lembrando que «o autor de uma obra artística ou literária é responsável por ponderar os valores que ela expressa» (#11), sublinha a actual responsabilidade «especial do mundo da pesquisa» (#209), em particular «(d)aqueles que desenvolvem as inteligências artificiais» (#111), e apela às «universidades e instituições académicas» (#47) a «enfrentar eficazmente a revolução digital» (#47), tomando em conta os ensinamentos «da filosofia e das ciências humanas e sociais» (#23), para «manter viva a consciência do quadro mais amplo em que se integram os desenvolvimentos tecnológicos para os quais contribuem» (#208).
A não-neutralidade da técnica e os enormes desequilíbrios de poder
Afirmando claramente que «as inovações tecnológicas não são neutras» (#85) – «não podemos considerar a IA moralmente neutra» (#104) –, que «têm o rosto daqueles que a concebem, financiam, regulam e utilizam» (#9), sublinha que a Inteligência Artificial «tende a reforçar o poder daqueles que já dispõem de recursos económicos e acesso aos dados» (#108).
De uma forma transversal, a encíclica denuncia a actual cultura de poder assente numa «assimetria epistémica, económica e política» (#109) criada pelos monopólios da IA, que «redimensionou o poder político dos Estados e a sua capacidade de orientar os processos económicos» (#40), e que hoje «os principais motores do desenvolvimento são actores privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos» (#5) – «a instância superior não é o Estado, mas cada um dos grandes actores económicos e tecnológicos que exercem um poder real sobre as condições da vida em comum» (#71).
Denuncia as actuais «formas de servidão directamente ligadas à economia digital» e uma «brutal da extração dos recursos necessários à produção dos dispositivos e dos microprocessadores, que servem de suporte à IA» (#173), apontando a presente mutação do colonialismo, que mantêm «territórios [...] reservatórios de mão de obra precária» (#153), transforma «as vidas pessoais em informações que podem ser exploradas» (#178).
A facilitação da manipulação e controlo
Toda a encíclica é percorrida pela chamada de atenção ao potencial uso das novas tecnologias para manipulação e controlo, relembrando os ensinamentos de Hannah Arendt sobre como o esvaziamento do conceito de verdade favorece o aparecimento de regimes totalitários (#134). Alerta que as tecnologias e os algoritmos «reflectem e reforçam estereótipos ou posições ideológicas daqueles que os projectaram e treinaram» (#102) e que «confiar a um algoritmo o poder de seleccionar quem merece ou não, sem que ninguém mais assuma o peso da decisão» […] pode significar «revestir o descarte dos fracos de neutralidade e objectividade» (#103), por «plataformas e serviços [são] concebidos para captar o tempo e o olhar dos utilizadores, explorando as suas fragilidades e enfraquecendo a liberdade interior (#170)».
«Insta-nos a "entrar no estaleiro da história", lembrando que "a história pode mudar a partir da acção de muito poucos", que a construção de uma nova civilização nasce da "soma de pequenas e tenazes fidelidades", e insiste na necessidade de "proteger a capacidade das comunidades escolherem e corrigirem, sem relegar a sua intervenção a uma mera vigilância", de forma que "possam ter voz e contribuir para o discernimento sobre escolhas que afectam a vida das pessoas: trabalho, acesso a serviços, gestão de dados e ambientes digitais".»
Denuncia o uso das novas tecnologias para defender «decisões guiadas exclusivamente por cálculos económicos, […] através de ilusões mediáticas, e euforias artificiais» (#201), observando que «em países marcados por graves tensões sociais não podemos excluir a hipótese de que alguém acabe por considerar o conflito armado como uma forma eficaz de desviar a atenção dos problemas internos» (#208), através da difusão de «discursos simplistas lógicas de amigo-inimigo, desinformação e medo» que apresentam a «violência como necessária, inevitável ou mesmo “limpa”» (#192) e levando «à construção sistemática de medos e ressentimentos» (#206). Não podemos deixar de pensar no exemplo paradigmático dos EUA.
Os perigos da inovação tecnológica
A encíclica insiste na importância de resistir ao tecnicismo galopante, que se traduz numa «desagregação do tecido social» (#44), constatando que «enquanto se celebram sucessos tecnológicos, a estrutura social é progressivamente afectada como que por um vírus silencioso»(#166). Previne-nos contra a «mentalidade tecnocrática e pós-humanista» (#172) em que «a técnica se torna critério, na busca de maior eficiência (#180, #92)», e onde o humano é reduzido a «um objecto manipulável ou um recurso a optimizar», em que as pessoas correm o risco de ser «avaliadas sobretudo com base no desempenho que garantem» (#94), e que pode conduzir à admissão de que existem «seres humanos de segunda» (#172, #112).
Denuncia fortemente os novos instrumentos de guerra que usam a «violência como critério de optimização», automatizam a designação de «vítimas reduzidas a dados» (#198) e «higienizam» a sua eliminação, com uma cadência incompatível com a supervisão humana (#197– #200), levando a guerras «que tendem a perder todo o limite ético» (#207).
A globalização individualista e meritocrática
Numa clara crítica aos modelos económicos dominantes, afirma que «a mera soma dos interesses pessoais não é capaz de gerar um mundo melhor para toda a humanidade» (#61) e que «não basta exaltar a liberdade individual ou a iniciativa privada se depois se aceita que uma multidão de pessoas continue a viver sem um trabalho digno, sem direitos tutelados, sem acesso aos bens fundamentais» (#58), opondo-se à «globalização individualista» (#44) das nossas sociedades, veiculada pela ideia «particularmente perigosa que sugere que o dever de cada pessoa é conquistar ou justificar o próprio valor» (#51), lembrando que «as injustiças não resultam apenas de escolhas erradas dos indivíduos» (#79).
Insta-nos a «abandonar uma visão individualista e técnica do homem como se a realidade fosse pura matemática a ser moldada em função de interesses egoístas» (#237), afirmando a sua descrença em modelos tecnicistas, em que «a inovação é, frequentemente, entendida em função apenas da redução dos custos e do aumento dos lucros» (#151), dizendo que «a actividade económica não pode pretender resolver os problemas sociais, ampliando apenas a lógica do mercado, mas deve estar ordenada pelo bem comum» (#40), e que «na era da IA e da robótica, já não é possível confiar-se apenas na “mão invisível” do mercado» (#163), alertando para a crescente importância da finança na economia — «a renda do capital corre o risco de substituir o rendimento do trabalho humano» (#160).
A importância social do trabalho
Dá uma atenção persistente à crescente fragilização do mundo do trabalho hoje «ameaçado por uma lógica de descarte» (#43) resultante da «lógica da eficiência, do domínio e do lucro» (#92), e alerta para o aparecimento de «novas formas de precariedade e desigualdade, com remunerações muito elevadas para uma minoria altamente especializada e salários sempre mais reduzidos para uma grande parte da população activa» (#151), «num cenário em que, sem escolhas corajosas, se prevêem mais pobreza e desigualdades, com uma multidão de excluídos rodeados por máquinas e sistemas automatizados que usurparam o seu lugar» (#155).
Apelando a uma «criatividade política em favor do trabalho» (#168), recomenda uma «responsabilidade empresarial que, entre os indicadores do sucesso, inclua a qualidade e a dignidade do trabalho» (#156), afirmando «o salário justo como medida de se o trabalhador é tratado como pessoa ou como mero custo de produção» (#37), denunciando a «competitividade que raramente se preocupa com sustentabilidade social» (#155), afirmando «o primado do trabalho humano sobre qualquer tipo de lógica puramente produtiva ou financeira» (#30). Evoca as palavras do Papa Francisco: «Poucos possuem demais e muitos possuem pouco» (#161).
Que futuro?
A encíclica Magnifica Humanitas não se limita a apontar as transformações nefastas já hoje provocadas (ou facilitadas) pela IA, sugere correções de rumo concretas para que a sua “absorção” não comprometa os sustentáculos da democracia.
– Apelo à sobriedade e à prudência. Falando explicitamente em «abordagem sóbria e vigilante» (#100) «sobriedade digital» (#170, #181) – «peço a todos que pareis a construção da enésima Babel» (#16), «educar-nos ao jejum da IA» (#140) –, insta-nos a sermos «capazes de reduzir a velocidade onde tudo se acelera» (#107), «abrandando a sua adopção», (#106).
– Gerir a IA como um bem comum. Relembrando que a igreja contesta a «natureza absoluta ou intocável do direito à propriedade privada» (#66) e, apontando a crise ambiental como «o aspecto ecológico da crise socioeconómica contemporânea» (#43), estende esta reserva às novas tecnologias da IA, em particular aos sistemas baseados em jogos massivos de dados públicos, muitas vezes à escala de populações inteiras, afirmando que «as patentes, algoritmos, plataformas digitais, infra-estruturas tecnológicas e dados» devem ser «bens que se destinam universalmente a todos», tal como «o solo, a água, o ar, e os recursos naturais» (#67), sendo «necessária uma criatividade capaz de os gerir como um dos bens comuns ou colectivos» (#108). Em particular, apela a «devolver aos povos não só os dados que os descrevem, mas também a possibilidade de decidir como serão utilizados, por quem e para quem» (#178). Salienta-se que a noção de bens comuns, que não pertencem nem ao Estado nem ao mercado privado – e que se deve distinguir do princípio ético do «bem comum» – tem vindo a ser avançado por diversas figuras da Igreja Católica como resposta possível à crescente privatização de todos os sectores da vida social, ver por exemplo os trabalhos de Gael Giraud.
Organizar a participação de todos nas escolhas futuras. Segundo Leão XIV, «não basta invocar genericamente a ética» (#106), «não precisamos de uma IA mais moral, se esta moral for decidida por poucos» (#107); afirma a necessidade de «submeter a utilização dos dados e das tecnologias à inspecção pública» (#80), através de auditorias (#71, 106), que necessitarão de «quadros jurídicos adequados, vigilância independente, educação dos utilizadores, uma política que não renuncie à sua missão. Caso contrário, a mudança será governada somente por lógicas tecnocráticas e apresentada como necessária e inevitável» (#106). Aqui, é a «urgência» da agenda de «modernização» do actual governo, em que a obsessão do AI first ameaça mesmo o ensino básico, que nos vem à ideia…
– O reforço do papel social do Estado. Afirma que no contexto da revolução digital «precisamos de uma política mais presente» (#107) capaz de «prevenir abusos de poder» (#32), e de «um Estado presente e instituições civis capazes de superar a mera lógica da eficiência» (#158). Pede uma «visão a longo prazo» (#63) que imponha «critérios sociais para a inovação: a introdução de automação e IA deve ser acompanhada por escolhas verificáveis em matéria de protecção do emprego, requalificação e participação dos trabalhadores» (#165), e que enquadre o desenvolvimento tecnológico em «projectos responsáveis, avaliações de impacto humano e social, inclusão dos mais frágeis, alfabetização digital, pesquisa e indústria orientadas para a justiça e a Paz» (#14);
O Papa aponta um conjunto de soluções bem concretas, entre as quais: «o dever de criar condições favoráveis ao emprego, promovendo o trabalho onde falha e defendendo-o em tempos de crise» (#168); responder ao aumento das desigualdades com «sistemas fiscais que aliviem o peso imposto sobre os mais fracos, exigindo por outro lado a quem dispõe de maiores recursos» (#162); substituir o PIB, cego ao bem estar das populações – por indicadores que meçam «a dignidade do trabalho, a prosperidade partilhada e a salvaguarda do ambiente» (#159).
Por uma defesa afirmativa da pluralidade de opiniões
Para finalizar quero salientar um processo intrínseco aos novos sistemas de IA com consequências sociais devastadoras que me parece escapar à longa reflexão sobre a «Verdade como bem comum» apresentada na encíclica, e que não resultam de uma vontade deliberada de «apresentar como desejável uma determinada visão da realidade» (#136).
É um facto que os instrumentos da IA podem ser desenhados e usados com fins de manipulação como o escândalo da Cambridge Analytica demonstrou. Pode-se pensar – a ilusão reguladora permite acalmar sentimentos de culpa – que o problema pode ser resolvido impondo regulamentos e auditorias, e educando a população para a utilização destes instrumentos. Sem contestar a absoluta necessidade tanto de regulação como da educação sobre a IA, quero aqui defender a necessidade de outro tipo de intervenções, que implementem uma «defesa afirmativa da pluralidade de opiniões».
É sabido que os modelos de IA generativa são uma espécie de «papagaios aleatórios», que vão debitando as palavras/conceitos mais frequentes no contexto em que são produzidas. Dito de outra forma, o mecanismo no cerne destes algoritmos propaga preferencialmente as opiniões, explicações, «verdades», que aparecem com maior frequência no conjunto de documentos sobre os quais foi treinado. Funcionam como «câmaras de eco» que reforçam as vozes mais fortes, enquanto as opiniões minoritárias, as explicações e análises menos propagadas, são progressivamente silenciadas, e levam (automaticamente) a um progressivo empobrecimento da diversidade da informação que mina os processos de formação da opinião pública.
A correcção deste mecanismo terá necessariamente que passar por uma intervenção no cerne dos algoritmos da IA, que imponha a preservação da diversidade de perspectivas existentes na sociedade. Aquilo a que chamei acima uma «defesa afirmativa da pluralidade de opiniões». Não basta «estabelecer normas que tornem mais transparentes as normas de selecção e amplificação de conteúdos» (#137), é preciso redesenhar as próprias normas de selecção e amplificação.
Este fenómeno é tanto mais inquietante quanto se sabe que um número crescente de cidadãos se informam nas redes sociais, muitas vezes limitando-se aos «sumários gerados pela IA» como os disponibilizados pelo Google.
Como afirma a Magnifica Humanitas, «a comunicação não é apenas a transmissão de informações, mas a criação de uma cultura» (#135). Em Portugal, a Constituição remete ao Estado a responsabilidade de garantir a pluralidade da comunicação social, estando essa missão entregue à Entidade Reguladora da Comunicação Social (ERC). Segundo os seus estatutos, estão sujeitas à supervisão e intervenção da ERC todas as entidades que prosseguem actividades de comunicação social: agências noticiosas, edições periódicas, rádio e televisão, e produtores de conteúdos. As redes sociais e os motores de busca da internet escapam a este escrutínio. Parece-me importante lançar um largo debate sobre esta questão, para o qual a participação activa da comunidade científica será indispensável. Por que não começar por um inquérito parlamentar sobre esta questão, que se prende com uma das disposições consagradas na Constituição?
Contribui para uma boa ideia
Desde há vários anos, o AbrilAbril assume diariamente o seu compromisso com a verdade, a justiça social, a solidariedade e a paz.
O teu contributo vem reforçar o nosso projecto e consolidar a nossa presença.
Contribui aqui