IA e princípio de precaução

Chatbots, assistentes pessoais, balanças conectadas… máquinas que nos respondem, que parecem saber mais sobre nós do que pensávamos ter-lhes dito. A Inteligência Artificial (IA) inunda-nos de sistemas que prometem simplificar-nos a vida. Há mesmo quem a procure para afogar a solidão, verdadeira praga dos tempos «modernos». 

Libertar-nos de tarefas repetitivas e penosas é um anseio antigo, aumentando o tempo livre para os amigos e a família, para actividades culturais, etc. 

Cada um saberá em que medida o uso da IA está de facto a cumprir esta promessa…

O que é certo é que com estas tecnologias vieram uma série de efeitos perversos que não foram devidamente antecipados. A facilidade de produção de notícias falsas; a manipulação orquestrada e em grande escala da opinião pública; a banalização de sistemas que discriminam grupos e comunidades minoritárias ou desfavorecidas; a proliferação de sistemas de video-vigilância no espaço público; o aumento de problemas psicológicos, nomeadamente entre os mais jovens; indo mesmo até por em risco a vida de utilizadores vulneráveis, fornecendo conselhos sobre métodos de suicídio ou substituindo-se ao acompanhamento médico…

Os exemplos são muitos. Acresce a todos estes «incidentes» a delicada questão de aceitar que a administração do Estado e dos nossos serviços públicos se tornem profundamente dependentes de tecnologias desenvolvidas por companhias estrangeiras, cujos líderes foram nomeados tenentes-coronéis das forças armadas dos EUA, em Julho de 20251.

Em nome da inovação e do progresso, muitos novos domínios poderão sofrer profundas transformações num futuro mais ou menos breve. Por exemplo no ensino, como mostra a intenção do Governo actual de «dar a cada aluno um tutor de IA»2. Isto quando vários estudos científicos alertam para efeitos adversos da IA sobre a aprendizagem e o espírito crítico3. 

Será que temos de repetir erros do passado e acelerar a comercialização de sistemas cuja ausência de efeitos negativos não está demonstrada, para ter em seguida de lançar dispendiosas e muitas vezes ineficazes campanhas para limitar os estragos? 

O princípio de precaução condiciona o lançamento de novos produtos à demonstração prévia da ausência de consequências nefastas. 

«Acresce a todos estes "incidentes" a delicada questão de aceitar que a administração do Estado e dos nossos serviços públicos se tornem profundamente dependentes de tecnologias desenvolvidas por companhias estrangeiras, cujos líderes foram nomeados tenentes-coronéis das forças armadas dos EUA, em Julho de 2025.»

 

Teve origem na Alemanha nos anos 70 do século XX, motivado por questões ambientais, e em 1992 o Tratado de Maastricht estabeleceu-o como um dos fundamentos da União Europeia. Com a intensificação da agenda neo-liberal, o princípio de precaução tem vindo a sofrer um ataque orquestrado pela indústria — química, tabaco, farmacêuticas, plásticos, alimentação, energias fósseis — que lhe opõe o «princípio da inovação»4. 

A realidade mostra que o progresso e a prosperidade prometidos beneficiam de facto um punhado de actores privados, deixando ao poder público, isto é, a todos nós, os custos da reparação de eventuais «consequências negativas»: catástrofes climáticas, acidentes industriais, problemas de saúde pública, perturbações sociais. O número de acções legais de grupos de cidadãos contra grandes empresas tem aumentado significativamente nos últimos anos, revelando as consequências do enfraquecimento crescente do princípio de precaução em relação ao princípio de inovação.

Em 2025, a UE publicou a lei de regulação da IA, que concilia — em teoria — estes dois princípios antagonistas. Embora insuficiente, em particular na regulação dos grandes modelos de linguagem, a directiva é pioneira a nível mundial. Reconhece os riscos importantes que a IA pode ter para a sociedade e para os indivíduos, e proíbe uma série de utilizações, como técnicas de polícia preditiva ou a observação do estado emocional de trabalhadores. Apesar das grandes declarações em prol do ambiente feitas pela UE, os enormes custos energéticos e hídricos da IA são passados sob silêncio.

Adoptando um princípio de precaução, a directiva da UE submete a comercialização de aplicações consideradas de alto risco à obtenção prévia de uma certificação, o que explica o intenso ataque por parte dos Google, Meta e Microsofts deste mundo, em nome da libertação da inovação e da competitividade. 

A atribuição destas certificações é feita por Autoridades de Fiscalização, que devem supervisionar o seu funcionamento, e podem eventualmente impor a sua retirada do mercado.

O PCP propôs recentemente a criação de um novo laboratório de Estado — o INCA, Instituto Nacional para a Computação Avançada — que entre outras funções deverá centralizar a acreditação e a supervisão das aplicações de IA, garantindo, não só, que não resultam em violações de direitos fundamentais, como ainda que os seus custos ambientais são socialmente justificados. Só um laboratório público será capaz de implementar uma governação democrática da IA, baseada numa análise de custos-benefícios isenta e orientada pelo bem comum e que tenha em conta uma visão integrada do parque científico e tecnológico do país.

Em 2025, Portugal aumentou ainda a produção de gases de efeito de estufa, enquanto que a percentagem de energia verde diminuiu. Os recentes episódios de fenómenos climatéricos extremos demonstram que é urgente contrariar esta tendência. 

A proliferação de datacenters, capazes de abrigar os cálculos intensivos do número sempre crescente de aplicações de IA, numa lógica produtivista do «se pode fazer-se, faça-se», é dificilmente compatível com os objectivos nacionais de transição energética.

Devemos colectivamente enfrentar a finitude dos recursos do planeta e preparar-nos para estabelecer prioridades, guiadas não por promessas de lucro astronómicos para alguns mas pela contribuição da inovação para o bem de todos. 

Pede-se aos cidadãos que consumam menos energia e água, que prefiram os transportes colectivos ao carro, que reciclem o lixo... ao mesmo tempo que se promove a utilização de chatbots que gastam 1/2 litro de água para produzir uma página de texto, ou 10 vezes mais energia do que um navegador internet para obter uma informação. 

Alguma coisa não bate certo…

• 1. https://www.npr.org/2025/07/03/1255164460/1a-army-07-03-2025
• 2. https://sicnoticias.pt/especiais/inteligencia-artificial/2025-11-12-video-e-se-cada-aluno-tivesse-um-tutor-de-inteligencia-artificial--ideia-foi-lancada-pelo-governo-344f04a8
• 3. https://www.publico.pt/2025/02/18/tecnologia/noticia/uso-ia-generativa-afectar-pensamento-critico-2123008
• 4. https://corporateeurope.org/en/environment/2018/12/innovation-principle-trap