|inteligência artificial

Os dados e o petróleo

Este texto tenta dar uma visão de conjunto sobre os usos, alguns menos evidentes, das informações que semeamos todos os dias: na internet, no telefone, nos supermercados, nas portagens, nas câmaras de vídeo espalhadas pelo espaço público, quando utilizamos o GPS, etc.

«Os dados são o novo petróleo.» Estava-se nos princípios do século XXI e as oportunidades prometidas por uma matéria-prima omnipresente e de fácil extracção pareciam não ter limites. A boutade fazia referência ao facto de que, tal como o petróleo. os dados apenas ganham valor depois de processados.

Um quarto de século depois, temos de constatar que a analogia vai bem mais longe: o petróleo trouxe consigo os plásticos, e danos profundos ao ambiente; os dados possibilitaram a IA1, e ameaçam hoje não só o ambiente como a própria democracia. O petróleo criou o primeiro bilionário, John D. Rockefeller, a IA o primeiro trilionário, Elon Musk. Mas a exploração desta nova matéria preciosa traz consigo problemas que lhe são específicos. E também novas promessas. 

Este texto tenta dar uma visão de conjunto sobre os usos, alguns menos evidentes, das informações que semeamos todos os dias: na internet, no telefone, nos supermercados, nas portagens, nas câmaras de vídeo espalhadas pelo espaço público, quando utilizamos o GPS, etc. Como veremos, a inegável capacidade do mundo capitalista de tudo metabolizar na forma de mercado, rapidamente respondeu à possibilidade de rentabilizar este novo material com a criação de novos «negócios», cujo valor social tentarei questionar. Alguns dos assuntos abordados, em particular o que se prende com as actividades ilegais e criminosas que, de uma ou outra forma, derivam da possibilidade de aceder aos nossos dados pessoais, mereceriam um tratamento mais profundo do que é possível nesta nota, e poderão vir a ser retomados em notas futuras.

IA & dados

Sem dados não há IA. De certo modo, os algoritmos de IA modernos realizam uma operação de refinação, abstraindo de «massas informes» de dados informações que podem ser monetizadas. Por exemplo, usando os históricos de crédito dos seus clientes, os algoritmos de AI permitem aos bancos estimar o risco de incumprimento de novos clientes. O processo de «refinação» dá pelo nome de aprendizagem automática. Até recentemente, a maioria dos algoritmos de IA produziam uma saída (valor numérico ou simbólico) em resposta a cada configuração de valores colocados na sua entrada. No exemplo do risco de incumprimento as entradas indicam as características relevantes de cada cliente: idade, salário, nível de endividamento, etc., e a saída a probabilidade de que o cliente não pague as prestações do crédito. A IA generativa (os chatbots2) traz consigo uma modificação radical, aceitando entradas e produzindo saídas em linguagem natural (como aquela em que estou a escrever este documento). 

«Usando os históricos de crédito dos seus clientes, os algoritmos de AI permitem aos bancos estimar o risco de incumprimento de novos clientes.»

Todos os algoritmos de IA traduzem uma forma de conhecimento empírico, o que implica que a qualidade das suas saídas é tanto melhor quanto mais «completa» é a base de dados sobre a qual aprendem. Por exemplo, para aprender a predizer o risco de incumprimento bancário, a base de aprendizagem deve conter todo o tipo de clientes incluindo clientes ricos, clientes pobres, indivíduos solteiros e casais, habitantes de todos os bairros, etc… No caso da IA generativa, os dados de aprendizagem devem conter exemplos de quase todas as frases (textos) possíveis, o que só é possível com bancos de dados de tamanhos astronómicos. Até agora, os chatbots têm sido treinados sobre dados (colecções de documentos, vídeos, imagens,  sons,…) selvaticamente ceifados na internet. Para captar a informação contida nestas gigantescas bases de dados a complexidade dos modelos de IA tem aumentado sem cesso, necessitando capacidades computacionais sem precedentes.

Pensa-se que 50% dos novos documentos colocados na internet são gerados pela IA. Foi muito provavelmente para evitar o fenómeno de colapso (degenerescência) provocado pelo treino destes algoritmos sobre documentos gerados por eles próprios que a Anthropic comprou em 2024 milhões de livros antigos, alguns exemplares únicos, para os destruir depois de digitalizados. Os textos «certificadamente humanos» tornaram-se valiosos. Como, por exemplo, os nossos prompts nos chatbots…

«Especialmente para si»

Os dados servem para treinar os algoritmos de IA. Mas, concretamente, o que fazem as IA que são treinadas com «os nossos dados»?
Uma das primeiras aplicações da IA foi a predição de riscos no quadro dos seguros e da banca. Trata-se de casos particulares de todo um conjunto de serviços e aplicações que ajustam as suas operações às características de cada utilizador. A lógica subjacente à célebre declaração do director de uma cadeia de televisão francesa, «o que vendemos à Coca-Cola é tempo de cérebro disponível», dá hoje pelo nome de «economia da atenção»: a capacidade de garantir a presença do utilizador em frente ao écran pode ser monetizada para vender anúncios a quem pagar mais.

Os dados pessoais permitem que o painel publicitário que cada espectador vê seja único, fabricado especialmente para si: Google, Amazon, YouTube, Google Maps, etc, funcionam todos sob este princípio, fazendo leilões relâmpago que determinam que spots publicitários vemos nas suas páginas. Os nossos dados pessoais são revelados aos participantes nestes leilões, e pensa-se que muitas entidades participam no leilão apenas para recuperar os dados dos utilizadores. O conhecimento íntimo e actualizado das preferências e mesmo das emoções dos utilizadores abre ainda a porta ao uso de técnicas de economia comportamental, especialmente claras nas redes sociais (Instagram, Facebook, TikTok,…) e nos jogos em linha, mas que estão também na base das estratégias de pricing de inúmeras companhias (em particular na hotelaria e na aviação). 

«Pensa-se que 50% dos novos documentos colocados na internet são gerados pela IA.»

Esta onda de personalização não se limita às nossas interações na internet, e um número sempre crescente de objectos «inteligentes» baseia o seu comportamento em informações que nos são próprias: smartwatches, robots aspiradores, smart TVs, smart babyphones, etc. Note-se que em muitos casos o processamento dos dados não é feito localmente no equipamento mas num cloud3 remoto, abrindo a porta a acessos indevidos por terceiras partes.

Para além destas motivações mais ou menos «aceitáveis», a personalização é frequentemente usada com fins de manipulação, explorando as informações disponíveis sobre uma pessoa para lhe enviar mensagens especialmente fabricadas para influenciar a sua opinião ou a levar a cometer certas acções. O seu uso no quadro de campanhas eleitorais, com recurso crescente a fakenews e deepfakes, é hoje um facto bem estabelecido e que tem consequências desastrosas para a confiança do público nos meios de informação.

Usos extremos 

A personalização pode revestir formas particularmente degradantes, por exemplo no quadro de plataformas de ofertas de emprego, onde informações de cariz pessoal (por exemplo o facto de que uma pessoa está a pagar um crédito) são usadas para lhe oferecer o pagamento mínimo que ela é susceptível de aceitar. A maioria destes trabalhadores não estão sindicalizados, e a sua capacidade de se oporem a este tipo de discriminação algorítmica, mesmo quando ela é ilegal, é reduzida4. Os níveis máximos de desumanização são certamente atingidos pelos sistemas militares de apoio à decisão, onde a designação automática de alvos humanos a abater pode ser baseada na análise de dados pessoais por sistemas de IA, como os relatos provenientes de Israel nos confirmam. 

Ao tentar estabelecer um saldo líquido do que os nossos dados tornaram possível não podemos deixar de pensar nas reflexões de Walter Benjamin5 sobre as novas galerias comerciais (arcades ou passages) que tinham invadido Paris no fim do século XIX, tornando a cidade num templo da sociedade do consumo. Oferecendo a possibilidade de a contemplar ao longo de passeios elegantes e sofisticados mercadorias expostas como obras de arte, as passages foram, na opinião de Benjamin, verdadeiros operadores de uma «fantasmagoria» que destilava uma visão caleidoscópica e filtrada da realidade e em que as mercadorias, deificadas, ocupavam um lugar central. As nossas actuais passagens, feitas de electrónica e de código, não parecem ser mais capazes de nos trazer felicidade do que o foram as galerias comerciais de ferro e vidro que inspiraram as reflexões de Benjamin.

50 tonalidades de cinzento

A web surgiu em 1989. Quase 40 anos depois, estamos bem longe da visão utópica do seu inventor, Tim Berners-Lee, de dar a utilizadores individuais distribuídos pelo mundo a possibilidade de partilhar entre si informações e documentos ligados pelos célebres hyperlinks. A web é hoje palco de intensas actividades de variados graus de ilegalidade, maioritariamente operando na dark web6, que vão desde o comércio de dados (os famosos Data Brokers), até a usos criminosos de dados pessoais, passando por diferentes formas de data breaches (violações de dados).

Os algoritmos de personalização utilizam os nossos dados para nos classificarem num certo perfil. De onde provêm os dados (os nossos e os que deram origem aos perfis)?

A fonte mais frequente de dados pessoais – definidos pelo RGPD7 como as informações que identifiquem uma pessoa ou possam permitir a sua identificação – são os ataques informáticos8, cujo número está em crescimento acelerado9. Mas os nossos dados pessoais podem também ser obtidos por meios perfeitamente legais, através dos cookies. Os cookies são pequenos ficheiros de texto que são depositados nos nossos dispositivos (telefones, computadores) por um sítio web. Os cookies mais problemáticos são os «3rd-party cookies», destinados a um domínio distinto do sítio web a que estamos a aceder. De uma forma invisível, estes cookies rastreiam a actividade na internet do dono do dispositivo em que são instalados, permitindo a exploração posterior das informações recolhidas, em geral para fins de marketing. É assim que depois de uma pesquisa sobre «parques de campismo» podemos ser perseguidos por anúncios de tendas de campismo ou de sacos-cama em muitas outras páginas da internet. É uma boa prática não aceitar nunca 3rd-pary cookies, embora a actual complexidade da forma como é recolhida a autorização leve muitos utilizadores a uma aceitação cega e em bloco de todos os cookies.

Os cookies são uma das portas de entrada privilegiadas de cibercrimes. Não se percebe pois que o seu uso, em particular dos 3rd-party cookies, não seja pura e simplesmente proibido. O RGPD está a ser modificado no âmbito do pacote Digital Omnibus. A versão inicialmente proposta previa que o utilizador pudesse indicar facilmente, e de uma vez por todas, as suas preferências de privacidade. Na versão que está prestes a ser discutida essa possibilidade for eliminada, mostrando que mais uma vez a Comissão foi sensível à intensa actividade de lobby das grandes empresas multinacionais, em particular da Google. A campanha em curso Kill The Cookie Banner apela à participação dos cidadãos da União Europeia para exigir ao Parlamento Europeu a reversão desta modificação, mantendo a redacção original.

Empresas de IA são acusadas de destruir milhões de livros

Entregamos os nossos dados pessoais a uma diversidade de serviços e aplicações com que interagimos na internet, que, em função das autorizações que aceitámos, os podem vender a terceiros para fins de que não estamos conscientes. Esta situação levou Tim Berner Lee a propor uma solução em que os dados ficam sempre na posse dos seus proprietários (numa espécie de carteira digital a que chamou Pod10), dando-lhes a possibilidade de escolher que dados querem partilhar, com que sites e para que fins. Seria oportuno estudar a adopção em Portugal desta solução, que está já a ser experimentada no quadro do sistema de saúde pública belga, em particular no que diz respeito às interacções com a administração do Estado, os serviços de saúde, a banca e os seguros.

O tipo de fraudes que têm como cenário a internet é muito variado: para além dos clássicos vírus, podem assumir a forma de phishing, cujo objectivo é levar uma pessoa a revelar credenciais ou mesmo a fazerem transferências de dinheiro; de sextorsion, em que se exige dinheiro sob a ameaça de revelar fotos ou vídeos íntimos; de sequestro, pedindo um resgate sob a ameaça de destruição ou alteração da informação num dispositivo, de envio de falsas facturas, etc. A IA generativa levou a uma explosão do número de actividades criminosas na rede e do seu nível de sofisticação, tendo mesmo dado azo ao aparecimento de plataformas que oferecem serviços «inovadores»  dedicados especificamente a usos ilícitos, globalmente designados por fraud-as-a-service e que operam na dark web.

Se fosse um país, o crime cibernético seria hoje a terceira maior economia do mundo, ultrapassada apenas pelos EUA e pela China. Movimenta cerca de 1,5 triliões de dólares mundialmente e os seus danos elevam-se a 10,5 triliões de dólares em 2025. O seu combate mobiliza enormes esforços de polícia a nível internacional, e acarreta elevadíssimos custos para garantir a segurança dos sistemas informáticos: as despesas mundiais em ciber-segurança deverão atingir 377 mil milhões de dólares em 2028, concentradas nos mercados de capital, media e ciências da saúde. Se os ganhos de produtividade da economia «real» que podemos esperar da exploração «inteligente» dos nossos dados não são claros – excepto no sector de publicidade, de muito questionável utilidade social – os seus efeitos multiplicadores no cibercrime organizado são já hoje uma realidade.

As IA que resolvem problemas

Contrariamente ao que acabámos de ver relativamente aos usos dos nossos dados pessoais, existem inúmeras outras aplicações da IA com verdadeira utilidade social, permitindo a melhoria da qualidade de produtos/serviços oferecidos, e/ou dos processos de fabricação. Os dados envolvidos no desenvolvimento destas aplicações são específicos ao sector de intervenção: medidas provenientes de sensores, modelos das máquinas e/ou processos intervenientes, características dos materiais utilizados, etc. 

Os novos meios de diagnóstico clínico que usam algoritmos de IA (em oncologia, neurologia, cardiologia, oftalmologia,…) são um inegável exemplo do contributo que as técnicas de IA podem trazer para o bem comum, bem como a possibilidade de evitar possivelmente desastrosas consequências de falhas de equipamentos (pense-se no caso do desastre do elevador da Glória) usando técnicas de manutenção preditiva.

«Se fosse um país, o crime cibernético seria hoje a terceira maior economia do mundo, ultrapassada apenas pelos EUA e pela China.»

Em cenários industriais, a utilização de modelos de IA como «tubos de ensaio virtuais», também conhecidos por «gémeos digitais», permite já hoje, em inúmeros sectores. desenhar melhores produtos, mais rapidamente, e conduzindo muitas vezes a uma real economia de meios. No desenvolvimento de produtos farmacêuticos, o recurso àquilo que se designa por experiências in silico, permite simular, predizer e mesmo analisar a interação com tecidos biológicos de novos produtos usando modelos matemáticos, reservando as longas e caras experiências in vivo às fórmulas mais prometedoras. Na agricultura, o cálculo em tempo real da quantidade necessária de água, de pesticidas, ou de fertilizantes, tomando em conta medições do grau de humidade do solo e do ar, de observações do estado das plantações e das previsões meteorológicas, traz benefícios evidentes não só individualmente para os agricultores como para o meio ambiente.

O uso deste tipo de instrumentos para a modelização a grande escala da produção de recursos como a água ou a energia, permitindo a subsequente simulação das consequências de diferentes estratégias de gestão, tem a vantagem de tornar explícitas as prioridades e compromissos politicos que as determinam, contribuindo indiscutivelmente não só para a sustentabilidade dos recursos como para a transparência da gestão da res publica, e deveria ser uma prioridade do Estado.

O uso humano de seres humanos, as escolhas

Mencionei já como a instrumentação de um sistema de produção com sensores pode permitir optimizar a sua gestão. A tentação é grande, dada a sede inestancável de lucro do mundo capitalista em que nos encontramos submersos, de transpor o conceito ao controlo dos trabalhadores: equipar humanos com dispositivos que meçam e registem os seus movimentos e ações, de forma a ser capaz de exigir deles o máximo «rendimento». «Quando seres humanos são integrados numa organização em que são usados, não de acordo com os seus direitos como seres responsáveis mas como rodas dentadas, alavancas ou hastes, pouco importa que sejam feitos de carne e de sangue.» A frase é de Norbert Wiener, no seu livro The Human Use of Human Beings11, a situação vivida pelos trabalhadores dos armazéns da Amazon é a realização da distopia que ele anunciava. 

A vulgarização da IA generativa estendeu esta inversão entre o homem e a máquina – ver o conceito de centauro invertido proposto por Cory Doctorow – para além dos armazéns de logística, afectando sobretudo tarefas e empregos com forte componente cognitiva. Os processos laborais são fraccionados de forma a possibilitar a «cooperação» entre o trabalhador humano e a máquina, impondo ao trabalhador que se alinhe com a cadência desumana do algoritmo, e despossuindo-o frequentemente da componente verdadeiramente interessante e criativa do seu trabalho.

Com a IA generativa a predação dos nossos «dados pessoais» subiu de nível de abstracção, para passar a englobar os nossos conhecimentos, as nossas competências, as nossas «maneiras de fazer». Em cada interação com o chatbot, o trabalhador transfere-lhe o seu saber, indica-lhe o raciocínio a seguir para resolver certo problema, corrige e completa as suas respostas, numa transferência mascarada de «ajuda» que faz lembrar os períodos áureos da deslocalização industrial, em que os trabalhadores das fábricas que iam fechar eram convidados a treinar os operários que os iriam substituir.  

«É tarde e a escolha entre o bem e o mal bate à nossa porta.» A frase provém ainda do livro de Wiener, e, sem querer aderir à sua formulação algo apocalíptica, apela a que nos interroguemos sobre o que nos dizem acerca dos valores que dominam a nossa sociedade os actuais desenvolvimentos da IA. Que forças as impulsionam, a que riscos nos submetem, a «fuga para a frente» em que nos embarcam.

Vejamos, por exemplo, o que o actual Governo propõe no que diz respeito ao uso da IA generativa no quadro da educação. Entre outras coisas, «dar um tutor de IA a cada aluno». Certamente motivado por este objectivo, o Conselho Nacional da Educação publicou (Maio de 2026) um estudo sobre a IA em contexto educativo. Identificando claramente os variados riscos que comporta a adopção da IA generativa – diminuição do espírito crítico dos alunos, agravamento das já muito sérias desigualdades que afectam o nosso parque escolar, incerteza quanto à possibilidade de garantir a privacidade das informações partilhadas – e os pesados investimentos que serão indispensáveis, tanto em infra-estrutura como na formação dos docentes, o relatório preconiza a adopção da IA a partir do 1.º ciclo do ensino básico. Podemos procurar em vão, sob o nevoeiro autoevidente da inevitabilidade da escolha proposta, uma exposição clara das suas razões pedagógicas.

A «modernização», «digitalização» e «simplificação» deverão transformar em ritmo acelerado a administração do Estado, com um custo previsto de 1,6 mil milhões de euros (horizonte de 2029). Um dos «pontos altos» desta agenda será garantir o princípio do «uma só vez»: deixará de ser necessário entregar ao Estado documentos ou dados que se encontrem já na sua posse. Esta medida, que não foi apresentada em campanha eleitoral e não foi posta à discussão dos cidadãos, apresenta dois riscos importantes: abre a possibilidade de cruzar as informações actualmente residentes em diferentes bases de dados sem que o cidadão tenha conhecimento sobre com quem e para que fins os seus dados são partilhados; a consolidação de todas as bases de dados agrava as possíveis consequências de eventuais futuros ataques cibernéticos, que poderão vir a comprometer todas as informações relativas a cada cidadão. 

No dia em que estou a escrever esta nota veio a público a notícia de um investimento de 7,5 milhões no financiamento de infra-estrutura computacional para um centro de IA do SIRP, com o objectivo de «dotar as secretas de capacidade de processamento intensivo de dados com análise baseada em IA». O que se passa neste momento nos EUA, país que muitos aqui em Portugal promoveram como o «campeão do mundo da democracia e dos valores humanos», deveria fazer com que seguíssemos com atenção a forma como estas IA poderão ou não vir a explorar informações confidenciais dos portugueses, sobretudo tendo em conta que o Relatório da Democracia 2026, produzido pelo Instituto V-Dem sediado na Universidade de Gothenburg (Suécia), inclui Portugal na lista de países em processo de autocratização, juntamente com a Bulgária, Chipre, Namíbia, Rússia, Serra Leoa, Sudão e Vanuatu.

Dado o agravamento dos riscos de ciberataques decorrentes da IA agêntica, e num momento em que os equilíbrios orçamentais repousam na ausência do reforço de benefícios sociais e dos investimentos necessários em serviços públicos como o SNS, será que é urgente e necessário iniciar uma custosa e profunda transformação da administração do Estado, tanto dos seus protocolos como dos meios materiais em que eles se suportam?

Os dados e o petróleo

A história do petróleo é rica em ensinamentos sobre a época que vivemos. O preço pago pelos indiscutíveis progressos trazidos pelas energias fósseis é hoje patente no aumento da frequência e intensidade de fenómenos climáticos extremos, e conduziu a um consenso mundial sobre a necessidade de diminuir a produção de gases de efeito de estufa. Somos hoje forçados a escolher em que queremos investir os recursos disponíveis, sendo óbvio que o planeta não nos permite realizar tudo o que a tecnologia permite fazer. 

Tem sido difícil resistir às conveniências das energias fósseis – e aos poderes económicos que as promovem – e, quase um século depois do boom do petróleo, a humanidade debate-se com a impossibilidade de se desembaraçar da sua dependência dos combustíveis fósseis sem desarmar a dominação do mundo pelo grande capital. 

De certa forma, a batalha por uma utilização racional da IA pareceria poder ser mais fácil, porque é menos fácil conquistar o consentimento dos povos para o seu uso: a IA generativa não traz uma melhoria palpável das condições de vida de cada um de nós, como foi o caso por exemplo do automóvel individual. À parte no marketing e no cibercrime, os ganhos de produtividade prometidos pelos arautos da IA generativa tardam a confirmar-se, ao mesmo tempo que os riscos e os custos associados à IA agêntica se confirmam a um ritmo acelerado.

Quanto à miragem da libertação do trabalho e do aumento de tempo livre para o lazer e a vida social, a história mostra que as melhorias das condições de trabalho que foram atingidas durante a segunda revolução industrial não «decorreram automaticamente» da transferência de trabalho dos humanos às máquinas, mas foram sempre arrancadas pela luta dos trabalhadores. A relação de forças entre o capital e o trabalho que determinou os grandes avanços do pós-guerra encontra-se hoje invertida, a favor do grande capital. 

O maior desafio que se põe hoje à humanidade não é a dominação por uma super-IA mas sim o colapso dos equilíbrios que sustêm a vida no planeta Terra, e que são agravados pela actual aposta desenfreada na IA. Enfrentar este desafio exige uma verdadeira planificação ecológica, que passará necessariamente por abandonar discursos irresponsáveis de «inevitabilidade» e fazer as difíceis mas necessárias escolhas racionais, em particular subordinar a «liberdade de empreender» ao bem comum e reservar os recursos energéticos e ambientais às aplicações de IA com real contributo para a sociedade.

O capitalismo tem horror ao trabalhador «vazio» e às matérias não exploradas, e não é neste quadro que poderemos superar as contradições gritantes que se manifestam hoje na espiral auto-destrutora em que o mundo está engrenado, cego aos verdadeiros riscos que nos ameaçam enquanto espécie, e palco de um agravamento absurdo das desigualdades. Tal como com o petróleo, parece uma impossibilidade inverter, dentro desta lógica capitalista em que tudo é reduzido a oportunidade de mercado, a dinâmica suicidária actualmente em curso.

O capitalismo mostra hoje mais que nunca a sua verdadeira face, e os níveis de democracia regrediram em todo o mundo, estando hoje a níveis semelhantes aos existentes antes da nossa revolução do 25 de Abril, que coincidiu com o início de uma progressiva democratização a nível mundial. O reequilíbrio da relação de forças entre o capital e o trabalho é urgente, de forma criar as condições para travar as variadas formas de dominação colonial e neocolonial que minam a humanidade, e permitir uma justa repartição dos benefícios das novas tecnologias.

Tópico

Contribui para uma boa ideia

Desde há vários anos, o AbrilAbril assume diariamente o seu compromisso com a verdade, a justiça social, a solidariedade e a paz.

O teu contributo vem reforçar o nosso projecto e consolidar a nossa presença.

Contribui aqui