A primeira encíclica de Leão XIV, Magnifica Humanitas, surge num momento particularmente significativo. Tal como a Revolução Industrial obrigou as sociedades a repensar o trabalho e a justiça social, a revolução da Inteligência Artificial (IA) coloca-nos perante questões igualmente decisivas.
A discussão pública sobre o impacto da IA nas nossas sociedades tende a oscilar entre dois extremos: o entusiasmo dos que anunciam uma nova era de prosperidade e eficiência e o alarmismo dos que preveem uma ameaça existencial à humanidade. Ambas as posições falham em focar o debate no essencial: saber quem a controla, com que objetivos e em benefício de quem.
Quem desenvolve sistemas de IA decide, através da programação dos algoritmos, quais os dados utilizados, quais os critérios de decisão, bem como os resultados considerados desejáveis. Discutir Inteligência Artificial é, na verdade, discutir poder.
E é precisamente aqui que emerge o principal desafio para as democracias contemporâneas. Nunca a capacidade de influenciar, manipular opiniões e escolhas coletivas esteve tão concentrada. Um reduzido número de empresas controla infraestruturas digitais, plataformas de comunicação, enormes volumes de dados e recursos computacionais sem precedentes. Esta concentração representa um problema económico e também um grave problema democrático que tem sido muito discutido na Comissão Especial para o Escudo Europeu da Democracia, no Parlamento Europeu.
Os algoritmos determinam, em larga medida, o que vemos, lemos, ouvimos e debatemos. A informação circula através de sistemas de recomendação cuja lógica permanece frequentemente opaca ao escrutínio. Ao mesmo tempo, a capacidade da IA para gerar imagens, vídeos e textos dificilmente distintos da realidade cria novos instrumentos perigosos de manipulação e desinformação. Quando se torna difícil distinguir o verdadeiro do falso, enfraquece-se um dos pilares fundamentais da democracia: a confiança baseada em factos e, já agora, na ciência.
O impacto estende-se igualmente ao mundo do trabalho. A automação promete ganhos significativos de produtividade e promete libertar milhões de pessoas de tarefas repetitivas e desgastantes, mas com que implicações? A história mostra-nos que o progresso tecnológico não garante, por si só, progresso social. Sem regulação adequada, sem proteção dos trabalhadores e sem uma distribuição mais justa dos benefícios económicos, a IA poderá aprofundar desigualdades já existentes, aumentando tensões e divisões sociais e concentrar ainda mais riqueza e influência nas mãos de poucos.
Existe ainda uma dimensão frequentemente ignorada: a erosão das relações humanas. Vivemos numa época em que as máquinas conseguem conversar, aconselhar, ensinar e simular entendimento sobre si próprio ou sobre os outros. No entanto, como alerta a encíclica do Papa Leão XIV, nenhuma tecnologia substitui a responsabilidade moral, as relações interpessoais, a solidariedade ou a capacidade humana de cuidar do outro. Uma sociedade pode tornar-se tecnologicamente mais sofisticada e, simultaneamente, mais egoísta, fragmentada, intolerante e vulnerável à manipulação.
É por isso que a proposta de’ desarmar a IA’, defendida por Leão XIV, deve ser entendida como uma exigência política e ética. Não significa travar a inovação nem rejeitar o progresso, mas garantir que a tecnologia permanece subordinada aos valores democráticos e aos direitos fundamentais.
O grande desafio do século XXI será decidir aquilo que as sociedades democráticas estão dispostas a permitir que a tecnologia faça. Se abdicarmos dessa responsabilidade, corremos o risco de viver em democracias formalmente livres, mas progressivamente condicionadas por poderes tecnológicos sem rosto, transparência ou controlo democrático.
Em conclusão, é essencial que o poder político se mantenha vigilante e capaz de tomar decisões informadas, sem se deixar condicionar pelo receio do poder crescente dos gigantes tecnológicos. A magnitude deste desafio exige sociedades conscientes, críticas e plenamente informadas sobre o que está em causa.
No fundo, cabe-nos, enquanto comunidade política e humana, preservar a nossa capacidade de reflexão e decisão autónoma. Não devemos alienar essa faculdade nem delegá-la em entidades artificiais cujos proprietários, interesses económicos e agendas políticas permanecem opacas. Só assim poderemos assegurar que a inovação tecnológica continua subordinada aos valores humanos e ao interesse coletivo, e não o contrário. Estarão as lideranças atuais à altura deste desafio? O tempo urge.
