Confesso, com algum embaraço, que nunca tinha lido de fio a pavio uma encíclica papal. Trabalhando numa universidade, sou quotidianamente desafiado pelos desenvolvimentos da IA. Um desafio que transcende as dificuldades práticas de ser professor e de salvaguardar a integridade da avaliação de conhecimentos e que vai, antes, ao âmago do que é ‘saber’ e do papel da universidade. Um desafio feito de deslumbramento e de apreensão. Uma apreensão que extravasa a escola e se estende ao mundo do trabalho que os meus jovens estudantes irão defrontar, onde, ao que tudo indica, os níveis de entrada em muitas profissões serão os mais afetados pela adoção da IA generativa. Não podia, pois, ficar indiferente à encíclica Magnifica Humanitas do Papa Leão XIV.
O Papa não é, de modo algum, um ludita relativamente à IA, e reconhece-a como uma ferramenta com enorme potencial para promover o bem-estar da humanidade. Nem, tão-pouco, me parece ter dúvidas de que a IA vai moldar o futuro. A sua preocupação é, antes, saber como todos nós, humanos, ajudaremos a moldar a inteligência artificial. Nas suas palavras, «uma coisa é integrar as tecnologias numa visão humana e relacional, outra é deixar-se guiar por um imaginário que desvaloriza os limites e promete uma ‘salvação’ puramente técnica».
Não pude deixar de sentir nas palavras do Papa algum pessimismo sobre o que o ‘admirável mundo novo’ nos pode trazer (pelo menos tão pessimista quanto um católico se permite ser). Adverte para os riscos – entre outros – de a agência humana ser gradualmente erodida à medida que, por meras razões de eficiência ou comodidade, as pessoas deleguem em algoritmos cada vez mais capazes de as simular, o seu pensamento, as suas escolhas e as suas relações sociais, e que percam, gradualmente, a capacidade de reconhecer a verdade. Sem essa capacidade, é a própria democracia que fenecerá – adverte. Contudo, para Leão XIV os contornos desse futuro moldado pela IA não estão totalmente predeterminados. A ‘questão do poder’ é, por isso, um tema recorrente e central – saber se esse futuro será decidido em duas nações (EUA e China) e por uma mão-cheia de oligarcas (tão poucos e familiares que os conhecemos pelo primeiro nome) ou se, pelo contrário, a ação dos cidadãos e cidadãs do mundo inteiro, através de políticas públicas democraticamente sancionadas, pode fazer com que inovação tecnológica ocorra não na direção de as máquinas substituírem os humanos, mas, antes, de os complementarem e, assim, traga uma prosperidade partilhada.
Em síntese, para o Papa Leão XIV a IA é uma «ajuda preciosa que requer atenção» e que deve ser usada com discernimento, (que falta, por exemplo, na proposta de Javier Milei de dar personalidade jurídica a sociedades não-humanas). «Desarmar a IA» – significando «quebrar a equivalência entre o poder técnico e o direito de governar» – é apelo do Papa. No mais, a encíclica é parca em prescrições. E as que oferece poderão já ser tardias. Contudo, independentemente dos seus efeitos práticos, ela é uma importante e oportuna reflexão, como notou Chris Olah (cofundador da Anthropic) quando, numa intervenção no Vaticano, alertou que o sistema de incentivos que rege o desenvolvimento da IA nem sempre ser compatível com o Bem; por isso, o contributo de pessoas de fora desse sistema é crítico para que a IA possa progredir em benefício da humanidade. É esta, em última análise, a aposta da encíclica: parafraseando Clemenceau, a IA é demasiado séria para ser deixada apenas a cientistas e engenheiros (e, a um punhado de empresários gananciosos e políticos autoritários).
Professor universitário
