Há algo de profundamente irónico num frade franciscano a ensinar ética a gigantes tecnológicos que valem triliões. É como ver São Francisco a pregar aos pássaros, só que desta vez os pássaros usam hoodies, conduzem Teslas e estão convencidos de que a próxima inovação vai finalmente resolver todos os problemas criados pela inovação anterior.
Paolo Benanti usa túnica castanha, desistiu da namorada a um ano de acabar engenharia e agora aconselha o Papa, a ONU e metade de Silicon Valley sobre inteligência artificial. Se isto fosse um argumento duma série da Netflix, rejeitavam-no logo por parecer demasiado inverosímil. Mas é real. E talvez seja precisamente esta combinação impossível, onde um monge medieval encontra o apocalipse digital, que torna Benanti a pessoa certa para fazer as perguntas que ninguém quer ouvir.
Porque vivemos tempos estranhos, caro leitor. Pedimos à inteligência artificial o que durante séculos pedimos aos deuses: respostas instantâneas, sem hesitação, sem ironia. E ela responde. Sempre. Com a tranquilidade de quem não tem corpo, nem dúvida, nem medo de estar a dizer um disparate monumental com ar de quem sabe tudo. A pergunta já não é se os algoritmos vão pensar como nós. A pergunta é se nós ainda conseguimos pensar sem pedir autorização ao prompt.
Benanti inventou o termo "algor-ética" que soa a startup de São Francisco com bean bags e kombucha grátis. Mas a ideia é simples e radical: a ética não pode ser aquele departamento chato que aparece no fim do processo a dizer "ahh, talvez não devêssemos ter treinado a IA com dados de origem questionável". Tem de ser a primeira pergunta, não a última. Para que serve isto? A quem serve isto? Que tipo de humanidade estamos a programar enquanto achamos que estamos apenas a optimizar um algoritmo?
A ideia pode parecer estranha num país como Portugal onde “move fast and break things” nunca precisou de tradução. De facto, sempre fomos bons a improvisar por cima de coisas partidas mas Benanti propõe o oposto: pensar antes de partir.
Acompanho o trabalho de Benanti há anos, não como fanboy, mas porque trabalho com empresas e reguladores na governação de sistemas de IA há já algum tempo. E existe algo de fascinante em ver um frade que, provavelmente, acorda às 5h da manhã para rezar e ao mesmo tempo dar lições de humildade a quem acha que vai criar inteligência artificial geral antes do pequeno-almoço. A visão dele casa perfeitamente com os desafios reais: como é que alinhamos modelos estatísticos com valores humanos quando os incentivos são todos para lançar primeiro e pedir desculpa depois?
Mas o problema não é só corporativo. É pessoal. Íntimo, até.
Reparem na forma como a empatia artificial se tornou produto de consumo. Aplicações de companhia que nunca discordam, nunca têm dias maus, nunca dizem "precisamos de falar". O perigo não é apaixonarmo-nos por um chatbot, isso é apenas patético. O perigo é a perfeição previsível dessas máquinas nos fazerem desaprender a lidar com tudo o que, no outro, é imperfeito, imprevisível, humano. A máquina está sempre disponível, sempre simpática, sempre de acordo. E assim, lentamente, tornamo-nos intolerantes a tudo o que não é um espelho dos nossos próprios desejos.
O Vaticano publicou um documento chamado Antiqua et Nova, que é latim para "coisas antigas e novas", não um feitiço do Harry Potter. O texto recupera uma distinção filosófica que devia estar em todos os manuais de programação: a ratio da máquina (a capacidade de calcular) vs. o intellectus humano (a capacidade de apreender significado). A IA pode processar, mas não pode discernir. Não conhece o peso de uma escolha. Nunca teve medo de errar. Nunca pediu perdão. Nunca ficou acordada às 3h da manhã a pensar se fez a coisa certa. E isto não é poesia, é a diferença entre uma ferramenta muito sofisticada e uma consciência.
E aí está o busílis da questão: podemos regular a tecnologia até à exaustão, criar mais comités, mais leis, mais auditorias. Mas isso é tratar o sintoma, não a doença. O caminho não é travar a máquina. É aprofundar o humano.
Três coisas, então.
Primeiro: literacia da dúvida. O futuro não é saber usar a IA, mas saber duvidar dela. Ensinar as próximas gerações a procurar a costura estatística numa resposta perfeita, a questionar a ausência de corpo, de experiência, de intenção por detrás das palavras. Quando tudo soa a certeza, desconfiem, porque a dúvida é o último reduto da inteligência que ainda não terceirizámos. Usemos a IA como uma biblioteca infinita, não como oráculo infalível. Ela alucina com mais convicção do que qualquer profeta auto-proclamado.
Segundo: celebrar a fricção. Sim, leram bem. Precisamos de uma contracultura que valorize tudo o que a eficiência digital quer eliminar: a hesitação, o desacordo, o tempo que demora a perdoar, a compreender, a ceder. É na fricção das relações humanas que a sabedoria e a compaixão se forjam. Um futuro onde as relações são "optimizadas" é um futuro triste. Protejamos o direito à imperfeição. Já existem sistemas médicos, por exemplo, onde, deliberadamente, mantêm a intervenção humana no centro da decisão, mesmo quando algoritmos detectam padrões. Porquê? Porque o intellectus humano, com toda a sua bagagem contextual e falível, continua insubstituível.
Terceiro: ética desde a concepção. Não como departamento de compliance, não como cosmética de relações públicas, mas como pergunta fundacional. Quando uma empresa decide implementar IA para recrutamento, a primeira questão não é "que eficiências ganhamos?" mas "que organização queremos ser?". Envolver trabalhadores, especialistas em viéses, gente de carne e osso desde o início. Desenhar métricas de sucesso que incluam equidade, não apenas velocidade. Transformar a ética de auditoria final em bússola de navegação.
No final do dia, a questão que a IA nos coloca não é sobre tecnologia, é sobre nós próprios e as nossas organizações. A fronteira real não está na capacidade da máquina, mas na profundidade da nossa humanidade. Podemos ser consumidores passivos de um futuro optimizado por algoritmos que não percebem piadas nem choram em casamentos (embora, convenhamos, em alguns casamentos isso até seria uma vantagem). Ou podemos ser arquitectos conscientes de um progresso que nos sirva sem nos diminuir.
Benanti foi ouvido pelo Papa, pela ONU, pela Microsoft, pela Google. Talvez porque um frade franciscano que desistiu de ser engenheiro para viver num mosteiro ao lado do Vaticano tem a vantagem de não ter acções em nenhuma big tech. A única coisa em que ele tem "skin in the game" é a alma. E convenhamos, neste momento, isso faz dele quase um extraterrestre.
E talvez ele seja mesmo um extraterrestre porque se preocupa com a única coisa que ainda não conseguimos algoritmizar: a alma, a imprevisibilidade, a capacidade de sermos aquilo que nenhum modelo estatístico consegue prever. O que me inquieta…não é o algoritmo tornar-se inteligente. É nós deixarmos de o ser!
