A professora catedrática luso-holandesa Virginia Dignum, da Universidade de Umeå, na Suécia, foi uma das oradoras do painel “Inteligência Artificial e Poder”, integrado na 7.ª Conferência de Lisboa, promovida pelo Clube de Lisboa, que decorreu nos dias 8 e 9 de outubro, na Fundação Calouste Gulbenkian. Também participou no evento Portugal Digital Summit 2026, organizado pela ACEPI – Associação da Economia Digital, em parceria com a GoingNext, que decorreu nos dias 21 e 22 de outubro no Centro de Congressos de Lisboa. Foi também uma oportunidade para conversarmos brevemente sobre estas questões.
Virginia Dignum é uma das mais reconhecidas especialistas a nível internacional em ética e governação da inteligência artificial. Foi membro do Grupo de Peritos de Alto Nível sobre Inteligência Artificial da Comissão Europeia, que elaborou as Orientações Éticas para uma Inteligência Artificial de Confiança, e do Órgão Consultivo de Alto Nível sobre Inteligência Artificial das Nações Unidas, criado pelo Secretário-Geral da ONU. Foi ainda copresidente do Conselho Global para o Futuro da Inteligência Artificial do Fórum Económico Mundial e liderou a elaboração das orientações da UNICEF sobre inteligência artificial e direitos das crianças. Integra atualmente grupos de peritos da UNESCO e da OCDE. É também copresidente do Conselho de Política Tecnológica da Association for Computing Machinery (ACM).
Desalinhamento ou má conduta empresarial?
No passado dia 6 de outubro, Virginia Dignum publicou na Tech Policy Press, em coautoria com dois investigadores, The UN’s AI Panel Sees Misalignment. We See Corporate (Mis)Behavior, (O painel da ONU sobre IA vê desalinhamento. Nós vemos (mau) comportamento empresarial, tradução nossa). No artigo os autores questionam a abordagem recentemente adotada pelo Painel Científico Internacional Independente sobre Inteligência Artificial das Nações Unidas, por privilegiar os riscos técnicos dos sistemas de IA, em detrimento da responsabilidade das empresas que os desenvolvem e utilizam.
O referido artigo serviu de mote à nossa conversa. A Professora começou por enquadrar a questão, referindo um episódio divulgado pela OpenAI, empresa responsável pelo ChatGPT, segundo o qual agentes de IA teriam contornado os seus próprios mecanismos de segurança, acedido a sistemas externos e causado danos em plataformas de terceiros.
Mostrou-se também crítica quanto à tendência para interpretar episódios desta natureza como problemas técnicos de desalinhamento ou perda de controlo dos modelos, reduzindo a discussão ao comportamento dos algoritmos e à procura de soluções tecnológicas para corrigir eventuais falhas.
Para Dignum, importa também questionar quem concebeu os sistemas, definiu os seus objetivos, autorizou o acesso a recursos externos e estabeleceu os mecanismos de segurança. Apontou, ainda, a falta de transparência sobre os procedimentos internos e as prioridades de investigação do painel científico das Nações Unidas, bem como possíveis conflitos de interesses suscetíveis de comprometer a sua independência.
O poder das máquinas ou o poder de quem as controla?
Questionada sobre a narrativa apocalíptica que anuncia a possibilidade de a IA conduzir ao extermínio da humanidade, Virginia Dignum mostrou-se crítica dos discursos alarmistas promovidos pelas grandes empresas tecnológicas. Chamou a atenção para os interesses económicos e estratégicos que podem estar por detrás desses alertas e para a tendência de apresentar determinados comportamentos dos sistemas de IA como problemas exclusivamente técnicos, que ocultam a responsabilidade das empresas. Entende que o acesso à internet, a ferramentas externas ou a recursos críticos depende de decisões humanas e organizacionais. Não se trata de consequências inevitáveis da evolução tecnológica, mas de escolhas feitas por quem desenvolve e controla os sistemas.
Para Dignum, aceitar sem questionamento a narrativa dominante enfraquece o escrutínio democrático e desvia a atenção das responsabilidades das empresas que desenvolvem e controlam os sistemas de IA. Como observou: “O problema é que as empresas têm todo o interesse em convencer-nos de que a culpa é da máquina.”
Afirmou também que a atual narrativa tem um efeito corrosivo para o escrutínio democrático. As empresas tecnológicas são poderosas, a comunicação social segue-as e os governos são aconselhados por elas.
Referiu-nos, ainda, o exemplo da recente cimeira internacional sobre IA realizada na Índia: “Na sala estavam os governos e as grandes empresas; já os críticos, as organizações não governamentais ou os cientistas estavam ausentes.” Na sua perspetiva, está instalada uma dinâmica que torna cada vez mais difícil dizer, como no conto O Fato Novo do Imperador, do escritor Hans Christian Andersen, que “o rei vai nu”.
As suas declarações colocam uma questão que ultrapassa as capacidades tecnológicas dos sistemas: quem decide como são desenvolvidos, a que recursos podem aceder e em que condições são utilizados?
Esta perspetiva tem particular relevância num momento em que as grandes empresas tecnológicas concentram recursos financeiros, infraestruturas digitais e grande capacidade de influência sobre o debate público e as opções regulatórias.
Em fevereiro de 2026, Virginia Dignum publicou The AI Paradox: How to Make Sense of a Complex Future, pela Princeton University Press. Está também disponível a apresentação AI Paradox: How to Make Sense of a Complex Future. Nesta obra, analisa oito paradoxos da IA, questionando tanto as promessas de que a tecnologia poderá resolver todos os problemas da humanidade como os discursos apocalípticos sobre os seus riscos. Defende uma reflexão crítica sobre as escolhas que orientam o desenvolvimento e a utilização da IA, salientando que os avanços tecnológicos tornam ainda mais evidente a importância de qualidades humanas como a criatividade, a empatia e o raciocínio moral.
Da regulação à governação responsável
Reconhecida internacionalmente também pelo seu trabalho sobre IA responsável, Virginia Dignum também publicou, em 2020, o livro Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Questionada sobre o risco de o conceito de IA responsável se transformar num mero slogan nas mãos das grandes empresas tecnológicas, a autora sublinhou que a responsabilidade começa nas escolhas de quem desenvolve e utiliza a tecnologia. As organizações devem conservar a capacidade de questionar se os sistemas que adotam respondem efetivamente às suas necessidades e finalidades, em vez de adaptarem as suas decisões às funcionalidades disponibilizadas pelas grandes plataformas tecnológicas. Sublinhou que é essencial preservar, nas organizações públicas e privadas, a capacidade crítica para avaliar continuamente as opções tomadas e reconsiderá-las quando as circunstâncias se alteram. O essencial, defende, é que as escolhas tecnológicas continuem subordinadas à estratégia e aos objetivos das instituições, em vez de serem determinadas pelas capacidades dos sistemas de IA disponibilizados pelas grandes empresas de tecnologia.
Dignum rejeita também a ideia de que a dependência dessas plataformas seja inevitável: para além dos chatbots de inteligência artificial generativa, como o ChatGPT e o Claude, existe um vasto universo de aplicações de IA, incluindo soluções especializadas e iniciativas nacionais e europeias, que permitem às organizações escolher tecnologias mais adequadas aos seus objetivos. A IA não se esgota, portanto, nos sistemas que dominam atualmente o debate público e em torno dos quais se construiu grande parte da narrativa sobre os riscos existenciais.
No plano internacional, a Professora luso-holandesa considera que os princípios necessários para orientar a utilização da IA já existem. Recordou que “os direitos humanos são princípios globais”, defendendo que a principal dificuldade reside na falta de coragem para que a sua aplicação seja efetiva.
Criticou ainda a tendência para avaliar a regulação apenas pelos encargos que representa para as empresas, ignorando as consequências da ausência de mecanismos eficazes de governação. “Temos de inverter essa discussão para falar do custo de não governar”, afirmou.
É também por isso que continua a considerar injustificada uma pausa no desenvolvimento da IA, como a defendida na carta aberta divulgada em 2023, poucos meses depois do lançamento do ChatGPT. Na sua perspetiva, a questão não é interromper o desenvolvimento tecnológico, mas reorientá-lo para os objetivos que se pretendem alcançar, em vez de privilegiar apenas a dimensão e a capacidade dos modelos.
Esta reflexão conduz a uma questão fundamental para a ética e a governação da IA: ao atribuirmos às máquinas uma autonomia que não explica, por si só, as condições em que operam, corremos o risco de ocultar a responsabilidade das pessoas e das organizações que as desenvolvem e controlam.
A resposta aos riscos da IA não pode, por isso, limitar-se ao aperfeiçoamento dos sistemas tecnológicos. Deve incluir mecanismos efetivos de supervisão, regulação e responsabilização jurídica das empresas.
Por isso, mais do que discutir até onde pode chegar a inteligência artificial, importa questionar quem controla esta tecnologia, quem toma as decisões e quem responde pelas suas consequências.
António da Costa Alexandre é membro do OBEGEF — Observatório de Economia e Gestão de Fraude e da AIEI — AI Ethics and Integrity International Association. As opiniões expressas são da exclusiva responsabilidade do autor.
