Em quase toda a mitologia grega, existe um momento em que o herói descobre que o monstro que procurava derrotar estava, afinal, mais perto do que pensava. Às vezes, dentro de si. Teseu mata o Minotauro, mas fica com o labirinto na cabeça. Perseu decepa a Medusa, mas é no reflexo do escudo que percebe a verdade. A Anthropic, empresa de inteligência artificial fundada por dissidentes da OpenAI, que se consideravam demasiado prudentes face aos seus antigos colegas, acaba de olhar para o seu próprio escudo.
E, ao que parece, não gostou do que viu!
Recentemente, a empresa revelou o Claude Mythos, um modelo que descreve como "o mais poderoso que alguma vez construímos" e, quase no mesmo fôlego, "demasiado perigoso para lançar ao público". E isto não é apenas retórica de Silicon Valley porque em poucas semanas de testes, o Mythos identificou milhares de vulnerabilidades escondidas há décadas no código de sistemas operativos que fazem funcionar hospitais, centrais eléctricas, bancos. Falhas que nenhum ser humano tinha encontrado. Portas que, nas mãos erradas, se abrem para lugares onde ninguém quer ir.
A Anthropic nasceu da ideia de que a Inteligência Artificial precisava de ser desenvolvida com cautela e responsabilidade. Os irmãos Amodei saíram da OpenAI convencidos de que Sam Altman estava a acelerar demasiado. Fundaram uma empresa cujo lema implícito sempre foi: “nós somos os adultos na sala”. E agora têm nas mãos exactamente aquilo que temiam, só que com a sua própria assinatura.
O governo americano bate-lhes à porta. As agências de segurança e os grandes bancos fazem fila para experimentar. E a Anthropic, essa guardiã autoproclamada da prudência, distribui o seu monstro a um clube selecto de gigantes, Amazon, Apple, Microsoft, confiando que serão igualmente responsáveis. Confiar! Numa indústria que transformou a vigilância em modelo de negócio. E, convenhamos, que não é propriamente uma indústria conhecida pela castidade.
Mas é fácil apontar o dedo. Mais difícil é olhar para as próprias mãos.
Não me excluo disto. Uso estas ferramentas todos os dias. Ganho tempo com elas. E há alturas em que também eu prefiro o silêncio, qual Clarice Starling diante do Hannibal Lecter, a ouvir o monstro atrás do vidro, tentando acreditar que o vidro aguenta. Sabemos que ele está ali. Sabemos o que é capaz de fazer. Mas enquanto não sair, enquanto não nos tocar directamente, tomamos notas, acenamos com a cabeça e voltamos para casa a tempo do jantar.
E é isso que muitas das vezes vejo à minha volta: o espectáculo tranquilo dos sonâmbulos. O CEO em Davos a prometer que a IA vai "democratizar o conhecimento" no mesmo mês em que despede milhares de pessoas para "optimizar com inteligência artificial". O consultor que vende "transformação digital" a quinhentos euros à hora e ainda não percebeu o que é um token. O influencer de LinkedIn a publicar "10 prompts que vão mudar a tua vida" com a solenidade de quem decifrou os manuscritos do Mar Morto. O político que discursa sobre soberania tecnológica europeia e pede ao assessor para lhe ligar o Zoom ou ainda aquele administrador que jura que já usa IA no dia-a-dia porque o Outlook lhe sugere "Obrigado!" como resposta aos emails.
Andamos todos muito compostos na nossa tão querida idade da inocência. Como no filme de Scorsese do mesmo nome, onde toda a gente vê mas ninguém nomeia, onde o pacto social é não perguntar demasiado, onde a elegância está em mudar de assunto e fingir que o mundo de amanhã será apenas uma versão ligeiramente melhor e mais eficiente do que o Mundo de hoje.
Essa idade está a acabar, só que se esqueceram de avisar os inocentes.
Foi para isto que a Europa escreveu o Regulamento Europeu da Inteligência Artificial, o célebre, AI Act. O regulamento que tantos criticaram e criticam como travão à inovação foi desenhado precisamente para momentos como este. Para o dia em que uma empresa conclui que criou algo "demasiado perigoso" e se vê forçada a decidir sozinha, sem supervisão séria, o que fazer com ele. A categoria de "risco sistémico" não é capricho regulatório, é antes o reconhecimento de que há capacidades que ultrapassam o que um conselho de administração pode, ou deve, gerir. Quando o código pode abrir as portas de uma central nuclear, a pergunta deixa de ser "devemos lançar?" e passa a ser "quem decide?".
A Anthropic informou as autoridades. Criou o Project Glasswing ( a borboleta com asas transparentes) que se traduziu numa iniciativa para dar acesso antecipado ao Mythos a um grupo selecto de empresas, para que estas encontrem e corrijam vulnerabilidades nos seus sistemas antes que outros o façam com piores intenções. São gestos louváveis mas também insuficientes. Porque o problema não é a Anthropic. O problema é que a Anthropic é apenas a primeira. Se uma startup de São Francisco consegue isto com alguns milhares de GPUs, outros vão conseguir também. A China pode. A Rússia pode. Grupos criminosos bem financiados podem. E esses não vão publicar comunicados sobre prudência. Não sejamos ingénuos!
Vivemos o intervalo entre a invenção da pólvora e a Convenção de Genebra. O hiato entre a fissão nuclear e o Tratado de Não-Proliferação. A diferença, que não é pequena, é que essas transições demoraram décadas. Esta está a acontecer em meses.
E nós? Portugal, quero dizer. Onde estamos nesta conversa?
Somos pequenos, dirão os fatalistas. Não desenvolvemos modelos de fronteira. O que podemos fazer é assistir e esperar que os grandes não se destruam mutuamente. É confortável, claro. Mas também tem outro nome: rendição.
Portugal tem gente fantástica, desde juristas, diplomatas e investigadores notáveis e uma tradição de estar em mesas onde se negoceia o que nos ultrapassa. Foi em Alcáçovas e Tordesilhas que se dividiram mundos, não em Madrid nem em Sevilha. Temos lugar na mesa europeia, temos voz, se a quisermos usar. E temos a perspectiva de quem está nas margens, que às vezes é a melhor posição para fazer a pergunta incómoda: queremos mesmo confiar a segurança do mundo a uma empresa que, há apenas umas semanas, deixou perto de três mil documentos internos acessíveis por erro de configuração? E que, logo depois, teve de investigar relatos de acesso indevido ao seu modelo mais sensível por gente no Discord?
Porque foi isso que aconteceu. Não por um ataque de cinema. Não por um génio maligno encapuzado numa cave. Um erro de configuração. Um fornecedor. Um grupo privado. Um Discord. O costume, portanto. E se a empresa mais prudente do sector tropeça assim, que esperança temos para as outras?
Mythos vem do grego μῦθο, mito. Não escolheram mal o nome. A Anthropic sabe que está a escrever mitologia. A questão é: que mito?
O de Prometeu, punido eternamente por dar o fogo? O de Ícaro, que voa perto demais do sol? Ou o de Dédalo, o arquitecto que construiu o labirinto para aprisionar o monstro e depois teve de ensinar o filho a escapar dele?
Dédalo sobreviveu. Ícaro, nem por isso.
Bendito sejas, AI Act. Bendita sejas, Europa!
