O Papa está triste com tanta IA
Os dois significados da encíclica sobre IA do Papa Leão XIV.
Você pode até não ser religioso, mas o movimento que está acontecendo na Igreja Católica agora merece a sua atenção. Em sua primeira encíclica – o documento em que informa a posição da Igreja para bispos em todo o mundo –, o papa Leão XIV publicou uma extensa crítica à indústria de inteligência artificial. E há dois jeitos diferentes de ler o posicionamento da Igreja Católica.
O primeiro: o que a encíclica diz. No documento, de mais de 40 mil palavras, o papa critica duramente a indústria de tecnologia e vai no cerne do problema: a concentração de poder das empresas, que privilegiam seus lucros em detrimento do bem comum. A encíclica foi chamada de “Magnifica Humanitas”, ou Magnífica Humanidade – um pedido para que as pessoas sejam colocadas de volta ao centro desse debate. (Quase o slogan Gente > Máquina da CTRL+Z, não é mesmo?)
“Os principais motores do desenvolvimento são entidades privadas, muitas vezes transnacionais, dotadas de recursos e capacidade de intervenção que superam os de muitos governos”, diz a encíclica. “O poder tecnológico assume, assim, um aspecto sem precedentes, predominantemente ‘privado’, o que torna ainda mais difícil discernir, governar e direcionar esse poder para o bem comum.”
“Quando esse poder se concentra nas mãos de poucos, tende a tornar-se opaco e a escapar à supervisão pública, aumentando o risco de formas distorcidas de desenvolvimento que dão origem a novas dependências, exclusões, manipulações e desigualdades”, diz o documento.
O papa rebate os discursos tecnocráticos de ‘eficiência’, diz que não dá para confiar na ‘mão invisível do mercado’, e que é preciso proteger os empregos e as pessoas mais vulneráveis. “Diz-se que isso [a IA] trará grandes melhorias para todos. Na realidade, porém, as ‘novas formas’ de trabalhar não são necessariamente melhores.”
O pontífice também diz que pedir a desaceleração não é se opor ao progresso, mas um exercício de cuidado. E que a ética não pode ser um pedido abstrato – mas deve estar ancorada em “marcos legais robustos, supervisão independente, usuários informados e um sistema político que não se esquive de sua responsabilidade”, em um aceno aos governos que propõem regulação para a inteligência artificial.
O uso de IA nas guerras causa preocupação especial. “O que é criado para a defesa pode ser rapidamente reaproveitado para o ataque, e a tênue linha entre proteção e agressão torna-se confusa. Embora a IA possa aprimorar a defesa e a proteção de civis, ela também pode diminuir o limiar para o uso da força, proteger as pessoas da responsabilidade e fomentar uma cultura na qual o inimigo é reduzido a uma estatística e a vítima a ‘dano colateral’.”
O documento papal é direcionado para a Igreja Católica. Mas sua importância ultrapassa as fronteiras da religião. A encíclica Laudato Si’, publicada em 2015 pelo Papa Francisco, chamava a atenção para a urgência das mudanças climáticas e defendia uma transformação cultural ampla, com mudança no estilo de vida e práticas mais solidárias. O documento influenciou negociações ambientais nos anos seguintes.
Por isso, é de se esperar que a nova encíclica tenha futuras repercussões na maneira como países, especialmente do Sul Global, irão tratar o tema. A Igreja Católica tem forte presença na América Latina e na África, regiões estratégicas no debate global sobre regulação de IA.
Os laços com a indústria de tecnologia
É preciso, no entanto, entender a encíclica também pela maneira como ela foi apresentada. Por isso, a segunda maneira de ler o movimento da Igreja Católica é notando com quem ela se aliou.
Não dá para ignorar a presença da Anthropic, a criadora do chatbot Claude, na apresentação da encíclica. Seu co-fundador, Christopher Olah, ex-funcionário do Google Brain e da OpenAI, foi ao Vaticano e também deu fortes declarações sobre como a IA não pode ficar nas mãos das big techs, e que é necessário estabelecer modos de fiscalizar essas empresas e compartilhar os ganhos da IA globalmente.
Lindo. Mas Olah também é um bilionário que representa o que a igreja critica. A Anthropic foi co-fundada por ex-funcionários da OpenAI insatisfeitos com questões éticas e de segurança e, desde então, tem apostado nessa sua diferenciação como estratégia de mercado.
No início deste ano, o rompimento do contrato de US$ 200 milhões da Anthropic com o Pentágono ajudou a reforçar essa imagem. A empresa defendia salvaguardas em seus sistemas de IA para uso em armas autônomas e vigilância em massa, mas o Departamento de Defesa dos EUA não queria aceitar as restrições. Acabou cancelando a parceria.
O fato posicionou a Anthropic como uma empresa ética em oposição à sua rival, a OpenAI, dona do ChatGPT, que seguiu com a parceria com o Pentágono. O ‘brand washing’ foi ótimo para os negócios. A Anthropic deve quebrar recorde nos lucros no segundo trimestre deste ano: US$ 10.8 bilhões, quase o dobro do trimestre anterior.
Os líderes da Anthropic são alinhados com a corrente ideológica pessimista sobre IA – a que faz alertas sobre como essa tecnologia que dizem superpoderosa pode devastar o mundo, um contraponto aos entusiastas que, ao contrário, acreditam que a IA vai salvar a humanidade. Acontece que as duas pontas são problemáticas – e inflar as capacidades da IA, para bem ou para o mal, nos distrai dos problemas reais.
A Anthropic, por exemplo, roubou conteúdo sem permissão para treinar seus sistemas de IA. No ano passado, a empresa fez um acordo para pagar US$ 1,5 bilhão a editoras por ter se apropriado do conteúdo de livros para alimentar o Claude sem autorização.
“O Vaticano poderia ter dito à Anthropic para parar de roubar dados, explorar trabalhadores, destruir o meio ambiente, nos enganar com designs antropomórficos e mentir sobre as ‘capacidades’ do produto. Em vez disso, fez parceria com eles”, criticou Timnit Gebru, ex-cientista do Google, fundadora do The DAIR Institute e uma das vozes mais críticas sobre ética na IA, em um post no Linkedin.
Além disso, antes de cancelar o contrato com o Pentágono, a Anthropic ofereceu, em parceria com a Palantir e a Amazon, seu sistema de IA para a inteligência dos EUA, inclusive operações secretas. Segundo reportagens, o sistema da Anthropic também foi usado na operação militar na Venezuela que prendeu Nicolás Maduro e matou 83 pessoas. Exatamente o tipo de uso que, agora, o papa criticou.
A proximidade da Anthropic ao Vaticano demonstra o quão profundo é o poder de influência das empresas de tecnologia.
“Isso é a Igreja Católica”, nos disse Tábata Tesser, pesquisadora e socióloga da religião. Ela explica que, na encíclica, o papa dialoga com questões internas que a Igreja já está enfrentando – o uso de IA em paróquias e organizações religiosas – e consolida o posicionamento crítico sobre como a instituição deve usar a tecnologia. Mas há limites. “Não devemos confundir essa crítica com uma proposta radical de democratização da tecnologia”, diz Tesser.
Segundo ela, a igreja pode, ao mesmo tempo, denunciar a guerra e questionar a concentração de poder, mas sem necessariamente defender autonomia tecnológica e ruptura com as grandes empresas. “É uma posição característica do catolicismo institucional recente: nem alinhada à lógica bélica das big techs, nem propriamente libertadora em relação às estruturas que concentram o poder digital”.
A Igreja Católica tem laços com o Vale do Silício há anos. Desta vez, o papa acenou diretamente para as empresas, e parece que conseguiu ser notado: Jack Dorsey, fundador e ex-CEO do Twitter e do Bluesky, foi um dos que divulgaram o documento da Igreja em seu perfil. Como isso vai ressoar entre os outros techbros, cada vez mais inclinados a ideologias místicas, ainda é um mistério.
Por enquanto, é importante reconhecer o posicionamento da Igreja Católica e seu potencial para influenciar políticas públicas pelo mundo. Mas é preciso evidenciar, também, que a proximidade da Anthropic demonstra o quão profundo é o poder de influência das empresas de tecnologia, que conseguem se apropriar de instituições, críticas e causas em benefício próprio. Timnit Gebru deu um nome para isso: “Vatican washing”.
Ótima análise.
Fiquei me perguntando como será que rolou essa parceria com a Anthropic. Quem procurou quem. Se foi o Vaticano ou se a empresa. Acho que tem mais história aí que a gente não sabe...
Minha visão: esse documento tem tudo pra ter dedo dos dois lados e não só do Vaticano.
E um comentário meio random, mas que pode ser uma pista: é uma caralhada de 40 mil caracteres. Né? Quantas rodadas de prompt pra escrever uma dessas haha 😝