O algoritmo e a alma: quando o Vaticano nos convoca a repensar a inteligência artificial

Em 10 de maio de 2025, dois dias depois de ser eleito, o papa Leão XIV explicou ao Colégio Cardinalício uma das razões para a escolha de seu nome. Leão XIII havia publicado a Rerum novarum diante da questão social aberta pela primeira Revolução Industrial. Agora, disse o novo papa, a Igreja precisava recorrer à sua doutrina social para responder a outra transformação industrial e aos desenvolvimentos da inteligência artificial, com seus desafios para a dignidade humana, a justiça e o trabalho.

Foram poucas linhas dentro de um discurso mais amplo. Ainda assim, elas situaram a IA não como curiosidade técnica, mas como questão social. A fala de maio de 2025 indicava que o problema não estaria apenas no que as máquinas seriam capazes de fazer, mas no tipo de sociedade construído ao redor delas.

Do discurso à encíclica

Um ano depois, essa preocupação deixou de ser apenas um sinal inicial. Em maio de 2026, Leão XIV publicou a encíclica Magnifica humanitas, dedicada à salvaguarda da pessoa humana na era da inteligência artificial. O documento amplia a discussão para temas como concentração de poder tecnológico, transparência, responsabilidade, verdade, educação, trabalho e uso militar da IA.

O que em 2025 parecia um chamado à atenção tornou-se uma posição mais extensa: a técnica deve ser julgada também pelos fins que serve, pelas relações que modifica e pelas pessoas que pode beneficiar ou reduzir a meios.

Este não é um debate novo para mim. Há algum tempo venho examinando as fronteiras entre humanidade e tecnologia, entre as narrativas pelas quais nos compreendemos e os sistemas que passam a mediá-las. A intervenção do Vaticano importa não por encerrar a conversa, mas por trazê-la para uma tradição que pensa há séculos sobre dignidade, responsabilidade, trabalho e bem comum.

As perguntas mais imediatas são conhecidas: que empregos serão alterados, quais tarefas serão automatizadas, que ganhos de produtividade serão possíveis? Elas são importantes, mas não esgotam o problema. Uma tecnologia pode aumentar a eficiência de um processo e, ao mesmo tempo, tornar mais opaca a responsabilidade por suas decisões. Pode ampliar o acesso a um serviço e também aprofundar formas de vigilância ou exclusão. Pode produzir mais sem necessariamente melhorar a vida de quem produz.

Por isso, a qualidade da nossa humanidade na era digital não se mede pela quantidade de funções que conseguimos delegar. Mede-se também pelo que decidimos não delegar: o julgamento moral, a responsabilidade por consequências, a escuta de quem será afetado e a obrigação de responder por escolhas feitas com auxílio de sistemas que poucos compreendem por inteiro.

O suplemento de alma

É nesse sentido que uso a expressão “suplemento de alma”. Não como tentativa de atribuir espírito a uma estrutura matemática, mas como lembrete de que desempenho técnico não contém, por si só, direção ética. O suplemento não está na máquina. Está nas escolhas humanas que definem seu propósito, seus limites e sua forma de inserção no mundo.

Ao longo da minha trajetória — na diplomacia, nos bastidores da Disney e em consultorias para organizações interessadas em inovação —, fortaleceu-se uma convicção: a tecnologia amplia intenções, critérios e relações de poder que já existem, embora também possa reorganizá-los de maneiras que não previmos.

Sistemas de IA são treinados com dados produzidos e selecionados em contextos humanos. Seus objetivos, métricas de avaliação e condições de uso resultam de decisões. Quando reproduzem vieses, isso não acontece apenas porque “a sociedade é enviesada”, como se a explicação encerrasse a responsabilidade. Importa saber quais dados foram usados, que distorções foram toleradas, quem definiu o que seria otimizado e quem suporta o custo do erro.

A imagem do espelho, portanto, tem um limite. A IA não apenas reflete. Ela seleciona, combina, prioriza e passa a participar das decisões. Um espelho algorítmico pode alterar o ambiente que pretende representar.

Essa é uma das razões pelas quais a ética não pode entrar no fim do processo, como correção posterior ou peça de comunicação. Ela precisa aparecer na definição do problema, no desenho do sistema, nos testes, na possibilidade de contestar resultados e na atribuição clara de responsabilidade. Engenheiros e cientistas de dados são indispensáveis, mas não deveriam trabalhar sozinhos. Juristas, filósofos, sociólogos, artistas, especialistas no domínio e pessoas afetadas pela tecnologia enxergam riscos e valores que não aparecem numa métrica de desempenho.

Narrativas em disputa

O debate sobre IA é atravessado por histórias: a máquina inevitável, o assistente perfeito, o trabalhador obsoleto, a superinteligência salvadora ou destruidora. Essas narrativas não são apenas maneiras de explicar a tecnologia. Elas orientam investimentos, legitimam pressa, distribuem medo e estreitam as alternativas que conseguimos imaginar.

Reivindicar nossas narrativas, nesse contexto, não significa substituir uma propaganda pessimista por outra otimista. Significa perguntar quem aparece como sujeito do futuro e quem é tratado como obstáculo; quais valores são apresentados como inevitáveis; que interesses desaparecem quando uma decisão empresarial é descrita apenas como avanço técnico.

O storytelling tem um papel aí, mas não como maquiagem. Sua função é tornar visíveis as escolhas escondidas sob a aparência de neutralidade e permitir que mais pessoas participem da imaginação do futuro que terão de habitar.

Não leio a posição do Vaticano como condenação da inteligência artificial. A própria Magnifica humanitas reconhece possibilidades valiosas da técnica. O ponto é outro: mais poder exige mais discernimento, e nenhuma ampliação de capacidade elimina a pergunta sobre o bem a que ela serve.

Isso nos obriga a examinar cada adoção concreta: o propósito do sistema, quem se beneficia, quem pode ser prejudicado, a possibilidade de compreender e contestar o resultado, a responsabilidade por eventuais falhas e a proporção entre o ganho de eficiência e seus custos humanos, sociais ou ambientais.

Essas questões não pertencem apenas ao Vaticano, aos laboratórios ou às diretorias de grandes empresas. Elas aparecem sempre que uma escola escolhe como usar IA, uma organização automatiza uma decisão, um profissional delega uma análise ou uma pessoa aceita uma resposta sem verificar como ela foi produzida.

A inteligência artificial nos força a discutir o que entendemos por inteligência, trabalho, autonomia e dignidade. A contribuição mais importante do chamado de Leão XIV talvez esteja justamente em recusar que essas definições sejam deixadas apenas nas mãos de quem constrói ou controla a infraestrutura. A tecnologia pode ampliar nossas possibilidades. A responsabilidade por escolher entre elas continua sendo nossa.