Diante do paradigma tecnocrático, de uma cultura que se organiza em torno do exercício do poder, entendido como pura dominação, Leão XIV, na Magnifica humanitas, retoma os princípios da Doutrina Social da Igreja, atualizando-os para a era da IA e orientando-nos no caminho da ‘civilização do amor’.
Vatican Media
Os princípios da Doutrina Social ajudam-nos a interpretar esta nova realidade. Em um mundo em que poucos sujeitos concentram dados, capital computacional e capacidade normativa, falar de bem comum significa desmascarar esta nova assimetria epistémica, econômica e política, dando nome aos novos monopólios da inteligência artificial (IA). Falar de destinação universal dos bens significa encontrar formas de garantir o acesso universal às tecnologias e à formação. Falar de subsidiariedade é pedir que se proteja a capacidade de as comunidades escolherem e corrigirem, sem relegar a sua intervenção a uma mera vigilância, depois das normas terem sido definidas em outro local. Falar de solidariedade obriga a reconhecer o trabalho invisível, frequentemente explorado, que alimenta os modelos algorítmicos. Falar de justiça impõe questionar as geografias do poder que definem quem pode treinar os modelos e quem é apenas objeto de treino, e reconhecer que a justiça social não é apenas um objetivo a proteger após a adoção das tecnologias, mas uma condição prévia, a ser posta em prática no seu próprio projeto (MH 109).
Ética e responsabilidade. Para que a IA respeite a dignidade humana e sirva verdadeiramente ao bem comum, é essencial que as responsabilidades sejam claras em todas as etapas: desde quem concebe e treina os sistemas até quem os utiliza e decide confiar-lhes escolhas concretas. Em muitos casos, contudo, os processos internos que conduzem a um resultado podem ser pouco transparentes, o que torna mais difícil atribuir responsabilidades e corrigir erros. É aqui que se torna decisivo o que chamamos accountability: a possibilidade de identificar quem deve “prestar contas” das decisões, motivá-las, controlá-las e, quando necessário, contestá-las, reparando os danos daí decorrentes (Antiqua et nova, AetN 44-45) […] Não basta invocar genericamente a ética: são necessários quadros jurídicos adequados, vigilância independente, educação dos utilizadores, uma política que não renuncie à sua missão (MH 105-106).
Não podemos limitar-nos a invocar a moralização da máquina, o chamado ‘‘alinhamento’’ da IA com os valores humanos, sem termos a coragem de impor uma condição adicional: a possibilidade de discutir o código ético a ser utilizado, submetendo-o a critérios de justiça social partilhada […] Não precisamos de uma IA mais moral, se esta moral for decidida por poucos (MH 107).
Desarmar a IA. Gostaria de utilizar uma palavra que me é cara: ‘‘desarmar’’. Desarmar a IA significa subtraí-la à lógica da competição armada, que hoje não é apenas militar, mas também econômica e cognitiva […] Desarmar significa quebrar esta equivalência entre poder técnico e direito de governar. Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano. Significa retirá-la dos monopólios, torná-la discutível, contestável e, portanto, habitável, devolvendo-a à pluralidade das culturas humanas e das formas de vida (MH 110).
Dirijo um apelo especial àqueles que desenvolvem as inteligências artificiais. A inovação tecnológica pode ser, em certo sentido, uma forma humana de participar no ato divino da criação. Portanto, os programadores assumem um particular peso ético e espiritual, pois cada escolha feita no projeto expressa uma visão da humanidade. Tal como o autor de uma obra artística ou literária é responsável por ponderar os valores que ela expressa, também eles são chamados a tratar com a devida seriedade os valores que infundem nos seus projetos: com transparência, com responsabilidade em relação às comunidades envolvidas e com a atenção necessária em confirmar que o que está a ser cultivado é efetivamente um bem (MH 111).
O verdadeiro “mais que humano”. A expressão ‘‘mais que humano’’ não pertence apenas à linguagem das promessas da tecnologia. Há séculos que a tradição cristã afirma que o ser humano não está confinado aos limites da própria natureza, mas é chamado a transcender-se a si mesmo: não para fugir da realidade ou por desprezo dos limites, mas para se realizar no amor. A fé conhece um ‘‘além’’ que nasce do dom de Deus. Esta transformação é obra do Espírito Santo […] ‘‘Se alguém está em Cristo, é uma nova criação. O que era antigo passou; eis que surgiram coisas novas’’ (2 Cor 5,17).
Como explicava o Papa Francisco, “chegamos a ser plenamente humanos, quando somos mais do que humanos, quando permitimos a Deus que nos conduza para além de nós mesmos a fim de alcançarmos o nosso ser mais verdadeiro” (EG 8). Aqui reside a diferença radical em relação aos sonhos prometeicos: o que salva o ser humano não é a autossuficiência aperfeiçoada, mas uma relação que li-berta, uma comunhão que transforma (MH 127-128).
Duas cidades e dois amores. A questão decisiva continua a ser a que indicou São João Paulo II: a IA torna “a vida humana sobre a terra, em todos os seus aspectos, ‘mais humana’? Torna-a mais ‘digna do homem’?’’ (Redemptor hominis, RH 15). Se a resposta for “sim”, então podemos reconhecer nela uma boa possibilidade a ser vivida com responsabilidade, em um caminho de reconstrução paciente e partilhada […] Questionar-nos sobre essa alternativa de progresso e sobre o nosso modo de o interpretar e viver, no fundo significa sempre questionar-nos também sobre o nosso coração. Com efeito, a forma como pensamos e estruturamos as relações, o trabalho e as instituições, revela os nossos valores fundamentais e, em última análise, nasce daquilo que nos é mais caro. É um amor que nos guia: o que, como indivíduos e como sociedade, amamos verdadeiramente, orienta a nossa vida e ações. Santo Agostinho descreve a história humana como um campo de batalha entre dois amores, que construíram duas formas de habitar o mundo e de conviver, duas “cidades”: Por um lado, o amor a Deus e ao próximo; por outro, o amor exclusivo a si mesmo. “Dois amores fizeram as duas cidades: o amor de si até o desprezo de Deus – a terrestre; o amor de Deus até o desprezo de si – a celeste” (De civitate Dei, XIV, 28). Como em toda a história humana, também hoje estes dois amores lutam no nosso coração pelo predomínio (MH 129-130).
Responsabilidade e oração. John R.R. Tolkien […] por meio das palavras do protagonista de um romance seu, descreveu assim a nossa responsabilidade: ‘‘Não nos compete dominar todas as marés do mundo, mas, sim, fazer o que nos for possível para ajudar os anos em que estamos inseridos, erradicando o mal nos campos que conhecemos para que quem viver depois possa ter terra limpa para cultivar’’ (O Senhor dos Anéis: O Retorno do Rei, Livro V, Cap.9). A civilização do amor não nasce de um gesto único e espetacular, mas de uma soma de pequenas e tenazes fidelidades, que travam a desumanização (MH 213).
Estas pistas de ação nutrem-se da oração e alimentam-na. Com efeito, para nós, a paz “vem de Deus, do Deus que nos ama a todos incondicionalmente” (Primeira bênção Urbi et Orbi, 8/mai/ 2025). É um dom entregue por Jesus aos seus discípulos no dia da Páscoa: “A paz esteja convosco! Esta é a paz de Cristo Ressuscitado, uma paz desarmada e uma paz desarmante, que é humilde e perseverante” (idem). Com estas palavras, saudei a Igreja e o mundo no dia da minha eleição para o sólio de Pedro, e desejo repeti-las, convidando todos a pedir este dom. Não nos cansemos de rezar pela paz e de nos empenharmos para a concretizar nas nossas relações e na sociedade (MH 228).
O falso realismo político e a história que mostra esperança. Vivemos em uma época de notável cegueira espiritual e cultural […] Mesmo quem invoca grandes princípios morais pode cair neste niilismo histórico, iludindo-se com a ideia de que as atrocidades do século XX não se podem repetir […] Por trás de tudo isto está um falso “realismo”, baseado não só na lógica dominante da força, mas também em uma convicção cultural e antropológica, como se a guerra fosse inevitavelmente parte da natureza humana […] Verdadeiramente irresponsável é a Realpolitik, esta forma de “realismo” político, que […] qualifica a paz e o diálogo como posições utópicas ou irracionais, que ignoram os riscos em jogo. Pelo contrário, a paz não é uma esperança ingênua nem apenas uma ausência de guerra: é o fruto, sempre possível, da justiça e da caridade. Neste clima […] extremismos religiosos e fanatismos identitários aliam-se a um economicismo irracional, enquanto a política recorre com facilidade à desinformação, à ridicularização do adversário e à construção sistemática de medos e ressentimentos (MH 204-206).
A história não se apresenta apenas como o catálogo das nossas violências, mas como a prova de que o ser humano é capaz de criar instituições capazes de proteger a vida em comum. Vemos isso em alguns marcos emblemáticos dos últimos dois séculos: o nascimento do Comitê Internacional da Cruz Vermelha (1863); o longo processo que conduziu à abolição da escravatura; a fundação da Organização das Nações Unidas (1945) e a Declaração Universal dos Direitos Humanos (1948), que estabeleceram uma linguagem comum para afirmar, pelo menos como ideal partilhado, que a dignidade é universal (MH 123).
Alguns acontecimentos ajudam a ver que a história pode mudar quando mesmo um só homem ou mulher leva realmente a sério a dignidade de todos: o movimento pelos direitos civis nos Estados Unidos, ligado também ao testemunho de Martin Luther King Júnior, ou o fim do apartheid na África do Sul após a libertação de Nelson Mandela e a sua decisão de não entregar ao ódio o futuro. Em contextos diferentes [… temos muitos outros testemunhos, tais como:] Santa Laura Montoya, Santa Teresa de Calcutá, Dorothy Day, Marie Skłodowska-Curie, Maria Montessori, Elisabeth Elliot, Wangari Maathai, Benazir Bhutto, São Maximiliano Maria Kolbe, São Oscar Romero, o Beato Enrique Angelelli e o Venerável François-Xavier Nguyễn Văn Thuận. E, sobretudo, os “mártires do cotidiano” que cuidam, educam, acompanham e consolam sem alarde […] Por isso, a humanidade – magnífica e ferida – não deve ser substituída nem superada: pode acolher os progressos da técnica para aliviar os sofrimentos e abrir novas possibilidades, desde que não renuncie ao que lhe permite ser ela mesma, ou seja, a capacidade de relação e de amor (MH 124-126).
