Sob a lógica do paradigma tecnocrático e do poder digital

Vivemos em um tempo dominado por um paradigma tecnocrático, em que o poder parece dar a última palavra sobre o ser humano. A tecnologia promete libertar e, simultaneamente, ameaça subjugar. Magnifica humanitas, sem recusar o progresso, convida a discernir: qual humanidade estamos construindo? 

Na encíclica Laudato si’ (LS), o Papa Francisco denunciava a crescente afirmação de um paradigma tecnocrático no mundo globalizado: a tendência de deixar que a lógica da eficiência, do domínio e do lucro governe por si só as escolhas pessoais, sociais e econômicas (cf. LS 106-109). A técnica não é um mero instrumento e, quando se torna critério, acaba por determinar o que é importante e o que pode ser descartado, reduzindo a criação a objeto de exploração e as pessoas a engrenagens de um sistema que quer ser sempre mais eficiente (Magnifica humanitas, MH 92).

Este paradigma tem-se expandido rapidamente nos últimos anos, devido também à difusão da inteligência artificial, das ciências cognitivas, da nanotecnologia, da robótica e da biotecnologia […] Mas, devido ao seu poder, podem agir como um acelerador do paradigma tecnocrático e, por isso, necessitam de um novo enquadramento espiritual, ético e político […] Neste sentido, as palavras de Romano Guardini continuam surpreendentemente atuais: “O homem moderno não está educado para usar corretamente o seu poder” (O fim dos tempos modernos. Lisboa: Morais Editora, 1964, p. 103) […] O progresso técnico, em si precioso, exige um discernimento sobre a visão antropológica que o orienta e sobre os fins que persegue. Se o desenvolvimento tecnológico avança sem uma maturação ética e social adequada, pode acontecer que os meios aumentem sem que a humanidade cresça na mesma medida: “tem-se mais”, mas não “se é mais” e a pessoa corre o risco de ser avaliada sobretudo com base no desempenho que garante (MH 93-94).

A inteligência artificial (IA). Que se evite o equívoco de equiparar a “inteligência” artificial à humana. Estes sistemas imitam algumas funções da inteligência humana [… Mas seu] poder permanece exclusivamente ligado ao tratamento de dados: as ditas inteligências não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade. Nem sequer possuem uma consciência moral: não julgam o bem e o mal, não captam o sentido último das situações, não assumem sobre si o peso das consequências. Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio (MH 99).

A rapidez e a simplicidade com que podem obter orientações, processamentos complexos, conteúdos midiáticos e formas de assistência concreta simplificam as nossas vidas, mas também podem habituar-nos a delegar em demasia e a procurar respostas prontas, enfraquecendo a própria opinião e a criatividade […] A imitação artificial de uma comunicação humana positiva – palavras de conselho, empatia, amizade, amor – pode revelar-se gratificante e até útil, mas, em utilizadores pouco conscientes, pode induzir em erro e criar a ilusão de estarem em relação com um sujeito pessoal autêntico. Quando a palavra é simulada, mas não encarnada, ela não constrói uma relação, mas sim uma aparência dela (MH 100).

Responsabilidade e IA. O uso da IA nunca é uma questão puramente técnica: ao interferir em processos que afetam a vida das pessoas, ela incide sobre direitos, oportunidades, reputação e liberdade […] Nestes processos, o que se perde não é apenas a empatia para com o excluído – que pode ser imitada artificialmente – mas a responsabilidade política, porque o descarte dos fracos é revestido de neutralidade e objetividade, perante as quais é impossível protestar. E, assim, a injustiça torna-se silenciosa e desaparecem do horizonte a compaixão, a misericórdia e o perdão, não como mera aparência, mas como gestos políticos (MH 102-103).

O risco não é apenas o do mau uso de algumas tecnologias, mas que o paradigma tecnocrático em que estamos imersos, potencializado pela revolução digital e pela IA, faça parecer justa e normal uma visão anti-humana, segundo a qual a plenitude da vida consistiria em possuir mais, em reduzir a fragilidade, eliminar o imprevisto e controlar tudo. Quando a eficiência se torna a medida do valor, o ser humano é tentado a pensar-se como um projeto a otimizar, mais do que como uma criatura chamada à relação e à comunhão […] O poder técnico, se não for equilibrado, não nos torna mais capazes: torna-nos mais sós e mais expostos a lógicas de domínio e de exclusão. Não se trata, evidentemente, de se opor à inteligência, mas de recordar que esta, quando se fecha em si mesma, esquece ter sido feita para servir à vida e à pessoa humana (MH 112-113).

Transumanismo e pós-humanismo. Na tentativa de evidenciar os pressupostos culturais que acompanham a revolução digital em curso, gostaria agora de focar algumas correntes que interpretam o progresso como uma superação do humano e que podem ser agrupadas sob os nomes de transumanismo e pós-humanismo, pano de fundo ideológico que está presente em alguns centros de poder tecnológico e coloniza o imaginário coletivo de forma simplificada […] com uma visão futurista do “homem aperfeiçoado” ou do “homem hibridado” com a máquina (MH 115).

O transumanismo, em linhas gerais, imagina um aperfeiçoamento do ser humano por meio das tecnologias (biomedicina, engenharia corporal, dispositivos, algoritmos), aspirando a aumentar o seu desempenho e capacidades. O pós-humanismo, sobretudo nas suas versões radicais, vai além: critica o antropocentrismo e propõe uma forma de hibridação entre o ser humano, a máquina e o ambiente, chegando a imaginar uma transição em que a humanidade se superará a si própria, entrando em um novo estágio de evolução […] Mas se o ser humano for tratado como matéria a aperfeiçoar ou a ultrapassar, é então mais fácil aceitar que alguns sejam considerados menos úteis, desejáveis e dignos. Em nome do progresso, pode chegar-se a imaginar ‘‘sacrifícios necessários’’ e a fazer com que os mais frágeis paguem o preço de uma suposta otimização da espécie. […] Uma coisa é integrar as tecnologias em uma visão humana e relacional; outra é deixar-se guiar por um imaginário que desvaloriza os limites e promete uma ‘‘salvação’’ puramente técnica (MH 116).

Verdade e poder, democracia e educação. No contexto digital, o controle das plataformas, das infraestruturas, dos dados e da capacidade de computação não é prerrogativa dos Estados, mas sim de grandes sujeitos econômicos e tecnológicos que, na prática, estabelecem as condições de acesso, as regras de visibilidade e as próprias possibilidades de participação. Quando um poder desta magnitude se concentra na mão de poucos, ele tende a tornar-se opaco e a fugir ao controle público, aumentando o risco de um desenvolvimento distorcido que gera novas dependências, exclusões, manipulações e desigualdades (MH 95).

Quem detém o controle das plataformas digitais e dos meios de comunicação possui uma enorme capacidade de influenciar o imaginário coletivo e de apresentar como desejável uma determinada visão da realidade. É um poder que exige ser continuamente iluminado pela busca da verdade e pelo respeito pela dignidade humana, para que a cultura que se gera na rede não se torne um instrumento de distração excessiva, de homogeneização e de domínio, mas um espaço em que possam amadurecer a liberdade interior e o pensamento crítico (MH 136).

Ferramentas que poderiam favorecer o debate e a participação são frequentemente utilizadas para construir narrativas distorcidas e anular as distinções entre o verdadeiro e o falso, misturando dados e opiniões. A desinformação não surge com a IA, embora nela encontre hoje um poderoso multiplicador […] O desinteresse pela verdade leva, lenta, mas inexoravelmente, a deslizar para o totalitarismo (MH 132).

Se não estivermos atentos, pode formar-se um sistema educativo desprovido de amor à verdade, no qual o fluxo incessante de informações substitui o exercício de investigação, reflexão e discernimento […] É necessário promover uma verdadeira higiene da atenção: ritmos que prevejam silêncio, estudo aprofundado, leitura, debate ponderado. Sem estes elementos, a liberdade interior pode ficar comprometida (MH 146).

Não se devem subestimar as formas mais sutis de dependência ligadas à economia digital da atenção, na qual plataformas e serviços são concebidos para captar o tempo e o olhar dos usuários, explorando as suas fragilidades e enfraquecendo a liberda-de interior. É urgente promover uma utilização das tec-nologias que reforce a liberdade interior: educação para a sobriedade digital, proteção dos menores e combate a modelos que prosperam à custa da vulnerabilidade (MH 170).

IA e trabalho. O entrecruzar-se de automação, robótica e IA está transformando rapidamente a própria estrutura do trabalho […] As ‘‘novas formas’’ de trabalhar não são necessariamente melhores: os trabalhadores são frequentemente obrigados a adaptar-se à velocidade e às exigências das máquinas, podendo ser desqualificados, submetidos à vigilância automatizada e relegados a funções rígidas e repetitivas. Para evitar isso, é necessário conceber sistemas centrados na pessoa e não apenas no desempenho (MH 150).

São João Paulo II recordou que o desemprego é um mal grave […] que interpe-la de modo especial a res-ponsabilidade do Estado (Laborem exercens, LE 18). Hoje, na ‘‘quarta revolução industrial’’, esta preocupação torna-se mais premente, uma vez que a inovação é, frequentemente, entendida em função apenas da redução dos custos e do aumento dos lucros […] Uma sociedade que só garantisse emprego a uma pequena parte da população exporia muitos a uma condição de inatividade forçada, de ausência de responsabilidades, de falta de compromissos e estímulos diários, com consequente empobrecimento humano e cultural, em contraste com o elevado nível de desenvolvimento técnico. Por isso, a Doutrina Social da Igreja insiste que o acesso de todos ao trabalho deve continuar a ser um objetivo prioritário das políticas públicas e dos processos econômicos (MH 151-154).

Tempos de guerra. Se olharmos para as dinâmicas mundiais, reconhecemos cada vez mais claramente a expansão de uma cultura do poder, feita de polarizações e violências […] A guerra é preparada culturalmente por meio de narrativas simplistas, lógicas de amigo-inimigo, desinformação e medo. É neste clima que a humanidade se encontra a resvalar para a cultura violenta do poder, em que a paz já não aparece como uma tarefa a assumir, mas como um intervalo precário entre conflitos. Hoje, mais do que nunca, é importante reafirmar que foi superada a teoria da ‘‘guerra justa’’, invocada com demasiada frequência para justificar qualquer guerra, mantendo-se o direito à legítima defesa entendida no sentido mais estrito (cf. FT 258). Para enfrentar os conflitos, a humanidade dispõe de instrumentos muito mais eficazes e capazes de promover a vida humana, como o diálogo, a diplomacia e o perdão (MH 185-192).

Fala-se por vezes de ‘‘agentes morais artificiais’’, como se uma máquina pudesse garantir, com maior coerência do que um ser humano, a distinção entre o bem e o mal. Ora, o juízo moral não se reduz a um cálculo: implica consciência, responsabilidade pessoal e reconhecimento do outro como pessoa. Por isso, não é lícito confiar a sistemas artificiais decisões letais ou, de qualquer forma, irreversíveis. Não existe algoritmo que possa tornar a guerra moralmente aceitável. A IA não retira ao conflito a sua intrínseca desumanidade: apenas o torna mais rápido e impessoal, baixando o ônus do recurso à violência e transformando a defesa em previsão operacional, com as vítimas reduzidas a dados (MH 198).

No limite e na fraqueza, a sabedoria. A nossa relação com a vida parece estar hoje em crise. Tudo o que se apresenta como “limite” – incapacidade, doença, velhice, sofrimento, vulnerabilidade – tende a ser interpretado, antes de mais, como um defeito a corrigir, e não como um espaço em que o humano amadurece e se abre à relação. Em vez disso, devemos recordar que o humano não floresce apesar dos limites, mas, muitas vezes, por meio dos limites […] É precisamente na nossa limitação que encontram espaço a compaixão, a sincera preocupação perante as necessidades dos outros, a generosidade que surpreende mesmo no meio da escuridão e do fracasso, a experiência espiritual e a adoração de Deus. Vemo-lo em tantos momentos em que os limites se tornam concretos na nossa vida, quando somos rejeitados, quando sofremos por causa da doença ou da morte de uma pessoa amada, quando experimentamos o sentimento de impotência ou o fracasso. Misteriosamente, é precisamente nestas adversidades que podemos encontrar uma sabedoria nova, tocar com as próprias mãos o carinho das pessoas e experimentar diversamente a presença do Senhor (MH 118-119).