Logo no início, Magnifica humanitas apresenta uma imagem poderosa: a humanidade encontra-se diante de uma escolha entre construir uma nova “Torre de Babel” ou edificar uma cidade na qual Deus e a humanidade possam habitar juntos. A metáfora é atual porque coloca em discussão não apenas aquilo que somos capazes de construir, mas o mundo que estamos escolhendo construir. Essa distinção é essencial. A pergunta sobre a IA não deveria ser apenas “o que ela pode fazer?”. Deveríamos perguntar também: “Qual sociedade estamos construindo com aquilo que ela pode fazer?”
Magnifica humanitas não é um documento técnico sobre inteligência artificial (IA). Sua preocupação é mais profunda: trata daquilo que está por trás da tecnologia — a visão de ser humano, de sociedade e de futuro que orienta seu desenvolvimento e sua utilização.
A encíclica identifica um dos maiores riscos contemporâneos no chamado “paradigma tecnocrático”: a tendência de permitir que a lógica da eficiência, do domínio, do desempenho e do controle passe a determinar o que é importante na vida social.
O problema não é a eficiência em si. O problema aparece quando a eficiência deixa de ser um instrumento e se transforma em critério absoluto. Uma administração pública eficiente é desejável. Uma administração pública eficiente que viola direitos, porém, não é uma boa administração.
Uma tecnologia precisa ser rápida, mas não pode ser rápida a ponto de impedir o cidadão de ser ouvido. Um sistema pode reduzir custos, mas não pode reduzir a pessoa a um custo. Um algoritmo pode classificar informações, mas não pode classificar a dignidade humana.
A encíclica oferece, portanto, um critério simples e profundo: o desenvolvimento tecnológico precisa estar subordinado ao desenvolvimento humano integral.
Essa talvez seja uma das maiores questões da atualidade. Durante muito tempo, a humanidade associou progresso a aumento de poder técnico. Quanto mais conseguimos produzir, calcular, transportar, comunicar e controlar, mais avançada seria nossa sociedade.
A IA coloca essa equação diante de um novo desafio.
Podemos construir sistemas cada vez mais poderosos. Entretanto, poder não é sinônimo de sabedoria. Podemos processar mais informações, mas isso não significa necessariamente compreender melhor a realidade. Podemos tomar decisões mais rapidamente, mas velocidade não é sinônimo de justiça. A IA pode superar a inteligência humana em velocidade e capacidade de processamento em determinadas tarefas, mas não possui experiência vivida, consciência moral, liberdade, responsabilidade ou capacidade de compreender plenamente o significado humano de suas decisões. Essa distinção é decisiva para as políticas públicas.
Uma máquina pode identificar que determinado cidadão apresenta características estatísticas semelhantes às de um grupo com maior risco, mas não conhece integralmente sua história. Pode detectar uma inconsistência cadastral, mas não conhece a realidade daquela família. Pode sugerir uma prioridade médica, mas não experimenta a dor do paciente nem assume a responsabilidade moral pelo destino de uma pessoa.
É por isso que a decisão humana não pode desaparecer justamente nos pontos em que as consequências são mais graves. A Magnifica humanitas insiste na necessidade de responsabilidade, transparência e gestão ade-quada da inteligência artificial, sobretudo quando seus sistemas interferem em direitos e oportunidades.
Existe também uma dimensão econômica. A IA tende a concentrar poder em quem controla infraestrutura, dados e conhecimento especializado. A Magnifica humanitas alerta para o risco de concentração do poder digital e para a possibilidade de novas formas de dependência, exclusão e desigualdade.
Esse problema precisa ser levado a sério no Brasil. Se os países, empresas e instituições que controlam as tecnologias mais avançadas acumularem também o controle sobre grandes volumes de dados e sobre os mecanismos de decisão, poderemos assistir ao surgimento de uma nova forma de desigualdade: não apenas entre quem possui ou não recursos financeiros, mas entre quem possui capacidade de produzir, controlar e compreender tecnologia e quem apenas sofre seus efeitos.
Isso vale também dentro do próprio Estado. Uma pequena parcela de especialistas pode acabar concentrando conhecimento suficiente para compreender sistemas que a maioria dos gestores, advogados e cidadãos não consegue sequer auditar.
É preciso evitar uma nova “elite algorítmica”, cujo conhecimento técnico seja tão concentrado que se transforme em poder sem controle. A resposta passa por capacitação, transparência, governança pública, participação social e fortalecimento das instituições.
Eficiência sem justiça? Os riscos da inteligência artificial nas políticas públicas
Por Rodrigo Gastalho Moreira
Estado, IA e bem comum: quem dita o ritmo da tecnologia?
Por Francisco Borba Ribeiro Neto
7 diretrizes e atitudes para o uso ético da IA nas políticas públicas
Por Rodrigo Gastalho Moreira
