O Papa Francisco, em sua mensagem para o Dia Mundial da Paz de 2024*, nos lembra de que a inteligência é um dom de Deus, que se manifesta na ciência e na tecnologia – mas que deve ser usada com respeito à dignidade humana e buscando servir ao bem comum.
A Sagrada Escritura atesta que Deus deu aos homens o seu Espírito a fim de terem “sabedoria, inteligência e capacidade para toda a espécie de trabalho” (Ex 35,31). A inteligência é expressão da dignidade que nos foi dada pelo Criador, que nos fez à sua imagem e semelhança (cf. Gn 1,26) e nos tornou capazes, por meio da liberdade e do conhecimento, de responder ao seu amor. Esta qualidade fundamentalmente relacional da inteligência humana manifesta-se de modo particular na ciência e na tecnologia, que são produtos extraordinários do seu potencial criativo […] Assim, o próprio progresso da ciência e da técnica – na medida em que contribui para uma melhor organização da sociedade humana, para o aumento da liberdade e da comunhão fraterna – leva ao aperfeiçoamento do homem e à transformação do mundo.
Justamente nos alegramos e nos sentimos reconhecidos pelas extraordinárias conquistas da ciência e da tecnologia, graças às quais se pôs remédio a inúmeros males que afligiam a vida humana e causavam grandes sofrimentos. Ao mesmo tempo, os progressos técnico-científicos, que permitem exercer um controle – até agora inédito – sobre a realidade, colocam nas mãos do homem um vasto leque de possibilidades, algumas das quais podem constituir um risco para a sobrevivência humana e um perigo para a Casa Comum (Laudato si’, LS 104).
Desse modo, os progressos notáveis das novas tecnologias da informação, sobretudo na esfera digital, apresentam oportunidades entusiasmantes, mas também graves riscos, com sérias implicações na prossecução da justiça e da harmonia entre os povos. Por isso, torna-se necessário interrogar-nos sobre algumas questões urgentes: quais serão as consequências, a médio e longo prazos, das novas tecnologias digitais? E que impacto terão elas sobre a vida dos indivíduos e da sociedade, sobre a estabilidade e a paz?
O futuro da inteligência artificial, por entre promessas e riscos. Os progressos da informática e o desenvolvimento das tecnologias digitais, nas últimas décadas, começaram já a produzir profundas transformações na sociedade global e nas suas dinâmicas. Os novos instrumentos digitais estão a mudar a fisionomia das comunicações, da administração pública, da instrução, do consumo, dos intercâmbios pessoais e de inúmeros outros aspetos da vida diária. […]
Devemos recordar-nos de que a pesquisa científica e as inovações tecnológicas não estão desencarnadas da realidade nem são “neutras” (LS 114), mas estão sujeitas às influências culturais. Sendo atividades plenamente humanas, os rumos que tomam refletem opções condiciona das pelos valores pessoais, sociais e culturais de cada época. E o mesmo se diga dos resultados que alcançam: como fruto de abordagens especificamente humanas do mundo envolvente, têm sempre uma dimensão ética, intimamente ligada às decisões de quem projeta a experimentação e orienta a produção para objetivos particulares.
Isso se aplica também às formas de inteligência artificial. Desta, até o momento, não existe uma definição unívoca no mundo da ciência e da tecnologia. A própria designação, que já entrou na linguagem comum, abrange uma variedade de ciências, teorias e técnicas destinadas a fazer com que as máquinas, no seu funcionamento, reproduzam ou imitem as capacidades cognitivas dos seres humanos. Falar de “formas de inteligência”, no plural, pode ajudar sobretudo a assinalar o fosso intransponível existente entre estes sistemas, por mais surpreendentes e poderosos que sejam, e a pessoa humana: em última análise, aqueles são “fragmentários”, já que têm possibilidades de imitar ou reproduzir apenas algumas funções da inteligência humana. Além disso, o uso do plural destaca que tais dispositivos, muito diferentes entre si, devem ser sempre considerados como “sistemas sociotécnicos”. Com efeito, o seu impacto, independentemente da tecnologia de base, depende não só do projeto, mas também dos objetivos e interesses de quem os possui e de quem os desenvolve, bem como das situações em que são utilizados.
Por conseguinte, a inteligência artificial deve ser entendida como uma galáxia de realidades diversas e não podemos presumir, a priori, que o seu desenvolvimento traga um contributo benéfico para o futuro da humanidade e para a paz entre os povos. O resultado positivo só será possível se nos demonstrarmos capazes de agir de maneira responsável e respeitar valores humanos fundamentais como “a inclusão, a transparência, a segurança, a equidade, a privacidade e a fiabilidade” (Discurso aos participantes no Encontro dos Minerva Dialogues, 27/mar/2023).
E não é suficiente presumir, por parte de quem projeta algoritmos e tecnologias digitais, um empenho em agir de modo ético e responsável. É preciso reforçar ou, se necessário, instituir organismos encarregados de examinar as questões éticas emergentes e tutelar os direitos de quantos utilizam formas de inteligência artificial ou são influenciados por ela. […]
O sentido do limite no paradigma tecnocrático. O nosso mundo é demasiado vasto, variado e complexo para ser completamente conhecido e classificado. A mente humana nunca poderá esgotar a sua riqueza, nem sequer com a ajuda dos algoritmos mais avançados. De fato, estes não oferecem previsões garantidas do futuro, mas apenas aproximações estatísticas. Nem tudo pode ser previsto, nem tudo pode ser calculado; no fim de contas, “a realidade é superior à ideia” (Evangelii gaudium, EG 233) e, por mais prodigiosa que seja a nossa capacidade de calcular, haverá sempre um resíduo inacessível que escapa de qualquer tentativa de quantificação.
O risco é que os critérios subjacentes a certas escolhas se tornem menos claros, que a responsabilidade de decisão seja ocultada e que os produtores possam subtrair-se à obrigação de agir para o bem da comunidade
O respeito fundamental pela dignidade humana requer a rejeição de que a unicidade da pessoa seja identificada com um conjunto de dados.
Isso deve fazer-nos refletir sobre um aspecto transcurado frequentemente na atual mentalidade tecnocrática e eficientista, mas decisivo para o desenvolvimento pessoal e social: o “sentido do limite”. Com efeito, o ser humano, mortal por definição, pensando em ultrapassar todo o limite mediante a técnica, corre o risco, na obsessão de querer controlar tudo, de perder o controle sobre si mesmo; na busca de uma liberdade absoluta, de cair na espiral de uma ditadura tecnológica. Reconhecer e aceitar o próprio limite de criatura é condição indispensável para que o homem alcance ou, melhor, acolha a plenitude como uma dádiva; ao passo que, no contexto ideológico de um paradigma tecnocrático animado por uma prometeica presunção de autossuficiência, as desigualdades poderiam crescer sem medida, e o conhecimento e a riqueza acumular-se nas mãos de poucos, com graves riscos para as sociedades democráticas e uma coexistência pacífica.
Trechos da Mensagem do Papa Francisco para a celebração do Dia Mundial da Paz de 2024, Inteligência artificial e paz
