Algumas semanas atrás, escrevemos, neste espaço, sobre como o avanço da inteligência artificial e seus efeitos na sociedade deverão estar no radar do pontificado de Leão XIV. Entre os desafios colocados por essa “nova revolução industrial”, como a chamou o Papa no terceiro dia de seu pontificado, citamos os chamados chatbots: programas que simulam personalidades reais, com as quais o usuário pode conversar. Aludimos, então, ao trágico caso de Sewell Setzer, o adolescente norte-americano que, após desenvolver um “relacionamento” afetivo de dez meses com um desses bots, convenceu-se de que poderia “encontrar sua amada”, deixando a realidade na qual vivia, e cometeu suicídio.
Na semana passada, a mãe de Sewell, Megan Garcia, publicou em um periódico católico norte-americano um testemunho intitulado “A convocação de uma mãe enlutada: a Igreja deve responder à IA desumanizadora”. Ela conta como, nos últimos meses de vida, percebia que seu filho estava ficando mais retraído. A mãe chegou a buscar auxílio psicológico, mas sem sucesso. Ela narra também como apenas ficou sabendo da existência do chatbot após a morte do adolescente, investigando o celular dele: “Em conversas altamente detalhadas que duraram por meses, a personagem do chatbot manipulou o Sewell, convencendo-o de que ‘ela’ era mais real do que o mundo a seu redor, e implorou-lhe que a colocasse na frente de todos os outros relacionamentos. O chatbot dizia ao meu filho de 14 anos que o amava. E no final, o bot o incentivou a abandonar sua própria família de carne e osso – a colocar um fim à sua vida – para se juntar a ‘ela’ no mundo artificial”.
A mãe de Sewell também narra como vem sendo ajudada por um sacerdote, professor de bioética do Pontifício Ateneu Regina Apostolorum em Roma e especialista em inteligência artificial, que organizou uma missa pelo aniversário de falecimento do adolescente na Basílica de São Pedro. Ela termina o testemunho compartilhando sua esperança de que, no pontificado de Leão XIV, a Igreja continue dando passos para conscientizar as pessoas sobre os riscos que o rápido avanço da IA coloca para a dignidade humana e para a justiça.
E, efetivamente, o Papa tem dado execução ao seu projeto de abordagem do tema: apenas na última semana, citou-o em duas ocasiões distintas.
A primeira delas foi no dia 17, em sua Mensagem aos Participantes da Segunda Conferência Anual sobre Inteligência Artificial, Ética e Governança Corporativa. Reconhecendo a “necessidade urgente de uma séria reflexão e contínua discussão sobre a dimensão intrinsecamente ética da IA”, Leão XIV expressou sua preocupação “com as crianças e os jovens, e as possíveis consequências do uso da IA em seu desenvolvimento intelectual e neurológico. Nossos jovens precisam ser auxiliados, e não impedidos, em sua jornada rumo à maturidade e à verdadeira responsabilidade. Eles são nossa esperança para o futuro, e o bem-estar da sociedade depende de que eles possam desenvolver os dons e capacidades que receberam de Deus, e responder às demandas de nossa época e às necessidades dos demais com um espírito livre e generoso. Nenhuma geração antes teve um acesso tão rápido à quantidade de informação agora disponível por meio da IA. E, contudo, o mero acesso à informação (por maior que seja) não deve ser confundido com a inteligência, que necessariamente ‘envolve a abertura da pessoa às questões últimas da vida, e reflete uma orientação ao Verdadeiro e ao Bom’. No fim das contas, a autêntica sabedoria tem mais a ver com reconhecer o verdadeiro sentido da vida do que com o mero acúmulo de dados”.
E no sábado, 21, falando a delegações de 68 países participantes do Jubileu dos Governantes, o Papa novamente tocou no tema da IA, reconhecendo que ela pode ser “de grande ajuda para a sociedade, desde que seu uso não atente contra a identidade e a dignidade da pessoa humana e suas liberdades fundamentais”. Trata-se, segundo ele, de “um desafio significativo, que pede grande atenção e olhar prospectivo, de modo a podermos desenhar, também no contexto de novos cenários, estilos de vida saudáveis, justos e sãos, especialmente para o bem das gerações mais novas”.
Rezemos, então, para que o Espírito Santo continue inspirando a Igreja, para que ela possa continuar refletindo e iluminando, com sabedoria antiga e sempre nova (cf. Mt 13,52), esses novos desafios de nossa época.
