O uso da inteligência artificial (IA) na gestão pública será legítimo se ajudar a ampliar direitos, preservar o controle humano e colocar a dignidade de cada pessoa acima da eficiência dos algoritmos.
O princípio da supervisão humana. Uma das consequências mais importantes do debate sobre o uso da IA na gestão das políticas públicas é a necessidade de preservar o controle humano sobre decisões de alta relevância. Isso não significa que um servidor precise revisar manualmente cada cálculo realizado por uma máquina. Seria inviável.
Significa, porém, que deve existir uma estrutura institucional capaz de compreender o funcionamento do sistema, monitorar seus resultados, identificar erros e intervir quando necessário.
Uma recomendação automatizada para organizar documentos não pode ser tratada da mesma maneira que uma decisão capaz de negar um benefício essencial à sobrevivência de uma família. É preciso, portanto, estabelecer diferentes níveis de risco e diferentes níveis de controle.
A pergunta não deve ser apenas se determinada IA é tecnicamente segura. É preciso perguntar se o grau de autonomia concedido ao sistema é proporcional à importância do direito afetado.
O direito de saber e o direito de contestar. Nesse cenário, dois direitos ganham importância especial: o direito à explicação e o direito à contestação. A Administração Pública não pode dizer ao cidadão: “O computador determinou”. Essa resposta seria incompatível com a própria lógica do Estado democrático de direito. O cidadão tem direito a uma decisão estatal motivada — ainda que a tecnologia tenha participado de sua construção.
Subsidiariedade, participação e controle social. A Doutrina Social da Igreja acrescenta outro elemento importante: o princípio da subsidiariedade. Ele nos lembra de que decisões que afetam diretamente as pessoas não devem ser retiradas completamente das comunidades para serem concentradas em estruturas cada vez mais distantes.
Aplicado à era digital, esse princípio sugere que os cidadãos, profissionais, entidades da sociedade civil e instituições representativas precisam participar do debate sobre sistemas que interferem em suas vidas. Não basta desenvolver a tecnologia em um laboratório e depois simplesmente apresentá-la à sociedade como inevitável. É necessário construir mecanismos de participação para legitimação.
A dignidade não cabe em uma planilha. Existe uma tentação crescente de transformar tudo em dados. O cidadão vira um cadastro. O paciente vira um prontuário eletrônico. O trabalhador vira um indicador de produtividade. O estudante vira uma probabilidade de desempenho. A família vulnerável vira um conjunto de variáveis socioeconômicas.
Os dados são importantes. Mas a pessoa não se resume aos dados que conseguimos coletar sobre ela. Essa talvez seja a principal fronteira ética da IA.
Quanto mais conseguimos quantificar a realidade, maior é a tentação de acreditar que aquilo que não pode ser medido não existe. Mas a dignidade, a liberdade, a esperança, a solidariedade, a capacidade de recomeçar e a singularidade de cada trajetória humana não podem ser reduzidas a indicadores.
Uma sociedade verdadeiramente avançada é aquela que utiliza dados sem permitir que eles definam integralmente o valor de uma pessoa.
A pergunta que deveria orientar a inovação. A Magnifica humanitas propõe, em última instância, uma pergunta que deveria ser colocada no centro das políticas de IA: a tecnologia torna a vida humana mais humana e mais digna?
Essa é uma pergunta muito mais exigente do que perguntar se determinado sistema é eficiente. Porque uma tecnologia pode ser eficiente e injusta, e ao mesmo tempo precisa e discriminatória, pode ser rápida e arbitrária. Pode ser sofisticada e, ao mesmo tempo, incapaz de compreender aquilo que realmente importa.
Inteligência artificial a serviço do bem comum. Seria um erro, contudo, transformar esse debate em uma rejeição da tecnologia. A IA pode representar uma oportunidade extraordinária para o Brasil. Pode melhorar a gestão pública, reduzir desperdícios, combater fraudes, ampliar o acesso a serviços, apoiar políticas de saúde, aperfeiçoar a educação, prever demandas, melhorar a mobilidade urbana e tornar a Administração Pública mais responsiva.
Pode ajudar o Estado a identificar pessoas que hoje permanecem invisíveis às políticas públicas. A questão não é escolher entre tecnologia e humanidade. É escolher uma tecnologia orientada pela humanidade.
Nesse sentido, a Magnifica humanitas não apresenta uma visão tecnofóbica. Ao contrário, reconhece que ciência e técnica podem aliviar sofrimentos e abrir novas possibilidades. O que ela rejeita é a ideia de que todo avanço tecnológico seja automaticamente um avanço humano.
Advogados, magistrados, gestores públicos, engenheiros, cientistas de dados, especialistas em ética e representantes da sociedade civil precisam conversar mais. O desafio é multidisciplinar. Nenhum jurista, sozinho, compreenderá todos os aspectos técnicos de uma IA. Da mesma maneira, nenhum engenheiro deveria decidir sozinho quais são os limites éticos de uma tecnologia que afetará milhões de pessoas.
Talvez a maior ilusão da era da IA seja imaginar que o futuro será decidido pelas máquinas. Não será. O futuro continuará sendo decidido pelas pessoas que desenvolvem as tecnologias, pelas instituições que as adotam, pelos governos que as regulamentam e pelas sociedades que aceitam — ou não — seus resultados.
A IA não possui projeto político próprio. Ela será incorporada aos projetos políticos, econômicos e sociais daqueles que tiverem poder para utilizá-la. Por isso, a discussão sobre IA é, no fundo, uma discussão sobre poder. Quem controla os dados? A tecnologia não pode chegar primeiro e a ética depois.
Uma nova cultura de responsabilidade. O desafio que temos diante de nós exige uma mudança de cultura. Precisamos abandonar a ingenuidade (que toda inovação é necessariamente boa), e o medo que paralisa (que toda tecnologia representa uma ameaça). O caminho está no discernimento. É preciso confiar na ciência, sem transformar a ciência em uma nova forma de autoridade incontestável. É preciso utilizar algoritmos, sem transformar o algoritmo em autoridade moral.
No fundo, a questão central permanece: a IA será um instrumento de ampliação de direitos ou de sua restrição silenciosa? Não haverá política pública legítima baseada em IA sem governança ética, segurança jurídica, controle democrático e compromisso efetivo com a dignidade de cada pessoa.
