A era digital, embora tenha proporcionado um acesso sem precedentes à informação, também trouxe consigo a disseminação de desinformação e fake news. Neste cenário, a inteligência artificial (IA) surge como uma ferramenta poderosa para a busca e análise de informações confiáveis, desde que seja utilizada de maneira adequada e estratégica.
A inteligência artificial (IA) é um instrumento poderoso, tanto em termos de capacidade de análise quanto de criatividade. Pode nos fornecer, em minutos, um conjunto de informações que precisaríamos de semanas de pesquisa convencional para obter. Gostemos ou não, pela velocidade e abrangência de suas respostas, seremos cada vez mais forçados a usar este instrumento para nos informar e fazer pesquisas, sejam profissionais ou diletantes. Por outro lado, a IA pode criar um vídeo, totalmente falso, em que o Papa (na verdade, um “avatar”, feito pela IA, mas indistinguível do Papa real) faz declarações heréticas. As redes sociais estão sendo inundadas, cada vez mais, por informações falsas, mas aparentemente reais, criadas por IA. Como podemos, neste contexto, evitar sermos enganados?
Poderosa, mas não infalível. Os potenciais da IA são muito grandes. Derivam de sua capacidade de processar e sintetizar grandes volumes de informação, identificando padrões e extraindo conhecimentos de múltiplas fontes. Seu acesso, relativamente fácil, faz com que conhecimentos outrora circunscritos aos especialistas possam ser dominados por todos. Além disso, as IAs são capazes de “aprender”, isto é, identificar um determinado padrão lógico e replicá-lo, mesmo que não tenham sido inicialmente programadas para isso.
Contudo, elas podem apresentar uma série de falhas, algumas bem próximas do que se passa na inteligência dos seres humanos:
- Alucinações: como sua programação original determina que devem dar respostas ao usuário, podem inventar informações, compilando dados e combinando-os de formas que podem até obedecer a critérios lógicos, mas não correspondem à realidade;
- Vieses: como são inteligências “treinadas”, sob supervisão de programadores e acessando informações específicas para que “aprendam”, podem refletir os vieses presentes nos modelos e dados originais, afetando a precisão e a neutralidade dos resultados;
- Conhecimento limitado: dependem da informação disponível na internet. Se um conhecimento considerado de domínio público estiver errado, ou se foi revisto muito recentemente, as IAs não serão capazes de detectar que se trata de um conhecimento falso.
- Dificuldade em verificar a verdade da mesma forma, as IAs não podem checar, no mundo real, o que de fato está acontecendo. Considerarão verdadeiro o que é dado como verdadeiro na “nuvem digital” na qual obtêm informações; falso o que for dado por falso nesta nuvem.
Quem supervisiona o funcionamento da IA? As interfaces de IA, por mais que pareçam inteligentes e humanas, não são dotadas de vontade e liberdade. Fazem aquilo que seus programadores e usuários as ordenam fazer – mesmo que, com sua espantosa velocidade de processamento, cheguem a resultados totalmente inesperados. Para a maioria dos casos, os criadores querem que suas IA sejam eficientes, para serem mais acessadas e, assim, darem mais lucro a suas empresas. Contudo, existem mecanismos internos das IAs que podem levar a resultados distorcidos nas pesquisas. São casos que podemos chamar de autocensura ou censura algorítmica (porque os algoritmos utilizados nas pesquisas já trazem direcionamentos específicos) e viés ideológico programado (restrições e direcionamentos determinados por opções ideológicas do fabricante e/ou dos agentes reguladores).
Algumas vezes, esses mecanismos são necessários, para a segurança da sociedade como um todo e do próprio usuário. Alguns exemplos toscos: um adolescente, usando IA, não pode encontrar com a mesma facilidade um grupo de fãs de cinema e um grupo de adeptos de práticas sadomasoquistas; a construção de um explosivo caseiro não pode estar tão à mão quanto a confecção de um bolo de aniversário; conteúdos falsos, que caluniam, não deveriam ser tão acessíveis quanto informações verdadeiras. Garantir uma “regulação” ou uma “moderação de conteúdos”, que não seja censura, mas proteja os usuários, contudo, ainda é um tema polêmico e difícil…
O desafio está dentro de nós. Temos muito medo do poder de manipulação de consciências das mídias sociais – e esse medo tende a aumentar com o poder das IAs. Esquecemo-nos, contudo, de uma famosa admoestação do Evangelho: “Não há nada fora do homem que, nele entrando, possa torná-lo ‘impuro’. Pelo contrwário, o que sai do homem é que o torna ‘impuro’ […] Do interior do coração dos homens vêm os maus pensamentos, as imoralidades sexuais, os roubos, os homicídios, os adultérios, as cobiças, as maldades, o engano, a devassidão, a inveja, a calúnia, a arrogância e a insensatez. Todos esses males vêm de dentro e tornam o homem ‘impuro’” (Mc 7,15-23).
O grande poder das mídias atuais e da IA não vem de fazerem algo novo para manipular nossas consciências, mas sim de serem muito mais eficientes nesse processo. Trabalhando com uma quantidade enorme de dados, podendo fazer cruzamentos e análises antes impensáveis, conseguem nos levar a conclusões falsas ou contrárias às nossas convicções – mas usando nossas tendências humanas, nossas inclinações e opções ideológicas prévias. Manipulam-nos, dizendo-nos aquilo que queremos ouvir! Nesse processo, valem-se de tendências que existem em todos nós:
- O viés de confirmação ou familiaridade: tendemos a buscar e interpretar informações que confirmam nossas crenças. Os algoritmos da IA, conhecendo as pesquisas e sites que acessamos, “aprendem” a nos dar aquela informação que gostaríamos de receber – mesmo que ela não seja exatamente verdadeira. As fake news são frequentemente elaboradas para reforçar o que já acreditamos, tornando-nos mais propensos a aceitar novas informações que venham da mesma fonte. As IAs, tentando nos dar aquilo que queremos, nos tornam ainda mais vulneráveis a esses processos.
- Fatores emocionais e cognitivos: notícias falsas são criadas para evocar emoções fortes como medo, raiva ou indignação. Quando estamos em um estado emocional intenso, nossa capacidade de raciocínio crítico é reduzida, tornando-nos mais suscetíveis a acreditar e a compartilhar informações sem checagem. Além disso, tendemos a usar “atalhos mentais”, que nos permitem chegar a conclusões de modo mais simples e curto. As IAs não querem “nos enganar”, mas sabem que mensagens com maior apelo emocional e que dão respostas mais esquemáticas nos farão usá-las com mais frequência; assim, indiretamente, podem fazer com que aceitemos informações falsas ou distorcidas.
- Vulnerabilidade dos grupos: acreditamos mais em informações que vêm de nosso próprio grupo social ou político (nossa “tribo”) e desconfiamos de fontes externas, criando câmaras de eco que amplificam as notícias falsas. As IAs também “aprendem” a quais tribos pertencemos, em função das perguntas que fazemos e dos temas que buscamos. Com isso, nos darão respostas vindas das fontes que confiamos, deixando de lado outras fontes – apesar de uma das vantagens que procuraríamos nelas seria justamente a pesquisa em fontes que não conhecemos.
Buscar a verdade. O uso da IA depende, em grande parte, portanto, da forma como a usamos. Amamos a verdade ou procuramos apenas aquela informação que confirma nossas convicções? Diante das situações polêmicas e dos debates tão frequentes em nossos tempos, queremos a verdade que constrói o bem e a beleza ou a força para dominar nossos adversários? Por mais que essas perguntas pareçam distantes dos desafios da IA, são elas que determinam nossa capacidade de a usarmos bem, como fonte de conhecimento sobre o mundo.
Conhecendo seus limites e seu potencial, saberemos que ela nos fornece informações mais rapidamente, mas que essas informações precisam ser verificadas, com consultas criteriosas às fontes citadas, busca de posições divergentes, reflexão crítica e ponderada. Se conhecermos a verdade, ela nos libertará (cf. Jo 8,32) … Mas este conhecimento exige sempre um compromisso moral, um esforço sincero para superar as paixões, uma certa preguiça e a conivência com a mentalidade dominante que nos afastam da busca sincera da verdade.
