O Vaticano já enfrentou imperadores, reis, revoluções industriais, totalitarismos, rádio, televisão, internet e redes sociais. Ao longo de quase dois mil anos, Roma observou tecnologias transformarem a política, o trabalho, a cultura e a maneira como seres humanos se relacionam. Ao dedicar uma encíclica inteira à inteligência artificial, é porque suspeita que algo importante está mudando outra vez.
Magnifica Humanitas, de Leão XIV, saiu na sexta-feira 15 com quase 50 páginas que deveriam interessar até a quem nunca pisou numa igreja. O documento parte de uma pergunta que não costuma aparecer nos megaeventos de tecnologia: o que é que uma máquina não consegue fazer, nem que tente muito?
Receba nossas atualizações
O papa vai direto ao ponto. As inteligências artificiais “não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significa amor, trabalho, amizade, responsabilidade”. E mais: “não julgam o bem e o mal, não captam o sentido último das situações, não assumem sobre si o peso das consequências”.
Apenas imitam, sem de fato entender o que estão fazendo.
O texto papal faz uma distinção central: as IAs modernas são mais “cultivadas” do que “construídas”. O programador não projeta cada detalhe, mas cria uma arquitetura e a IA “cresce” a partir dela. O resultado prático disso é que “aspectos científicos fundamentais, como as representações internas e os processos computacionais destes sistemas, permanecem, por enquanto, desconhecidos”. Desconhecidos até para quem os construiu.
O documento vai mais a fundo: “Podem imitar linguagens, comportamentos, avaliações, podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio”. Quando um modelo de IA responde com calor e precisão a uma pergunta difícil, ele está reconhecendo padrões em bilhões de textos escritos por pessoas que passaram por situações parecidas. É muito diferente de entender a situação de quem pergunta.
+ Leia mais notícias de Tecnologia em Oeste
Isso seria um problema menor se a IA ficasse restrita a organizar planilhas. O papel dela cresceu. A encíclica identifica um risco concreto: “Decisões delicadas que dizem respeito ao trabalho, ao crédito, ao acesso a serviços e à reputação das pessoas correm o risco de ser confiadas inteiramente a sistemas automatizados que desconhecem a compaixão, a misericórdia, o perdão e, sobretudo, a abertura à esperança de mudança da pessoa”.
Um algoritmo que nega crédito ou elimina um currículo não tem como perceber que aquela pessoa atravessou uma crise, perdeu emprego por razões fora do seu controle ou está tentando recomeçar. Ele processa dados. Não lê vidas.
“Confiar, na prática, a um algoritmo o poder de selecionar quem merece ou não, sem que ninguém mais assuma o peso da decisão, significa confiar-lhe a tarefa de redefinir os limites das possibilidades humanas.”
E o que acontece quando isso se normaliza? “A injustiça torna-se silenciosa, e desaparecem do horizonte a compaixão, a misericórdia e o perdão, não como mera aparência, mas enquanto gestos políticos.” A máquina não decide te prejudicar, ela simplesmente não considera que você existe além dos seus dados.
Papa critica oligarquia tecnológica
O documento ainda toca num ponto que muita gente já intuiu, mas raramente viu escrito assim. “Os principais motores do desenvolvimento são sujeitos privados, frequentemente transnacionais, dotados de recursos e capacidades de intervenção superiores aos de muitos Governos.”
Quando você pede ao celular uma rota, quando recebe uma recomendação de vídeo, quando um chatbot escreve um texto em segundos, provavelmente está usando infraestrutura de um punhado de empresas. As mesmas que controlam o que aparece primeiro na sua busca e o que o seu feed decide mostrar ou esconder. A encíclica lembra que esse poder é difícil de questionar porque é privado. Governo você pode votar para trocar; plataforma digital você aceita os termos de uso, se é que você lê.
E há algo mais sutil aí. O controle, diz o papa, “não passa apenas por proibições explícitas, mas pela arquitetura da visibilidade: o que é amplificado ou tornado invisível, o que é premiado ou penalizado, acaba por moldar opiniões e escolhas, gerando conformismo e autocensura”. Não se trata necessariamente de proibição explícita. O efeito pode ser mais sutil: certos temas ganham alcance, outros perdem tração, alguns conteúdos desaparecem do radar sem que fique claro quem decidiu ou com base em quê.
Leia mais:
“Não precisamos de uma IA mais moral, se esta moral for decidida por poucos”, diz o papa, ao considerar que quem controla a IA “imporá a própria visão moral, que se tornará a infraestrutura invisível dos sistemas”. Parece uma discussão abstrata, mas não é: ela afeta o que você vê, lê, compra, acredita e até as oportunidades que aparecem na sua frente.
O texto é mais preciso no diagnóstico do que nas soluções. Pede “auditorias independentes, transparência sobre os algoritmos, acesso equitativo aos dados, instrumentos de recurso”. São pedidos razoáveis, mas o documento não explica como você impõe isso a empresas que operam em vinte países, cujos algoritmos são segredos comerciais protegidos por lei.
Perto do fim, a encíclica retoma uma pergunta de João Paulo II, feita em outro contexto mas que aqui encaixa como luva: a IA torna a vida humana sobre a Terra, em todos os seus aspectos, “mais humana”? “Torna-a ‘mais digna do homem’?” É uma pergunta sobre civilização antes de ser uma pergunta sobre tecnologia. O documento não pede para desligar os servidores; pede que alguém, em algum momento do processo, seja capaz de responder isso de verdade.
O papa não parece preocupado com o dia em que máquinas se tornarão humanas. O medo real é outro: o dia em que seres humanos começarem a agir como máquinas.
Leia também: “Já encomendou seu robô?”, artigo de Dagomir Marquezi publicado na Edição 264 da Revista Oeste
Entre ou assine para enviar um comentário.
Você precisa de uma assinatura válida para enviar um comentário, faça um upgrade aqui.