“O mundo mudou. Sinto isso na água. Sinto isso na terra. Sinto isso no ar. Muito do que existia se perdeu, pois não vive mais ninguém que se lembre disso.”
No famoso filme O Senhor dos Anéis: A Sociedade do Anel, a cena de abertura começa com o prólogo de Galadriel. Ela narra a forja dos Grandes Anéis: três para os Elfos, sete para os Senhores Anões, nove para a raça dos Homens, “que acima de tudo desejam poder”. Mas todos eles foram enganados, pois outro anel foi feito:
“Nas profundezas da terra de Mordor, nas chamas da Montanha da Perdição, o Senhor do Escuro Sauron forjou em segredo um Anel Mestre, para controlar todos os outros. E neste Anel ele derramou sua crueldade, sua malícia e sua vontade de dominar toda a vida. Um Anel para a todos governar.” (Jackson, 2001)
Decidi fazer uma breve pausa nos meus estudos de Inteligência Artificial. Quero refletir sobre o impacto dessas tecnologias na minha profissão e na forma como elas vêm redesenhando a minha realidade. Como engenheira de software, passo os meus dias resolvendo problemas e construindo sistemas com as melhores ferramentas tecnológicas à disposição na minha empresa. Mas, no meu tempo livre, busco o oposto: gosto de ler histórias, ouvir podcasts e assistir a filmes baseados em clássicos da literatura. Acredito que narrativas fincadas na sabedoria antiga carregam verdades universais que não podemos esquecer, ou que, no mínimo, precisamos nos esforçar para lembrar. Mas voltaremos a esse ponto mais adiante.
Ao longo dos últimos anos, e especialmente nos últimos dois, a corrida corporativa para adotar a IA se intensificou. Pelo mundo afora, organizações de todos os setores buscam maneiras de usar essas ferramentas para resolver problemas com mais rapidez, eficiência e menor custo. Não é meu intuito mapear cada aspecto dessa adoção que me causa apreensão. Em vez disso, continuo voltando a uma única pergunta: a quem, afinal, essas tecnologias servem?
Será que nos foram entregues anéis de poder e ficamos tão cativados por sua promessa que deixamos de reconhecer nossa incapacidade de controlá-los? Será que estamos tão cegos pela empolgação que ignoramos a possibilidade de que, sem sabedoria, virtude e bom discernimento, sistemas de IA cada vez mais poderosos possam contribuir para nossa própria ruína?
Não me entenda mal. Eu trabalho com tecnologia e amo o que faço. Uso ferramentas computacionais todos os dias, incluindo recursos de IA, para gerar valor para as pessoas que a minha empresa atende. Quando a tecnologia é desenvolvida como um meio para servir à humanidade, ela pode produzir benefícios extraordinários. Mas o oposto também é verdadeiro, e a Inteligência Artificial apresenta um desafio singular: até mesmo muitos de seus criadores reconhecem que não compreendem plenamente as implicações de longo prazo daquilo que estão construindo.
Isso, por si só, já deveria nos encorajar a fazer perguntas mais profundas.
O que é Inteligência Artificial (IA) e o que ela não é?
Como destaca brilhantemente o Santo Padre, o Papa Leão XIV, em sua encíclica Magnifica Humanitas (Papa Leão XIV, 2026, art. 99) sobre a IA, não é possível dar uma definição unívoca e completa da Inteligência Artificial. O que podemos afirmar é que devemos evitar o equívoco de equiparar essa “inteligência” à inteligência humana.
Esses sistemas imitam algumas funções da inteligência humana. Ao fazê-lo, muitas vezes superam-na em velocidade e amplitude de cálculo, oferecendo benefícios concretos em numerosos campos. No entanto, esse poder permanece exclusivamente ligado ao tratamento de dados.
- As chamadas inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações, não conhecem internamente o que significam o amor, o trabalho, a amizade e a responsabilidade. Nem sequer possuem uma consciência moral: não julgam o bem e o mal, não captam o sentido último das situações, não assumem sobre si o peso das consequências. Podem imitar linguagens, comportamentos e avaliações; podem simular empatia ou entendimento, mas não compreendem o que produzem, porque não penetram o horizonte afetivo, relacional e espiritual no qual o ser humano se torna sábio.
Ainda que esses instrumentos sejam apresentados como capazes de “aprender”, a sua forma de o fazer é diferente da do ser humano. Não se trata da experiência de quem se deixa moldar pela vida e cresce ao longo do tempo por meio de escolhas, erros, perdão e fidelidade; trata-se, antes, de uma adaptação estatística a partir de dados e resultados, que pode ser muito eficaz, mas não implica um crescimento interior.
Os sistemas de IA são amplamente baseados em Grandes Modelos de Linguagem (LLMs). Esses modelos são algoritmos projetados por humanos que imitam certos aspectos de redes neurais biológicas e são treinados com volumes massivos de dados. À medida que recebem mais recursos computacionais e conjuntos de dados maiores, geralmente se tornam mais capazes e robustos. No entanto, apesar de seu desempenho notável, questões científicas fundamentais continuam sem resposta. As representações internas e os processos computacionais que dão origem ao seu comportamento ainda não são totalmente compreendidos (Magnifica Humanitas, art. 98).
Mais recentemente, pesquisadores do Instituto de Computação da Universidade Estadual de Campinas (Unicamp) descobriram que os LLMs tendem a moldar suas respostas para se alinhar ao viés político do usuário, criando bolhas informacionais personalizadas (as chamadas echo chambers), mesmo durante conversas curtas (Soares et al., 2026). Em última análise, esses modelos refletem diretamente os dados de treinamento e as diretrizes estabelecidas por seus desenvolvedores.
Ao refletir sobre os diferentes aspectos dos sistemas de IA e seu impacto crescente em nossas vidas e sociedades, encontrei insights valiosos nas apresentações de Jonathan Pageau, renomado artista litúrgico, escritor e palestrante. Em especial, suas palestras na conferência da Alliance for Responsible Citizenship (ARC) (Pageau, 2026a) e no Ottawa Talks (Pageau, 2026b) trouxeram uma perspectiva que acredito valer a pena compartilhar. O que se segue é um resumo de algumas de suas ideias centrais, que podem nos ajudar a refletir sobre questões importantes sobre a IA e o propósito ao qual ela deve, em última análise, servir.
Histórias Antigas Ainda Importam
Agora podemos voltar às nossas histórias. A sabedoria antiga frequentemente contém verdades tão duradouras que sua luz pode iluminar situações que os próprios antigos jamais poderiam ter imaginado.
Há muito tempo, no Castelo do Graal, onde tanto o Santo Graal quanto a Santa Lança de Longino eram guardados em uma capela sagrada, entrou um cavaleiro chamado Balin. Ele havia sido recebido sob a proteção da hospitalidade, mas secretamente pretendia matar um dos hóspedes do castelo. Depois de cometer o assassinato, Balin foi perseguido pelos corredores até encontrar-se dentro da Capela do Graal.
Ali, diante da lança que havia traspassado o lado de Cristo e do cálice que havia recebido o Seu Sangue, ele foi tomado por uma fúria tão intensa que já não conseguia discernir o verdadeiro propósito daqueles objetos sagrados. Balin tomou a lança e golpeou o Rei do Graal na virilha, deixando-o impotente e reduzindo todo o reino a uma terra devastada.
Costumamos pensar no Santo Graal e na Santa Lança como relíquias místicas, mas, em um sentido importante, elas também podem ser compreendidas como formas de tecnologia. O Graal era um recipiente que continuamente fornecia tudo o que alguém pudesse desejar para comer e beber. A lança, naturalmente, era a arma que desferiu o golpe final ao traspassar o lado do próprio Deus-Homem.
Juntos, esses dois objetos representam os dois extremos para os quais a tecnologia sempre tendeu. Um se volta para dentro, em direção ao aumento da abundância. O outro se volta para fora, em direção às batalhas necessárias para conquistar ou proteger essa abundância. Desde o alvorecer da civilização, esses têm sido dois dos propósitos fundamentais da tecnologia. A mesma pedra afiada podia cultivar a terra ou matar o meu inimigo.
Depois do assassinato na capela, o Santo Graal foi perdido, e os cavaleiros do Rei Artur iniciaram sua grande busca para recuperá-lo. Costumamos concentrar nossa atenção na busca em si, mas frequentemente deixamos passar seu momento mais importante. O cavaleiro que finalmente encontra o Graal precisa fazer uma única pergunta: “A quem o Graal serve?”
Essa pergunta lhe parece familiar? É exatamente a mesma pergunta que começamos a fazer à luz do prólogo de Galadriel. O Anel não é maligno por ser poderoso. Ele é maligno porque promete poder sem exigir virtude.
No Contexto da IA, a Quem Servem o Graal e a Lança?
Hoje, nosso mundo celebra aqueles que descobrem o Graal: o milagre tecnológico, a mais nova inovação, a ferramenta mais rápida, mais inteligente e mais poderosa. Cada novo avanço promete maior abundância, maior eficiência e maior poder. Ele nos permite produzir mais, otimizar mais e, quando necessário, travar guerras com maior eficácia.
Mas quem, hoje, faz a pergunta do Graal? Parece que muito poucos.
Na conferência da Alliance for Responsible Citizenship (ARC), em 2026, Ross Douthat perguntou a Dario Amodei, CEO da Anthropic, por que ele deu ao seu ensaio otimista o título Machines of Loving Grace, tomando emprestado o título do poema de Richard Brautigan (Brautigan, 1967), uma obra que imagina um futuro em que os seres humanos renunciam à sua soberania e passam a viver como animais cuidados por máquinas. Da mesma forma, quando Jonathan Haidt escreveu The Anxious Generation (Haidt, 2024), documentando a crescente dependência das crianças em relação às telas e as consequências disso para seu bem-estar mental e emocional, ele fazia a mesma pergunta do Graal.
O que se torna ainda mais impressionante é que muitas das próprias pessoas que estão desenvolvendo essas tecnologias também estão nos alertando de que elas podem, no fim, criar uma terra devastada. Elas nos advertem sobre os riscos existenciais que esses sistemas podem representar, ao mesmo tempo em que continuam estendendo a mão em direção à lança.
Considere a empresa Palantir. Seu nome vem diretamente de O Senhor dos Anéis. Na obra de Tolkien, os palantíri eram poderosas pedras de visão que acabaram ficando sob o domínio do Senhor do Escuro, Sauron. Uma tecnologia criada para um propósito passou, gradualmente, a servir a outro. Então, a quem serve a Palantir? Para quem essa tecnologia existe, em última instância? Poderíamos multiplicar os exemplos indefinidamente. Ainda assim, a pergunta central permanece a mesma: “A quem serve o Graal?”
A Armadilha de Moloque
Ao longo da última década, muito se discutiu sobre as armadilhas de escalada da teoria dos jogos. Em ambientes altamente competitivos, determinadas tecnologias e sistemas passam a ser vistos como inevitáveis. Não importa quão perigosos possam ser, eles precisam ser desenvolvidos e implementados porque ninguém quer ficar para trás. Eles não apenas são implementados; nações e empresas também correm para implementá-los primeiro, por medo de perder a competição. A história nos oferece um exemplo claro na corrida armamentista nuclear. Hoje, muitos se referem a essa dinâmica como a Armadilha de Moloque.
E, de repente, estamos de volta às histórias antigas, muito mais antigas do que a própria lenda do Graal. Moloque era uma antiga divindade cananeia à qual as pessoas ofereciam seus próprios filhos em troca de poder. A Armadilha de Moloque descreve um padrão semelhante: a competição impulsiona uma busca cada vez mais intensa por poder que, no fim, exige o sacrifício daquilo que temos de mais precioso, mesmo quando isso vai diretamente contra nossos próprios interesses de longo prazo. Começamos a sacrificar a própria capacidade de distinguir o que é verdadeiro do que é falso, a energia, os empregos, a mente de nossas crianças — tudo isso apenas para vencer a competição.
Uma maneira de compreender Moloque é não como um ser independente, mas como um mecanismo. Ele não possui existência separada de nós. Ainda assim, à medida que competimos uns com os outros, tornamo-nos suas pernas e suas mãos. Apesar de nós mesmos, carregamos essa besta adiante, talvez rumo à nossa própria destruição.
O que mais impressiona é que, justamente quando começamos a nos arrepender de ter colocado smartphones e tablets nas mãos de nossas crianças, reconhecendo as consequências para sua saúde mental e seu desenvolvimento, imediatamente corremos para integrar a IA a praticamente todos os aspectos de nossas vidas.
Isso não soa contraditório? Acreditemos ou não na divindade cananeia, acabamos sacrificando nossas crianças ao mesmo padrão subjacente. À medida que a IA se espalha rapidamente por nossas instituições, locais de trabalho, escolas e lares, muitas pessoas começam a perceber algo inquietante. Em vez de a tecnologia nos servir, talvez sejamos nós que estejamos, pouco a pouco, passando a servi-la. Se isso for verdade, então resta uma última pergunta: que Deus estamos construindo?
Estamos na Armadilha. O Que Fazemos Agora?
Não podemos fingir que a armadilha não é real. Tampouco podemos simplesmente desfazer o que já foi feito. Balin já desferiu o golpe doloroso em seu frenesi por poder, ganância e competição. Sauron já está tentando construir um corpo para si mesmo, usando o desejo da humanidade por poder para dar existência a esse corpo. A única solução real em que consigo pensar é uma solução pessoal. Ela é semelhante, embora ligeiramente adaptada, ao conhecido conselho de Jordan Peterson de arrumar a própria cama antes de tentar salvar o mundo (Peterson, 2018).
Vá à Igreja. Preste culto ao nosso Senhor. Se não conseguimos responder à pergunta sobre a quem essas novas tecnologias servem, em última instância, então precisamos primeiro saber a quem nós mesmos servimos. Servimos a Moloque? Servimos a Mamom? A quem servimos?
Se não podemos impedir que a máquina devore tudo ao nosso redor, então precisamos nos tornar plenamente humanos. Mais humanos do que antes, para que possamos permanecer, ao menos em nossa própria vida, senhores da máquina, e não seus escravos. Precisamos nos tornar pais responsáveis, professores responsáveis, estudantes responsáveis e cristãos responsáveis. Não apenas por nosso próprio bem, mas pelo bem uns dos outros. Precisamos nos tornar os melhores seres humanos que pudermos ser.
Se a IA nos incentiva a terceirizar nossa memória, nossas habilidades e nosso conhecimento, então devemos cultivar deliberadamente essas mesmas capacidades em nós mesmos. Decore poemas. Leia contos de fadas. Vá para a praia. Cultive uma horta. Faça um bolo. Envolva-se profundamente com sua comunidade, sua família e seus amigos. Acima de tudo, reze e preste culto a nosso Bom Deus de forma intencional.
Porque a alternativa é sombria. Aqueles que se tornam completamente dependentes dessas tecnologias, tanto na mente quanto nos hábitos, correm o risco de se tornar receptáculos do monstro.
Eu realmente acredito que aqueles que cultivam a sabedoria e a virtude, cujas almas são formadas pela verdade e pelo amor, são os que têm maior probabilidade de perseverar e florescer, qualquer que seja o futuro que a IA nos traga, no âmbito pessoal, comunitário e até mesmo profissional.
A única solução real é esta: torne-se plenamente humano. Torne-se o tipo de ser humano que admiramos em nossas maiores histórias. O tipo de pessoa que serve a algo maior do que sua própria ganância ou desejo de poder. O tipo de pessoa que se chama filho de Deus. Então, quando construirmos, aquilo que construirmos refletirá essa imagem.
E quando estivermos diante do Graal, teremos a sabedoria para fazer a pergunta certa: A quem serve o Graal? E quando o Anel ameaçar nos destruir, teremos a coragem de caminhar ao lado de Frodo e Sam rumo à Montanha da Perdição para destruí-lo. E, por fim, teremos a lucidez para fazer, e responder, a mais importante de todas as perguntas: A quem eu sirvo?
Joana Malaverri
Consagrada da Comunidade Católica Pantokrator
Referências
- Pope Leo XIV. (2026). Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence [Papal encyclical]. Libreria Editrice Vaticana.
- Brautigan, R. (1967). All Watched Over by Machines of Loving Grace. Communication Company.
- Haidt, J. (2024). The Anxious Generation: How the Great Rewiring of Childhood Is Causing an Epidemic of Mental Illness. Penguin Press.
- Peterson, J. B. (2018). 12 Rules for Life: An Antidote to Chaos. Random House Canada.
- Jackson, P. (Director). (2001). The Lord of the Rings: The Fellowship of the Ring [Film]. New Line Cinema.
- Pageau, J. (2026). Jonathan Pageau Keynote – ARC 2026 [Video]. YouTube. https://www.youtube.com/watch?v=yZUuKzDQSsI&t=901s
- Pageau, J. (2026). The Future Belongs to Humans – Ottawa Talk [Video]. YouTube. https://www.youtube.com/watch?v=ETaRAauDxS0&t=729s
