Horizon Zero Dawn e a ética tecnológica | Luiz Adriano Borges

Aviso: Mesmo se você não gosta de videogames ou não tenha jogado esse jogo especificamente, ainda assim acho que tirará proveito da discussão filosófica.

Horizon Zero Dawn é um jogo de Playstation 4, lançado em 2017. A história básica gira em torno de humanos lutando com máquinas, imbuídas de inteligência artificial e que se parecem com animais (que já não existem mais nesse universo). Nosso ponto de vista se dá através do controle de Aloy, uma garota que tem habilidades de sobrevivência e com armas e cujo destino está ligado aos acontecimentos apocalípticos que ocorreram há muito tempo atrás. O ano em que começa a história é 2064 e as máquinas dominam esta sociedade, relegando os humanos à uma vida tribal.

Conforme a história avança, percebemos que esses animais-máquinas que vagueiam pelo mundo são frutos de um erro: a busca no passado por criar máquinas que contribuíssem com a despoluição da bioesfera: são máquinas que se alimentam de biomassa e têm a habilidade de autorreplicação. Grande ideia, hein? Logicamente, as máquinas fogem do controle, graças a uma espécie de vírus implantando de forma proposital.

O jogo possui gráficos muito bonitos e história envolvente. Mas não estou aqui para falar propriamente do jogo em si. Mas sim das questões filosóficas que ele nos coloca.

As questões principais que se levantam com relação ao jogo são a moralidade da utilização de robôs e o emprego da inteligência artificial. Quais são os limites? Algo que muitas vezes se apresenta quando pensamos em tecnologia é: “Se temos o conhecimento para criar algo, necessariamente devemos criá-lo?” E mais: os seres humanos não conseguem frear o desenvolvimento tecnológico? Vivemos em um mundo determinista do ponto de vista tecnológico e só nos resta orar para que o pior não aconteça? A tecnologia seria autônoma e se desenvolveria sem restrições?

Enfim, muitos questionamentos caros à filosofia da tecnologia que o cristão também pode contribuir.

Entre uma partida e outra eu me deparei com uma notícia que me levou novamente a notar que muitas vezes a ficção não está distante da realidade. O departamento de defesa americano está desenvolvendo pesquisas de robôs militares que utilizam como fontes de combustível matéria orgânica e, também cadáveres humanos. A realidade às vezes é tão louca quanto nossos piores pesadelos. Parece que os políticos não conhecem ficção científica. (Ou talvez conheçam, o que é ainda mais amedrontador). É sabido o quanto a ficção pode alertar quanto a empreendimentos científicos e tecnológicos que podem dar errado. Mas algumas vezes empreendedores gananciosos descartam os problemas éticos e focam na lucratividade de um produto. Vemos vendo as implicações dramáticas do sistema de notas pessoais no episódio Nosedive em Black Mirror. A China, por exemplo, implementou o chamado “crédito social”. Dependendo de quão bem um cidadão chinês se comportar, melhores notas lhe permitirá ter melhores acessos e mais comodidade. Muito Black Mirror isso aí.

Voltando ao jogo, em Horizon Zero Dawn temos duas Inteligências Artificiais: Gaia, que é a criação, e Hades, a destruição. A ideia que se apresenta inicialmente é que, em ordem de se criar algo novo, deve-se destruir o antigo; é a visão schumpeteriana de criação destrutiva que está presente também em religiões milenares como o hinduísmo, na figura da deusa Shiva, destruidora de mundos e recriadora e que parece ser o mote do capitalismo, vide obsolescência programada.

O temor de máquinas ou organismos criados em laboratórios que possam consumir biomassa e se autorreplicarem não é novidade. Desde os primórdios da pesquisa com nanotecnologia essa ameaça é chamada “gray groo problem” ou “problema da gosma cinzenta”, que prevê um cenário hipotético de um exército de replicadores descontrolados capazes de consumir toda a matéria da terra. Quem menciona esse problema é Eric Drexler em seu livro “Engines of Creation” e ele conclui que esse problema torna as coisas bem claras para a raça humana: “nós não podemos permitir certos tipos de acidentes ao replicar esses tipos de seres artificiais”.

Mas, à medida que o jogo evolui, vê-se que todos os problemas poderiam ter sido evitados. Pode-se desenvolver tecnologias de forma sustentável, sem destruir biomassa ou mesmo colocando em risco a sobrevivência humana. Claro que isso acarreta boa vontade e mais investimentos. Os seres humanos, mesmo tendo a habilidade de construir armas que podem se voltar contra si, poderiam ter refletido melhor e voltado atrás não construindo tais artefatos.

O desenvolvimento tecnológico não é autônomo e deve estar ligado a fortes e exaustivos debates éticos; do contrário ele servirá somente a certos interesses. No jogo, a busca por controlar o ecossistema parecia inicialmente uma boa ideia, mas não se pesou todas as implicações a longo prazo. Máquinas devoradoras de biomassa logo precisariam de mais matéria para sobreviver e então se voltariam contra os humanos. Na visão exemplificada na figura daqueles que querem poder a todo custo se apresenta que a arrogância humana em buscar controlar a natureza acaba passando pelo controle de outros seres humanos. Como apontou C. S. Lewis, “o que chamamos de poder do Homem sobre a Natureza, revela-se como o poder exercido por algumas pessoas sobre as outras, tendo a Natureza por seu instrumento” (C. S. Lewis, Abolição do Homem. Rio de Janeiro, Thomas Nelson Brasil: 2017, p. 56).

A velha ideia de que conhecimento é poder é o princípio aqui. A visão baconiana, de que a ciência e a tecnologia seriam meios de controle da natureza está bem presente. Uma das personagens do jogo, com caráter ambíguo, busca ter poder através da tecnologia, mas não com objetivos utilitaristas de “o melhor bem possível para o máximo de pessoas”, mas sim, quer obter o controle egoisticamente, tendo controle sobre os outros.

Entretanto, a visão cristã da tecnologia, ao menos em algumas correntes, diz que podemos redimir a tecnologia. Nos foi dado um mandato cultural de cultivar essa terra e construir, mas não construir qualquer coisa. A arrogância do homem através dos séculos é a busca por conhecimento que lhe torne autônomo, independente de Deus. Com sua tecnologia, o homem se infla e diz que não precisa mais da divindade porque tem controle sobre a natureza. Mas o que vemos ao longo da história, ironicamente, é uma sequência de exemplos onde a tecnologia torna o homem cativo. Esse é o medo moderno: daí tantos filmes, séries, quadrinhos e jogos (sem falar em extensa produção acadêmica) sobre o tema da Inteligência artificial dominando o ser humano. O medo de não sermos mais necessários, de nos tornarmos obsoletos em um mundo permeado pelo artificial, nos leva ao desespero. A extrema confiança em nossas habilidades tem sido balançada desde os catastróficos desenvolvimentos do século XX: armas de destruição em massa, teorias científicas sendo distorcidas em prol de ideologias seculares e corrosão do meio ambiente.

Não se trata de retrocesso, de voltarmos à era das cavernas e sociedades tribais (como ocorre em Horizon Zero Dawn). Há muita coisa boa no progresso científico e tecnológico que acaba trazendo redução de carga de trabalho, conforto, expectativa de vida maior e mais qualidade de vida. Mesmo assim, temos problemas prementes que o cristão deve refletir profundamente em face de uma robusta cosmovisão bíblica, como apontam Michael W. Goheen e Craig Bartholomew em “Introdução à cosmovisão cristã”: pobreza, degradação ambiental, proliferação de armas, problemas psicológicos e problemas sociais e econômicos. A história do jogo Horizon Zero Dawn foca-se exatamente em grandes preocupações atuais como degradação ambiental e proliferação de armas. O desrespeito a virtudes éticas levou ao caos.

Assim, o grande desafio para os cristãos de hoje é: como transformar a cosmovisão da ciência e da tecnologia em algo que sirva para glorificar a Deus e, dessa forma, trazer verdadeira plenitude ao homem, cumprido seu mandato cultural?

Quando tenho contato com obras “seculares” que apontam para questões éticas, lembro da passagem de Romanos 8:22-23 diz: “Pois sabemos que toda a criação geme e sofre como que dores de parto até o presente dia. Não só ela, mas também nós, que temos as primícias do Espírito, gememos em nós mesmos, aguardando a adoção, a redenção do nosso corpo.”

A cultura popular, representada em jogos como Horizon Zero Dawn, está gemendo, apontando os males da queda e da imperfectibilidade humana que atinge a natureza e os empreendimentos científicos e tecnológicos; mas sua busca por “redenção”, solução, é incompleta, porque lhe falta um ingrediente básico: a revelação de Deus presente nas Escrituras, onde nos é apresentada os motivos básicos de criação, queda e redenção. Nossas tecnologias sempre serão limitadas porque somos seres limitados, caídos e, portanto, não perfeitos. Não conseguimos enxergar as consequências de nossos artefatos no futuro. Assim, a redenção não será conduzida através de nossos esforços; podemos construir, mas se o fizermos de maneira arrogante e buscando autonomia de Deus e seus mandamentos, estaremos cavando nossa própria cova. A redenção vem de Deus, que nos deu o mandamento de cultivar essa terra, de criar tecnologias que tornem nossa peregrinação terrena mais fácil e menos dolorida e que nos maravilhemos com as descobertas científicas. Com o salmista podemos proclamar: “Quão maravilhosas são as tuas obras, ó Eterno” (Salmo 92:5).

A narrativa bíblica começa num jardim e termina em uma cidade. Isto é o mais maravilhoso sinal de que Deus não produziu robôs, mas sim adoradores criativos, inventivos e produtivos. Deus abraça a criatividade humana. Por isso, nossa cosmovisão deve estar alicerçada na palavra de Deus, para que transformemos nossa tecnologia, nossa ciência, enfim, toda a nossa sociedade.

Luiz Adriano Borges é professor de história na UTFPR-Toledo, lecionando sobre história da técnica, tecnologia e sociedade, filosofia, sociedade e política. Sua área de pesquisa centra-se na História e Filosofia da Tecnologia e da Ciência. Seus projetos mais recentes são: “A visão cristã da tecnologia” e “Esperança em Tempos de guerra. Ciência, tecnologia e sociedade em Tolkien, Huxley, Lewis e Orwell (1892-1973)".

Essa obra apresenta um breve resumo da narrativa bíblica e das crenças mais fundamentais das Escrituras, seguidos de uma apresentação da narrativa da cultura ocidental desde o período clássico até a pós-modernidade. Michael Goheen e Craig Bartholomew analisam como os cristãos vivenciam a tensão que existe na intersecção das narrativas bíblica e cultural e procuram esmiuçar as implicações para áreas importantes da vida, como educação, mundo acadêmico, economia, política e igreja. O resultado é um livro que leva a uma reflexão acessível, sem deixar de ser profundo, alicerçado sobre a rica tradição do pensamento reformado e contextualizando-o para um cenário pós-moderno. Publicado por Vida Nova.