“Detroit: become human” e nossa relação com a tecnologia | Luiz Adriano Borges

Obras de ficção sempre proporcionaram amplas possibilidades de debate e reflexão. Nas últimas décadas os jogos de videogame se tornaram mais profundos em suas histórias e também nos ajudam a pensar sobre temas complexos. Gostaria de usar o jogo de computador e de Playstation 4, “Detroit: Become Human”, para discutir questões sobre Inteligência Artificial e fé cristã, mas focando principalmente em nossa relação ampla com a tecnologia.

“Detroit: Become Human” é um jogo em terceira pessoa em que escolhemos caminhos a serem seguidos pelos olhos de três androides em uma Detroit futurista, no ano 2038. A escolha de Detroit não é fortuita, uma vez que esta cidade foi palco de uma grande industrialização no início do século XX, sendo a sede da Ford, entre outras empresas. Na história do jogo, as tensões são acentuadas na luta pela liberação dos androides de sua escravidão pelos humanos; alguns deles lutam pela igualdade. Estes androides possuem consciência e, ao longo do jogo, vamos descobrindo aflições e sentimentos de cada androide, seus amores, suas raivas, suas inquietações. Algumas situações são pesadas, com violência doméstica, outras são emocionantes, com relacionamentos românticos (nada explícito). O jogo é destinado a um público maior de 16 anos, então deve-se ter atenção a isso ao jogá-lo.

A jogabilidade não é tão fluída quanto um jogo de exploração em mundo aberto, uma vez que temos algumas opções limitadas a serem feitas em cada cenário, fazendo parecer um filme ou o episódio de Black Mirror “Bandersnatch” (inclusive escrevi sobre ele aqui. Ainda assim, apesar dessas limitações, o jogo é um bom entretenimento e, como tenho falado, possibilita inúmeros debates.

A mensagem do jogo é de que, num futuro próximo, a Inteligência Artificial se igualará à inteligência humana e terá sentimentos, tendo a possiblidade de se tornar humana também. Aí, da mesma forma que debates ocorreram na história, de se questionar se negros africanos e indígenas possuíam almas ou não e, portanto, poderiam ser escravizados, a discussão é colocada acerca dos androides. Pode-se questionar se a utilização de debates antiescravagistas e dos direitos civis negros americanos transpostos para o contexto da luta igualitária dos androides no jogo seja algo criativo, mas, ainda assim, serve para divertir e até nos leva a refletir.

Durante o jogo, você pode escolher diversos caminhos e isso afeta o desenvolvimento da narrativa. Você pode escolher o caminho da confrontação ou da paz. Com toda a construção da jornada dos androides, que não explorarei completamente aqui em todas as suas nuances, o objetivo parece ser a de sensibilizar nós, os jogadores, acerca de um problema que logo pode surgir na nossa realidade. No jogo não se trata de um levante dos androides procurando eliminar a raça humana, mas sim a busca pelo diálogo ou, até mesmo, manifestações violentas, com o intuito de que o status de igualdade com os humanos seja concedido.

Há muitas discussões se a Inteligência Artificial um dia superará a inteligência humana de modo geral. Claro que em alguns campos, tais como tarefas com objetivos específicos e determinados, como Xadrez e Go, as máquinas levam a melhor. Mas em questões como linguagem, por exemplo, é outra história. Eu mesmo sou cético quanto a isso, baseado em minhas leituras sobre o campo. Ser humano vai além da capacidade de acessar dados e resolver problemas e os entusiastas da IA muitas vezes têm uma visão materialista/reducionista do que é ser consciente — algo que implica em mais do que compreender como funciona o pensamento humano, significa possuir um corpo que tem metabolismo e ter uma alma. E mesmo compreender a inteligência humana parece algo longe da nossa alçada.

Só para se ter uma ideia, uma parceria entre a Google e a Universidade de Harvard resultou em um mapeamento de um milímetro cúbico do cérebro humano e encontraram 1,4 petabytes de dados. Isso equivale à 11 mil filmes em resolução 4k!

Como o cérebro humano tem em média um volume de 1,2 milhão de milímetro cúbicos, estima-se que ele ultrapassaria os yotabytes de dados, isto é, 1 bilhão de petabytes! E ainda que mapeássemos todo o cérebro humano, algo inimaginável em muito tempo, não poderíamos afirmar que compreendemos o cérebro humano, pois ele é mais do que a soma das partes e ser um humano é mais do que somente questões redutíveis à matéria.

Para quem quer aprender um pouco sobre possibilidades e limites da IA, indico a leitura do livro “Inteligência Artificial: uma brevíssima introdução” de Margaret A. Boden; é uma excelente entrada no debate. A autora é estudiosa há muito tempo dessa área e, mesmo que seja confiante no desenvolvimento da IA para cada vez mais amplas tarefas, vê com ceticismo uma inteligência artificial geral, ou algo como um androide senciente.

Ainda que a cosmovisão do jogo aponte uma visão reducionista do que é ser humano (em certo momento o androide Markus diz que “os seres humanos são máquinas tão frágeis”) e traga a crença questionável de que a Inteligência Artificial um dia se igualará aos seres humanos, podemos tirar proveito das discussões e levarmos o diálogo para outro nível — talvez algo não intencional por parte dos criadores do jogo. Se um dia teremos ou não androides com consciência é uma discussão para outro momento. O que quero enfatizar é que devemos pensar na maneira como utilizamos tecnologia e como um cristão pode refletir e agir diferente nesse sentido.

Quero focar em alguns pontos, ainda que outros possam ser adicionados à discussão: idolatria da tecnologia e a cosmovisão tecnológica.

A idolatria moderna (ou hipermoderna) na tecnologia transparece quando achamos que tudo pode ser resolvido por tecnologia, identificado pelo termo tecnicismo. Temos algum problema? A tecnologia resolve. Mas e quanto aos problemas gerados pela tecnologia, tais como poluição? Pode ser resolvido por mais tecnologia. Mesmo em nosso cotidiano acabamos erigindo pedestais para a tecnologia: olhe em volta e veja como a tecnologia deixou de ser apenas uma ferramenta para se tornar um objeto de controle sobre nós; os artefatos não são mais um meio, eles agora são um fim. Não conseguimos viver mais sem nossos aparelhos celulares e sua ausência causa-nos aflição. Há até uma doença identificada pela Organização Mundial da saúde como “nomophobia”, o medo de não ter um celular funcionando. E quando a tecnologia substitui nosso acesso à realidade, aos amigos, à família e a Deus, quando gastamos mais tempo em redes sociais do que na presença de pessoas reais ou tendo tempo de devocional, a tecnologia se tornou um ídolo. O jogo “Detroit: become Human” com certeza não quer nos alertar contra o ídolo da tecnologia, mas como cristãos somos levados a refletir nesse sentido.

Em diversos momentos do jogo nos é apresentado de maneira brutal como alguns seres humanos usam e abusam de seus androides (há poucos casos de “bons” humanos no jogo); a tecnologia está ali disponível para ser usada quando e como quiser. Essa noção tem sido analisada pela filosofia da tecnologia, tendo inclusive o filósofo alemão Heidegger cunhado um termo para ela: bestand. Com isso ele queria se referir à ideia de algo disponível, uma reserva sempre ao nosso dispor. Esse filósofo, e outros que seguiram suas ideias, percebeu que, para compreender a tecnologia e como ela afeta e é utilizada nas sociedades, era preciso olhar para além dos artefatos tecnológicos. A essência da tecnologia estaria em como as pessoas se relacionam com ela.

Assim, quando jogamos “Detroit: become human” e vemos humanos tratando mal os androides, isso deveria nos fazer pensar em como temos nos relacionados com a tecnologia, mesmo com os mais simples aparelhos. A tecnologia tem nos servido para fazer florescer as sociedades humanas, para gerar uma boa vida, ou tem produzido raiva, insatisfação, consumismo (preciso do último modelo de android) e tem nos feitos reféns de nossos artefatos? Em um momento do jogo, quando estamos controlando Kara, uma androide que cuida dos afazeres domésticos, vemos em seu dono alguém violento, preguiçoso e que busca descarregar suas frustrações nos androides. Ele se tornou tão dependente da tecnologia que passa o dia bebendo e assistindo televisão, sem nada mais a fazer, enquanto sua androide cuida da casa.

Assim, antes de termos medo do futuro, de um levante da Inteligência Artificial, temos que pensar em como, aqui e agora, temos nos relacionado com a tecnologia. E isso cabe uma reflexão profunda em nossa vida cristã. Nossa confiança, nossas esperanças, estão depositadas na tecnologia ou em Deus? Nossos amores devem estar direcionados a valores transcendentais como amor a Deus, à família e aos amigos ou a eletrônicos? Não há problema em possuir artefatos tecnológicos; eles também representam a benção divina de criatividade humana. Mas, ao focarmos nossa existência em torno da tecnologia, esperando que ela resolva tudo para nós, estaremos nos desumanizando. Interessante que C. S. Lewis escreveu seu livro “A abolição do homem” em 1943 tendo em mente justamente uma discussão com os avanços tecnocientíficos da bioengenharia, que pretendia levar o ser humano ao próximo nível da evolução. Mas, para Lewis, isso culminaria na destruição da natureza humana.

As nossas tecnologias hoje, principalmente as múltiplas aplicações da IA, desde algoritmos à automatização, parecem ter levado cada vez mais os seres humanos a se desumanizarem, na medida em que contemplação, trabalho manual, comunhão com outros, cozinhar e brincar têm sido relegados, e agora a maior parte de nossas atividades são mediadas por máquinas. A ironia é que, enquanto o campo da Inteligência Artificial pretende igualar e superar os seres humanos, estes estão acomodados em se tornarem máquinas.

O cristão deve ser uma voz de vanguarda também nos diversos ramos da tecnologia para ajudar a pensar e a produzir tecnologia que favoreça o florescimento humano, não que transforme todos nós em meros servos das máquinas, alguém que fica o dia todo alimentando os algoritmos. Antes de termos medo de uma revolução das máquinas, devemos refletir em como temos usado a tecnologia. Devemos pensar usos éticos e responsáveis, em alívio do trabalho, em cidades sustentáveis, enfim, devemos olhar para nós mesmos, tendo o filtro da Palavra, para sermos mordomos da criação até mesmo na produção de artefatos tecnológicos. A discussão de se a Inteligência Artificial um dia irá superar a inteligência humana deve ser precedida pela compreensão do real significado e papel de toda tecnologia em nosso cotidiano. Usando e criando tecnologia para a glória de Deus nos fará desfrutar de maneira plena a tecnologia, sem abusos e sem nos descolarmos da realidade. Agindo assim, não traremos um paraíso à terra, mas cultivaremos uma cidade-jardim que tornará a existência menos sofrida, enquanto aguardamos nosso Redentor, que tornará nova todas as coisas.

Luiz Adriano Borges é professor de história na UTFPR-Toledo, lecionando sobre história da técnica, tecnologia e sociedade, filosofia, sociedade e política. Sua área de pesquisa centra-se na História e Filosofia da Tecnologia e da Ciência. Seus projetos mais recentes são: “A visão cristã da tecnologia” e “Esperança em Tempos de guerra. Ciência, tecnologia e sociedade em Tolkien, Huxley, Lewis e Orwell (1892-1973)".