Crítica à inteligência artificial e ao upload mental | Jacob Shatzer

Tanto a inteligência artificial (IA) quanto o upload mental suscitam críticas de vários ângulos. Que perigos estão presentes nessas visões do futuro? Essas visões ao menos fazem sentido? São visões que valem a pena ser buscadas? Descrevo a seguir três críticas principais: as mudanças são destrutivas, perigosas e reducionistas.

A IA limitada ou de trabalhadores forjados causará uma ruptura econômica que muitas pessoas terão dificuldades de superar. Vamos examinar apenas um exemplo. De acordo com Kaplan:

A tecnologia de funcionamento de caminhões autônomos já está disponível atualmente e pode ser ajustada para as frotas existentes a custos bastante razoáveis. Os caminhões dotados de tal tecnologia podem “ver” em todas as direções, não se restringindo apenas ao que está na frente; podem trafegar na escuridão total ou em condições de apagão; podem, ainda, compartilhar instantaneamente informações sobre as condições das estradas, sobre os riscos nas imediações e sobre suas próprias intenções.

Além disso, “seu tempo de reação é próximo de zero. Como consequência, os caminhões autônomos podem seguir com segurança em comboios com apenas alguns centímetros de distância uns dos outros […]. Eles não se cansam, não ficam embriagados, não se distraem e nem ficam entediados; não cochilam, não falam ao telefone, não fazem greve por melhores salários e condições de trabalho”. Esses sistemas já estão sendo testados em rodovias e introduzidos por algumas empresas. Conforme conclui Kaplan, cerca de dois milhões de motoristas de carretas e 5,7 milhões de motoristas com habilitação profissional nos EUA poderão perder o emprego em decorrência dessa tecnologia.[1] E isso só em um setor. Kaplan detalha, em seguida, a possível ruptura que pode acontecer na atividade agrícola, nos trabalhos nos armazéns e outros mais. Embora as indústrias passem regularmente por mudanças substanciais nas economias de livre mercado, redistribuindo os trabalhadores entre um tipo e outro de função, a escala e a velocidade potenciais em que os trabalhadores forjados poderão mudar a economia exigirão uma ponderação cuidadosa e ajustes.

Não estou dizendo aqui que, de algum modo, poderemos deter as mudanças econômicas que ocorrerão com a crescente ruptura decorrente da atividade de trabalhadores robóticos. Contudo, não podemos também ignorar essas mudanças simplesmente esperando que elas apareçam. Temos de pensar em como elas modificam nossas perspectivas de trabalho e como essas versões limitadas da IA contribuirão com outras dificuldades.

A IA não é apenas potencialmente destrutiva para a economia; ela também acarreta outros riscos. Destacarei dois aqui, detendo-me naqueles identificados pelos defensores da IAG (Inteligência Artificial Geral).[2] Em primeiro lugar, as pessoas poderiam usar as IAGs para fins maléficos. Em todas as fases da história humana, gente má recorreu a ferramentas para fins perniciosos — na verdade, muitas vezes foram os objetivos malignos que conduziram o desenvolvimento das ferramentas (pense, por exemplo, na relação entre a exploração espacial dos EUA nas décadas posteriores à Segunda Guerra Mundial e a pesquisa e o desenvolvimento conduzidos pela Alemanha nazista durante a guerra, com o propósito de vencê-la).

Um segundo perigo é que as IAGs, tão logo alcancem um certo nível de sofisticação, poderão ser capazes de se reprogramar ou de criar outras IAGs que façam coisas perversas. A maior parte dos pesquisadores que trabalha com IAG a relacionam com algum conceito de singularidade, um ponto em que os humanos perderão, em grande medida, o controle do desenvolvimento e dos objetivos. Como podemos estar certos de que não construiremos alguma coisa que nos destruirá?

Esses dois perigos não são novos para os defensores da IAG. O nível de capacidade e de poder que as IAGs terão, de acordo com especulações dos pesquisadores, torna muito grande o potencial de danos, e esse perigo é um dos que aparecem com frequência em cenários distópicos futuristas tão ao gosto do público. Goertzel trata dele explicitamente em sua análise, argumentando que o potencial de danos da IAG é um dos motivos pelos quais devemos nos ocupar dela o quanto antes. A ideia é que, se os humanos desenvolverem agora a IAG, enquanto a tecnologia é relativamente limitada, menor será a possibilidade de que venhamos a perder o controle sobre ela. Se, porém, esperarmos para desenvolvê-la, a possibilidade de perdermos o controle será maior. Seja como for, o ser humano precisa ter cautela ao analisar o poder e a autorreplicação das IAGs.

Por fim, a inteligência artificial e o upload mental são reducionistas na forma como lidam com o que significa ser humano. De um lado, essas visões trabalham com a terminologia das ferramentas. Assim como criamos ferramentas que fazem o que o corpo humano faz, também podemos, de igual modo, criar ferramentas que fazem o que a mente humana faz. De outro lado, a capacidade de criar ferramentas que façam o mesmo que a mente humana depende totalmente de como definimos o que a mente humana faz de fato. Tanto a inteligência artificial quanto o upload mental veem a mente como um órgão que contém informações e estabelece as conexões ou relações entre diferentes informações. A tecnologia digital se caracteriza pelo armazenamento de informações e pela realização de conexões entre informações, por isso deveria ser capaz de replicar o que a mente humana faz. Talvez, no que se refere ao armazenamento e ao processamento de informações, a tecnologia digital tenha semelhanças notáveis com a inteligência humana. Contudo, em última análise, o transumanismo e suas perspectivas acerca da inteligência artificial se erguem sobre estruturas materialistas do que significa ser humano. Eles reduzem a mente humana (e também a alma, explicitamente em casos como os do trabalho de Rothblatt) ao que pode ser mensurado e compreendido no plano material. Mudar o material (o substrato, conforme a terminologia usada) não será grande coisa, se os resultados forem os mesmos. E os resultados serão os mesmos se forem definidos e medidos de forma reduzida.

A questão central dessas críticas não é que sejam totalmente novas, mas o que me interessa aqui é analisar de que maneira essas tecnologias podem afetar o ser humano em que estamos nos tornando, como elas nos formam. Assim como nos capítulos anteriores, a questão aqui não é saber em que medida o cristão concorda com o programa transumanista em se tratando de inteligência artificial e de upload mental. Em vez disso, o que nos preocupa é saber de que maneira as práticas nas quais estamos envolvidos atualmente nos transformam em pessoas que serão mais acessíveis a visões futuristas desse tipo. De que maneira nossas práticas tendem para as liturgias de controle? É dessas práticas que nos ocuparemos agora.

Tendendo para a inteligência artificial e o upload mental 

Embora o upload mental, ou clonagem mental, e o uso em larga escala da inteligência artificial pareçam um grande salto que muita gente não está disposta a dar, há práticas comuns hoje que estão moldando as pessoas para que sejam mais receptivas a esse futuro e demonstrem um entusiasmo maior por ele. A seguir, discorreremos sobre três delas: o recurso à inteligência artificial para questões comuns ou triviais; o uso de robôs domésticos para tarefas rotineiras; e a adoção, em larga escala, de práticas das mídias sociais. Cada um deles tende para tipos de valores defendidos por transumanistas.

Estamos nos condicionando a nos sentirmos mais à vontade para interagir com as inteligências artificiais porque, em certa medida, já o fazemos. Com o aperfeiçoamento do software de reconhecimento de voz, vários sistemas operacionais conseguem transformar indagações verbais em texto, fazer pesquisas e depois respondê-las pelo sistema de voz automatizada. Talvez o exemplo mais comum seja o da Siri, da Apple, capaz de responder a perguntas do usuário e ajudá-lo em pesquisas básicas. À medida que a tecnologia computacional foi se aperfeiçoando, as pessoas se habituaram a consultar a internet em busca de respostas básicas, tanto por meio de textos de pesquisa como do reconhecimento de voz. Essa prática não significa, necessariamente, que alguém queira contribuir com o desenvolvimento da inteligência artificial geral ou com o cérebro global; a prática, porém, faz com que nos acostumemos a interagir com inteligências artificiais e a vê-las como mais “reais”.

Avanços semelhantes na tecnologia robótica introduziram um nível de conforto maior também na interação com robôs. Um exemplo básico disso é o aspirador Roomba, um simples robô doméstico que limpa o piso em horários preestabelecidos. Esses robôs não apenas economizam o tempo das pessoas e executam um serviço cômodo; eles também contribuem com a promoção do valor da comodidade e da facilidade em um nível tal que nos deixa menos propensos a questionar se seu uso seria negativo sob outros aspectos.

A utilização de robôs para tarefas como a limpeza de pisos pode levar a uma maior abertura em relação a seu uso em outras tarefas. Por exemplo, Sherry Turkle vem estudando o uso de Paro, uma foca robô que serve de companhia para idosos solitários e pacientes com demência. Se nos habituarmos à utilização de robôs para tarefas que eles podem cumprir de modo eficiente, de que outra coisa além de eficiência poderemos nos valer quando tivermos de decidir que os robôs não podem executar determinada tarefa? O argumento não é, insisto, que as pessoas que usam aspiradores robôs se recusarão a cuidar de idosos, presenteando-os, em vez disso, com focas Paro. A questão é que o uso mais difundido da robótica nos afetará de certas maneiras que nos farão tender para um uso mais amplo que privilegiará a lógica da eficiência. Essas mudanças deixarão as pessoas também mais inclinadas a se sentirem à vontade com trabalhadores forjados e com outras inteligências artificiais robóticas.[3]

Outra forma pela qual as práticas contemporâneas comuns tendem para o upload mental e para os valores transumanistas se dá pelo uso das mídias sociais. Insisto novamente que não estou dizendo aqui que a utilização delas levará inevitavelmente as pessoas a fazerem o upload de suas mentes, tornando-se, desse modo, pós-humanas. O que defendo é que as práticas em torno das mídias sociais afetam nossos valores de tal modo que passemos a nos interessar mais pelo tipo de futuro que os transumanistas propõem. Elas nos aproximam de certas liturgias.

A conexão entre mídias sociais e transumanismo não é um exagero ou uma acusação que vem de fora do círculo transumanista; pensadores como Rothblatt mencionam explicitamente o uso das mídias sociais como um elemento de suas propostas. Rothblatt explica que muita gente já está no processo de criar seu mindfile: “Já existe muito ‘você’ no mundo digital, se você for como mais de 250 milhões de pessoas só nos EUA que têm um computador […] Trata-se de um avanço revolucionário o fato de que boa parte do conteúdo da mente das pessoas esteja sendo salvo fora de seus corpos, o que se dá porque o compartilhamento de informações digitais é algo com que já nos acostumamos”.[4] Como muitas pessoas usam tanto as mídias sociais para postar inúmeras informações sobre si mesmas, a sociedade chegou a um ponto em que esse compartilhamento é considerado normal.

É exatamente esse compartilhamento que serve de primeiro passo, na visão de Rothblatt, para a criação de um arquivo mental (mindfile) que rode no software mental (mindware), disso resultando um clone mental (mindclone). Seu programa transumanista não requer que se acrescentem quaisquer práticas ao que já há; antes, requer uma comodidade crescente com a ideia de um clone mental e de uma melhor compreensão de como tal clone se relacionaria com a pessoa original, com suas conexões sociais e com a sociedade de modo geral. Embora algumas versões de upload mental possam exigir da pessoa que ela faça um escaneamento mental ou algum outro procedimento, a versão de Rothblatt recorre a informações e a práticas que já são comuns.

O uso das mídias sociais não apenas significa que há um montante significativo dos nossos mindfiles no ciberespaço, como também nos deixa mais à vontade com a ideia de ampliar o eu levando-o para a esfera digital. Conforme sintetiza Rothblatt, “em suma, já temos duplos digitais; eles ainda não estão conscientes, mas estão aí, e outros os reconhecem como reflexos que são de um mínimo de atributos humanos. Já estamos em processo de nos sentirmos à vontade com nossos duplos digitais”.[5] Esse nível de comodidade é vital para o projeto transumanista, uma vez que, a esta altura, os clones — até mesmo mindclones — parecem ameaçadores e estranhos. À medida que o nível de conforto com a existência digital cresce, a resistência aos clones mentais enquanto extensões digitais decrescerá. Já vemos isso nos conceitos de privacidade: jovens adultos que cresceram transmitindo detalhes sobre si mesmos on-line não compreendem a preocupação que adultos mais velhos têm com a privacidade pessoal.

A inteligência artificial e o upload mental apontam para o extremo distante de um espectro, passando da liberdade morfológica para a realidade aumentada, e daí abandonando por completo as limitações biológicas. Ao seguir esse espectro — e ao compreender de que maneira cada passo se relaciona com o programa do transumanismo —, pudemos observar quantas tecnologias nos convidam às liturgias do controle, liturgias que nos moldarão cada vez mais à imagem do transumanismo e do pós-humanismo. Que fazer? Alguns talvez reduzam radicalmente o uso que fazem da tecnologia, optando por um caminho que siga em paralelo àquele trilhado por várias comunidades amish.[6] Contudo, a maior parte não pode simplesmente optar por abandonar a tecnologia — nem mesmo os amish o fazem. Na verdade, todos temos de lançar mão de um discernimento criterioso para compreender quais bons propósitos poderemos alcançar com tecnologias específicas. Se formos cuidadosos, estaremos convencidos dos propósitos para os quais tendem as tecnologias, os objetivos que elas tentam transformar em aspirações comuns. Conforme caminhamos, identificaremos alguns desses objetivos e possíveis caminhos para avaliá-los de um modo que resista às liturgias de controle.

[1] Kaplan, Humans need not apply, 141-42.

[2] Veja Goertzel, “Artificial general intelligence”, p. 136.

[3] Veja Sherry Turkle, Alone together: why we expect more from technology and less from each other (New York: Basic, 2011), cap. 6.

[4] Rothblatt, Virtually human, p. 56.

[5] Rothblatt, Virtually human, p. 57.

[6] Para uma análise interessante de como os amish encaram a tecnologia, veja Donald B. Kraybill; Steven M. Nolt; David L. Weaver-Zercher, The amish way: patient faith in a perilous world (San Francisco: Jossey-Bass, 2010).

Trecho extraído da obra “Transumanismo e a imagem de Deus: a tecnologia de hoje e o futuro do discipulado cristão“, publicada por Vida Nova: São Paulo, 2022, p. 144-152. Traduzido por A. G. Mendes. Publicado no site Cruciforme com permissão.

	Jacob Shatzer (PhD, Marquette University) é professor assistente e reitor adjunto da Escola de Teologia e Missões da Union University. É ministro ordenado da Convenção Batista do Sul e autor de A spreading and abiding hope, editor de um volume de ensaios de A. J. Conyers e editor assistente de Ethics and medicine.

Jacob Shatzer, especialista em ética bíblica, nos conduz por uma análise cuidadosa acerca do futuro do discipulado cristão em um ambiente tecnológico disruptivo. Em Transumanismo e a imagem de Deus, ele explica o desenvolvimento e a influência do movimento transumanista, dedicado ao estágio seguinte da evolução humana. Ao investigar tópicos como inteligência artificial, robótica, tecnologia médica e ferramentas de comunicação, o autor expõe de que maneira as transformações tecnológicas do cotidiano já modificaram e continuarão modificando a forma que pensamos, nos relacionamos e compreendemos a realidade. Em sua análise da doutrina da encarnação e de suas implicações para a identidade humana, Shatzer nos ajuda a compreender melhor o lugar apropriado da tecnologia na vida do discípulo e a evitar as falsas promessas da perspectiva transumanista. Publicado por Vida Nova.