Na noite da sexta-feira passada, depois que minha esposa e eu colocamos nossos filhos para dormir, assistimos ao novo documentário da Netflix, “O dilema das redes”. Apresentando vários autores, acadêmicos, líderes de tecnologia e ativistas, o filme ajuda a explicar a crescente influência da tecnologia algorítmica, especialmente nas mídias sociais.

Conduzido por Tristan Harris, ex-especialista em ética de design e presidente do Centro para Tecnologia Humanitária (Center for Humane Technology), “O dilema das redes” explora como essas tecnologias são projetadas especificamente para servir a um mundo on-line viciante e perfeitamente organizado, no qual as empresas lucram rastreando todas as nossas interações digitais (geralmente chamadas de capitalismo de vigilância).

Em parte, o filme se concentra na tecnologia de inteligência artificial (IA) por trás das ferramentas que conduzem nossos feeds de mídia social, plataformas de e-mail e a maioria de nossos dispositivos “inteligentes”. Como explica Harris, nossas preocupações com a IA muitas vezes se concentram em relação ao momento em que ela irá superar nossos pontos fortes, nos suplantando em várias tarefas (“a singularidade”), mas deixamos de nos concentrar em como ela já superou nossos pontos fracos, fomentando o vício e alimentando a dissidência. Muitos desses sistemas controlam o que você vê no feed de sua mídia social, quando você recebe notificações e até mesmo o que você digita – tudo com o objetivo de modificar seu comportamento, seja no que você compra ou no que você assiste.

Alerta

O filme examina como os gigantes da tecnologia como Google, Facebook, Twitter e outros são capazes de dobrar nossa vontade em direção ao lucro da empresa por meio da curadoria perfeita de nossa experiência on-line. Essa curadoria, por sua vez, cria bolhas sociais que causam estragos em nossa saúde mental e tecido social, amplificando coisas como ansiedade e polarização de grupo.

A professora de Harvard Shoshana Zuboff, destaque no filme, pesquisa os efeitos sociais negativos da tecnologia algorítmica em seu recente livro “The Age of Surveillance Capitalism” (“A era do capitalismo de vigilância”). Ela afirma com propriedade que algumas das questões éticas mais fundamentais desta nova economia inteligente são “quem decide” a que estamos expostos, “quem decide quem decide” essas coisas e para que fim essas decisões são tomadas.

“O Dilema das redes” é um alerta necessário em relação ao poder e a influência da tecnologia algorítmica. É um filme que os cristãos devem assistir e se envolver simplesmente porque essas ferramentas já estão nos moldando profundamente e, em muitos casos, formando cristãos de maneiras decididamente não cristãs. No entanto, é sutilmente irônico que os cineastas realmente contem com essas mesmas ferramentas para propagar a mensagem do filme, isto é, por meio de mídias sociais e até mesmo do mecanismo de sugestões de filmes da Netflix.

Omissão significativa

“O Dilema das Redes” é útil para destacar alguns dos problemas éticos fundamentais dos algoritmos de mídia social, especialmente porque eles atendem a corporações com fins lucrativos. No entanto, o documentário não consegue resolver o problema central. Na cena de abertura, o entrevistador faz uma pergunta simples a vários especialistas: “Então, qual é o verdadeiro problema?” Muitos respondem com um silêncio constrangedor enquanto outros se atrapalham com respostas mal desenvolvidas. Em um momento de honestidade, Harris admite que existem tantos problemas que ele não sabe por onde começar.

Embora essa pergunta seja feita para despertar a curiosidade do espectador, ela resume uma das principais deficiências do filme. Os especialistas entrevistados se concentram nos muitos sintomas associados às mídias sociais e sua influência descomunal, mas não identificam a causa subjacente da doença. A cosmovisão cristã na verdade tem a resposta que esses líderes parecem não conseguir situar: a natureza profunda do pecado, que infecta todos os aspectos da humanidade, incluindo nossas ferramentas tecnológicas.

Em contraste ao chamado cristão para orientar a vida em torno do amor a Deus e ao próximo, o pecado nos orienta gravitar em torno da autonomia pessoal e do serviço a nós mesmos. Em primeiro lugar, o egocentrismo do pecado levou à criação e à popularidade viciante de “iWorlds” com curadoria. Agora que estamos vendo os danos causados ​​por essas tecnologias, os pedidos de reforma estão crescendo; e com razão. Contudo, a verdadeira mudança não virá até que admitamos que essas tecnologias não surgiram e não operam em um vácuo moralmente neutro, mas em um ambiente generalizado de pecado.

Muitos dos especialistas do filme consideram a batalha por nossas almas uma luta injusta, na qual a maior parte da humanidade é simplesmente superada pelo poder de algumas empresas de tecnologia. Embora haja alguma verdade nessa visão, não podemos abdicar da responsabilidade e transferir a culpa pelas notícias falsas, polarização e outros males apenas a essas tecnologias, sem reconhecer que essas ferramentas funcionam realmente como combustível derramado sobre uma sociedade que já está em chamas devido ao pecado.

É verdade que as tecnologias algorítmicas têm o poder de não apenas corresponder ao nosso comportamento, mas de modificá-lo, condicionando-nos a agir de maneiras preocupantes em graus cada vez maiores. No entanto, por mais sorrateiros que os algoritmos se tornem, não somos peões impotentes e nosso comportamento on-line não é uma conclusão inevitável. Também não somos meramente vítimas inocentes da desintegração social impulsionada pela IA. Os seres humanos optaram por criar essas ferramentas e podemos escolher como usá-las – ou não usá-las. Na verdade, o maior dilema para os cristãos – considerando o que sabemos sobre a natureza do pecado e nossa vulnerabilidade à tentação – pode não ser como reformar a mídia social, mas, sim, se ela sequer pode ser reformada.

Daqui para frente

O documentário termina com os entrevistados fazendo recomendações práticas sobre como podemos navegar nos desafios das redes sociais. As recomendações incluem: desligar as notificações em seus dispositivos e limitar o tempo gasto em plataformas sociais, especialmente para crianças e adolescentes. Alguns oferecem recomendações de políticas públicas, como pedidos de maior regulamentação, legislação federal de privacidade e legislação antitruste.

Embora os cristãos debatam os méritos dessas propostas e possam discordar sobre o melhor caminho a seguir, não devemos esquecer que o verdadeiro dilema das redes não está acontecendo em Washington ou no Vale do Silício, mas em nossos próprios corações e lares. Ele se concentra nas decisões que tomamos a cada dia e como, por exemplo, usamos a tecnologia para seguir o maior mandamento (Mt 22.36-39) ou ignorá-lo; para servir a si mesmo ou sacrificar nossa autonomia para servir a Deus e aos outros.

Traduzido por Luiz Adriano Borges e revisado por Jonathan Silveira.

Texto original: ‘The Social Dilemma’ and the Bigger Dilemma. The Gospel Coalition.

Jason Thacker atua como presidente de pesquisa em ética tecnológica na The Ethics and Religious Liberty Comission. Formou-se na Universidade do Tennessee e no Southern Baptist Theological Seminary, onde atualmente está cursando o doutorado em Ética e Teologia Pública. Seu novo livro, “The Age of AI: Artificial Intelligence and the Future of Humanity” (Zondervan, 2020), ajuda os leitores a navegar na era digital, fornecendo uma exploração cuidadosa dos desafios sociais, morais e éticos das interações contínuas com a inteligência artificial.