Mídia

Precisamos repensar as redes sociais antes que seja tarde demais: o que temos hoje é um acordo faustiano

Um modelo de negócios que altera a maneira como pensamos, agimos e vivemos está nos levando a uma distopia

29/09/2020 11:45

''Rolamos suas páginas de maneira insaciável, sem desconfiar que a mesma tecnologia que nos conecta, especialmente agora, em um mundo distanciado, também nos controla'' (Sam Thomas/Getty Images)

Créditos da foto: ''Rolamos suas páginas de maneira insaciável, sem desconfiar que a mesma tecnologia que nos conecta, especialmente agora, em um mundo distanciado, também nos controla'' (Sam Thomas/Getty Images)

 

Quando se imagina a tecnologia controlando a sociedade, muitos pensam no Exterminador do Futuro e em robôs à prova de balas. Ou no Big Brother de 1984, de George Orwell, símbolo de opressão externa e onipotente.

Muito provavelmente, porém, a tecnologia distópica não nos intimidará pela força. Ao contrário, nos submetemos de forma voluntária a um acordo com o diabo: de bom grado, trocamos nossas preferências subconscientes por memes, nossa coesão social por conexão instantânea e a verdade por aquilo que queremos ouvir.

Como atestam ex-funcionários do Google, Twitter, Facebook, Instagram e YouTube em nosso novo documentário, O dilema das redes, isso já está acontecendo. Já vivemos em uma versão do Admirável Mundo Novo, de Aldous Huxley. Como Neil Postman afirma em seu livro de 1985, Amusing Ourselves to Death: Public Discourse in The Age of Show Business (Divertindo-se até a morte: o discurso público na era do show business, sem tradução em português):

“Na visão de Huxley, não é necessário nenhum Big Brother para privar as pessoas de sua autonomia, maturidade e história. Ele descreve como as pessoas passariam a amar sua própria opressão e adorar as tecnologias que eliminam sua capacidade de pensar”.

A tecnologia que ameaça nossa sociedade, nossas democracias e nossa saúde mental está à espreita dentro de nossos quartos, ficando às vezes em nossos próprios travesseiros quando adormecemos. Nós acordamos quando ela chama, levamos suas notificações para o jantar e confiamos cegamente quando ela nos guia. Rolamos suas páginas de maneira insaciável, sem desconfiar que a mesma tecnologia que nos conecta, especialmente agora, em um mundo distanciado, também nos controla.

As plataformas de mídia social são movidas por um modelo de negócios baseado em vigilância e projetado para prospectar, manipular e extrair nossas experiências humanas a qualquer custo, levando a um colapso no ecossistema de informações e no sentido comum de “verdade” em todo o mundo. Este modelo de negócio baseado na extração não foi construído para nos servir, mas para nos explorar.

Um terço dos adultos americanos, e quase metade daqueles na faixa de 18-29 anos, dizem estar “quase constantemente” online. Mas, ao contrário dos cidadãos de Admirável Mundo Novo, estamos infelizes. Conforme nosso tempo online aumenta, aumentam também as taxas de ansiedade, depressão e suicídio, especialmente entre os jovens.

As mídias sociais também estão causando danos ao debate público produtivo. Um comunicado interno enviado a executivos seniores do Facebook em 2018, e largamente ignorado, explicava: “Nossos algoritmos exploram a atração do cérebro humano pela discórdia”. Sem algum tipo de controle, os algoritmos darão aos usuários “conteúdos capazes de criar cada vez mais discórdia, com o objetivo de ganhar a atenção do usuário e aumentar o tempo que passa na plataforma”.

Em 2014, o Pew Research Center descobriu que a rejeição partidária e a divisão nos EUA são “mais profundas e extensas do que em qualquer momento das últimas duas décadas”. Nos últimos seis anos, a mídia social só exacerbou essas opiniões. Em 2019, 77% dos partidários republicanos e 72% dos democratas disseram que os eleitores de ambos os partidos “não apenas discordam sobre planos e políticas, mas também não estão de acordo sobre os fatos básicos”.

No filme O dilema das redes, Tristan Harris, ex-especialista em ética de design do Google e cofundador do Center for Humane Technology, afirma que muito antes de a tecnologia ultrapassar as capacidades humanas, ela irá dominar suas fraquezas. Algoritmos sofisticados aprendem sobre nossas vulnerabilidades emocionais e as exploram para obter lucro de formas insidiosas.

Ao vigiar quase todas as nossas atividades online, as redes sociais agora podem prever nossas emoções e comportamentos. Eles aproveitam esses insights para nos leiloar para o anunciante disposto a pagar mais, tornando-se, assim, algumas das empresas mais ricas da história.

Mas o que se está vendendo para os usuários não é apenas um par de sapatos. As habilidades de direcionamento dessas plataformas conferem a qualquer pessoa com um motivo poder e precisão para nos influenciar de maneira barata e fenomenalmente fácil. Campanhas de desinformação foram repertoriadas em mais de 70 países e dobraram entre 2017 a 2019.

A informante Sophie Zhang revelou o quão comum é o problema no Facebook e quão pouco a empresa faz para resolvê-lo. O Facebook lançou recentemente uma série de atualizações para combater a desinformação política na eleição presidencial americana, incluindo a proibição de propaganda política a partir de uma semana antes da data da eleição, mas essas medidas são insuficientes, tardias e não resolvem o problema fundamental de seu modelo de negócios abusivo.

Depois de quase três anos trabalhando neste filme, agora vejo “o dilema das redes” como um problema central de nosso tempo, na base de muitos dos outros conflitos sociais cujas resoluções demandam acordos e um entendimento comum. Se dois lados são constantemente bombardeados com reforços de suas convicções ideológicas e ataques ultrajantes ao campo oposto, nunca seremos capazes de construir pontes e superar os desafios que afligem a humanidade.

Mas há esperança. Na continuação do Exterminador do Futuro, Arnold Schwarzenegger volta como um cara bom. "Quem te enviou?", pergunta John Connor. O Exterminador responde: “Você. Daqui a trinta e cinco anos, você me reprogramou para ser seu protetor”.

Na ausência de viagens no tempo, a solução precisa levar em conta o trabalho e as vozes de ativistas, organizações e acadêmicos dedicados, e daqueles que sofrem os danos desta tecnologia desonesta, que amplifica a opressão e a desigualdade sistêmica. Não podemos contar com as pessoas que criaram o problema para resolvê-lo. Não vou confiar nessas empresas de mídia social até que mudem seu modelo de negócios para que sirvam a nós, o público. Foram os humanos que criaram essa tecnologia e nós podemos e temos a obrigação de mudá-la.

Jeff Orlowski dirigiu o documentário O dilema das redes

*Publicado originalmente em 'The Guardian' | Tradução de Clarisse Meireles



Conteúdo Relacionado