Cinegnose

por Wilson Ferreira

19 de julho de 2019, 17h42

Entre o lixo psíquico digital e a censura na Internet no documentário “The Cleaners”

The Cleaners descreve como essa terceirização dos moderadores se transforma num tipo secreto de censura contra os usuários de todo o planeta

Fotos: Reprodução

Facebook, Google e Twitter, assim como as empresas de tecnologia em geral, passam uma imagem de serem “limpas”. Mas assim como o lixo eletrônico é enterrado longe dos nossos olhos em países africanos, empresas terceirizadas escondem o lixo psíquico das redes sociais. O documentário “The Cleaners” (2018) acompanha trabalhadores terceirizados de Manila (Filipinas) que fazem a moderação dos conteúdos das redes sociais: vídeos terroristas, automutilação, pornografia infantil e suicídio ao vivo são submetidos ao código binário “excluir/ignorar”. Um lixo psíquico tão tóxico que muitos funcionários se matam ou se afastam por sérios transtornos psíquicos. Mas também a terceirização dos serviços de moderação se torna uma forma secreta de censura e filtragem da realidade, modelando nossa percepção do mundo de acordo com os propósitos das gigantes do Vale do Silício. Com a terceirização, elas acabam se eximindo de qualquer responsabilidade, seja legal, política ou humana.

Inscreva-se no nosso Canal do YouTube, ative o sininho e passe a assistir ao nosso conteúdo exclusivo.

Para o engenheiro de computação e insider do Vale do Silício, Jaron Lanier, as gigantes Facebook, Google e Twitter têm uma agenda tecnológica bem clara: alcançar um ponto de singularidade tal que a Internet se transforme numa entidade autônoma, senciente, onisciente e onipotente.

Se essa hiper Inteligência Artificial for criada por seres humanos à nossa imagem e semelhança, certamente irá levar consigo não apenas o nosso intelecto. Essa singularidade tecnológica também carregará dentro de si o nosso id, o magma do inconsciente com todas as nossas pulsões, desejos, fantasias. Mas também toda a sombra psíquica: pesadelos, perversões, violência e impulsos instintivos mais nefastos e autodestrutivos.

E, mantendo essa espécie de versão expandida e autônoma do nosso aparelho psíquico, essa hiper Inteligência Artificial deverá obrigatoriamente contar com instâncias de superego – formas de reprimir, denegar ou, simplesmente, excluir da consciência essa lava que sobe do vulcão do inconsciente.

Veja também:  Com desgaste de Bolsonaro, rede bolsonarista alavanca tag #SomosTodosMichelle

Um serviço que deve ser secreto e anônimo, porque é sujo e, muitas vezes, imoral. Afinal, assim como criamos a melhor imagem de nós mesmos em nossas relações com os outros, também essa hiper IA vai querer mostrar seu melhor lado para os usuários: a hiper IA existe para que cada um compartilhe seus melhores sentimentos e experiências com os outros em qualquer ponto do planeta.

Essa instância secreta do superego digital das gigantes do Vale do Silício já existe: são os “cleaners”, empresas terceirizadas para fazer a moderação dos conteúdos do Facebook, Youtube e Twitter. Em geral, sediadas em lugares pobres e periféricos como em Manila, Filipinas.

Para os candidatos a esse trabalho, conta o glamour de trabalhar em empresas de tecnologias em prédios pós-modernos espelhados e um salário acima da média de um país pobre. Mas o custo psíquico de assistir em média 25 mil fotos e vídeos por dia, para julgar se deve ser ignorado ou excluído, é alto: depressão, suicídio ou apatia emocional.

Mas, consideram-se importantes, pois são moderadores que protegem a sociedade de ver postagens de crimes, conteúdo sexual impróprio e discursos de ódio. Pelo menos, é o que é inculcado nas cabeças desses empregados durante o treinamento.

O Documentário

É sobre esse tema que trata o documentário The Cleaners (2018), dirigido pelos cineastas, ensaístas e músicos alemães Hans Block e Moritz Riesewieck e com produção-executiva dos brasileiros Fernando Dias e Maurício Dias.

Sob a aparência que as gigantes tecnológicas criam de que todo o conteúdo das redes é monitorado automaticamente por algoritmos, machine learnings ou motores de busca, empresas como Facebook escondem, por meio da terceirização, de que quem na verdade faz esse trabalho sujo (que muitas vezes implica em censura política) são empresas terceirizadas em regiões periféricas do centro tecnológico do planeta.

Veja também:  Lava Jato sabia de esquema de lavagem de dinheiro via Bradesco e protegeu banco

Mas o documentário apresenta um quadro ainda mais preocupante: num contexto atual de ascensão das fake news, bolhas virtuais, escândalos de invasão de privacidade das informações como no caso Cambridge Analytica e a polarização política mundial, poderíamos pensar que estes gigantes da Internet empregam exércitos de especialistas altamente treinados para agir como guardiões das nossas sensibilidades.

Mas The Cleaners mostra que não é bem assim: são pessoas comuns, que passam por um rápido treinamento e que terão que trabalhar apenas com as opções “ignorar”/”excluir”, submetidos a uma jornada diária de milhares de fotos e vídeos de pornografia, violência, mortes e suicídios, muitas vezes ao vivo.

Em questão de segundos, terão que descobrir as complexidades de, por exemplo, a diferença entre pornografia e a charge política de Trump nu, ou fazer o juízo sobre liberdade de expressão e discurso de ódio. Decisões editoriais sutis e altamente contextuais que devem ser tomadas em cerca de oito segundos!

The Cleaners inicia mostrando o perfil sócio cultural de um grupo de moderadores da região da capital das Filipinas, Manila. Seguem-nos nos seus trajetos de casa para o trabalho – famílias pobres que dependem do salário do moderador.

Muitos deles remexem no lixo para reciclar e ganhar alguns trocados. A ironia é que “os cleaners” são a elite local que estudou para fugir do lixo físico. Para depois sobreviverem remexendo o lixo psíquico da Internet.

Eles são anônimos e propositalmente escondidos por camadas de empresas terceirizadas pelas gigantes do Vale do Silício. Essa é mais uma ironia do documentário: empresas de tecnologia têm a imagem de serem “limpas” por desenvolverem uma tecnologia “não poluente”. Mas, assim como o lixo eletrônico altamente poluente de baterias e componentes eletrônicos são enterrados em contêineres em países africanos, da mesma forma o trabalho sujo de remexer o lixo psíquico tóxico é terceirizado por empresas de países do terceiro mundo ou periféricos.

Veja também:  INSS pode parar em setembro por falta de recursos, diz nota técnica da direção do órgão

Mostra como uma moderadora católica fundamentalista exclui todo e qualquer nu, independentemente do contexto, linguagem ou propósito.

Enquanto essa fundamentalista considera seu sofrimento um sacrifício necessário na luta bíblica do Bem contra o Mal, outros moderadores não aguentam: ou se matam (como no caso de um funcionário que se enforcou diante do seu laptop), ou pedem demissão, levando consigo sérios transtornos psíquicos. Claro que a estratégia de terceirização do Vale do Silício também é uma forma de se eximir de toda e qualquer responsabilidade pelos danos ocupacionais.

Censura secreta

Mas tudo isso é apenas o começo. The Cleaners descreve como essa terceirização dos moderadores se transforma num tipo secreto de censura contra os usuários de todo o planeta – mais do que isso, os moderadores involuntariamente acabam modelando a própria realidade ao nosso redor.

Por exemplo, a icônica foto da Guerra do Vietnã (mostrando uma menina nua caminhando numa estrada, com o corpo queimado por Napalm) jamais seria publicada nas atuais redes sociais. Aquela foto de 1972, com impacto suficiente para aumentar os protestos pelo fim da guerra, hoje seria “excluída” – um pequeno exemplo de como o real é filtrado por essas empresas, censurando notícias sob o pretexto de bloquear “conteúdos extremos ou ofensivos”.

>>>>Continue lendo no Cinegnose>>>>>>>

*Este artigo não reflete, necessariamente, a opinião da Revista Fórum.

Você pode fazer o jornalismo da Fórum ser cada vez melhor

A Fórum nunca foi tão lida como atualmente. Ao mesmo tempo nunca publicou tanto conteúdo original e trabalhou com tantos colaboradores e colunistas. Ou seja, nossos recordes mensais de audiência são frutos de um enorme esforço para fazer um jornalismo posicionado a favor dos direitos, da democracia e dos movimentos sociais, mas que não seja panfletário e de baixa qualidade. Prezamos nossa credibilidade. Mesmo com todo esse sucesso não estamos satisfeitos.

Queremos melhorar nossa qualidade editorial e alcançar cada vez mais gente. Para isso precisamos de um número maior de sócios, que é a forma que encontramos para bancar parte do nosso projeto. Sócios já recebem uma newsletter exclusiva todas as manhãs e em julho terão uma área exclusiva.

Fique sócio e faça parte desta caminhada para que ela se torne um veículo cada vez mais respeitado e forte.

Apoie a Fórum