Uma matéria da Fórum mostou que, de acordo com a SaferNet, organização que atua na proteção dos direitos humanos no ambiente digital, o TikTok está entre as principais plataformas globais associadas à disseminação de conteúdos misóginos. Desde 2020, a rede social aparece ao lado ve outras redes sociais de forma recorrente entre os dez domínios mais denunciados por casos de violência ou discriminação contra mulheres. A conectividade é quase universal entre crianças e adolescentes brasileiros: 9 em cada 10 jovens de 9 a 17 anos acessam a internet. Metade deles usa o TikTok diariamente, segundo uma pesquisa TIC Kids Online Brasil 2024.
Pesquisas internacionais mostram que não são dados isolados: os algoritmos das plataformas digitais são propensos a promover conteúdos misóginos entre os mais jovens do sexo masculino em todo o mundo. Para a autora e pesquisadora inglesa do tema Laura Bates, entrevistada pela BBC News, há hoje um processo preocupante de radicalização generalizada entre meninos e adolescentes, alimentado pela lógica algorítmica, que não é neutra.
"Isso é algo que nunca tínhamos visto. Ao longo de décadas, a parcela da opinião pública que lamentavelmente tem noções do tipo 'lugar de mulher é na cozinha' sempre se concentrava entre os mais velhos", pontua. "Temos a ideia de que os jovens são mais progressistas e liberais, com um alto grau de tolerância social e mais respeito pelas mulheres."
"Mas o que vemos agora, pela primeira vez na História e em diferentes estudos, é que as atitudes mais misóginas, antiquadas e obsoletas em relação às mulheres e às meninas se tornaram mais comuns entre jovens do sexo masculino [...] há um risco genuíno de que as novas tecnologias catapultem meninos e homens a uma nova era brilhante, e arrastem meninas e mulheres de volta à idade das trevas", observa Bates.
Segundo ela, "não estamos diante de uma geração inerentemente misógina. Trata-se na verdade de uma geração de jovens que acessa determinados sites, aplicativos e outros ambientes online com algoritmos incrivelmente poderosos e treinados para servir conteúdos cada vez mais extremistas", destaca.
"Nós somos condicionadas a permanecer em silêncio desde muito jovens. Sempre aparecem aquelas alegações de que estamos sendo bobas, exagerando na reação ou fazendo muito barulho por nada. Ouvimos perguntas como: 'O que você estava vestindo quando ele fez isso?', 'Mas, também, você bebeu, né?' ou 'Será que você não deu alguma sugestão indevida a ele?'".
Para a pesquisadora, se as redes sociais já estão impulsionando um "sexismo turbinado", a expansão acelerada da inteligência artificial tende a multiplicar esse problema "um milhão de vezes".
Ela afirma que os efeitos práticos desse cenário já são perceptíveis. "Se você se candidatar a uma vaga de emprego, por exemplo. Sabemos que 40% das empresas do Reino Unido usam algum tipo de IA no processo de recrutamento. E algumas dessas ferramentas são comprovadamente discriminatórias contra mulheres", explica. Os estudos constam no livro escrito por ela "Men who hate women".
Bates acrescenta que fenômenos semelhantes têm sido observados em áreas como concessão de crédito, financiamento e serviços de saúde. "Não é que a IA seja abertamente preconceituosa ou sexista, mas essa discriminação está na base da configuração dela."
A especialista destaca que é um assunto que precisa envolver todo mundo, não apenas as vítimas ou os perpetradores.
"Gostemos ou não, seremos cidadãos digitais no mundo da IA. E será ainda mais importante que as pessoas reconheçam a importância de falar sobre esse assunto, mesmo que elas não sejam diretamente afetadas por ele"
LEIA TAMBÉM: “Adolescência”: levantamento mostra como TikTok alimenta misoginia entre brasileiros jovens
Em resposta à equipe da BBC, o TikTok afirmou que "as contas de adolescentes possuem como padrão as mais altas configurações de segurança e privacidade". A plataforma acrescentou que 98% do conteúdo potencialmente nocivo é retirado do ar antes mesmo que algum usuário apresente reclamação e que restringe o acesso a materiais inadequados conforme a faixa etária.
A empresa também contestou a metodologia do estudo citado por Bates, que aponta que um menino de 14 anos teria contato com conteúdos misóginos após 30 minutos no aplicativo, e reiterou que "não tolera qualquer discurso de ódio".
A Meta, responsável por Facebook, Instagram e WhatsApp, declarou que "esse tipo de comportamento [que dissemina ódio às mulheres] não tem lugar nas plataformas" e que "realiza continuamente melhorias para lidar com conteúdos potencialmente danosos". Disse ainda que: "A Meta possui ao redor de 40 mil funcionários que trabalham com segurança em todo o mundo e investiu mais de US$ 30 bilhões [R$ 164 bi] nessa área ao longo da última década."
