The New York Times; Na última eleição para o Bundestag, a Câmara dos Deputados na Alemanha, surgiram contas no TikTok de indivíduos que se faziam passar por figuras políticas destacadas. Na Colômbia, posts no TikTok atribuíram uma frase de um candidato a um vilão de quadrinhos e deixaram uma mulher se fazer passar pela filha de outro candidato. Nas Filipinas, vídeos do TikTok disseminaram mitos sobre o ex-ditador do país que o apresentavam sob uma falsa ótica positiva e ajudaram seu filho a vencer a corrida presidencial.
Problemas semelhantes agora chegam aos Estados Unidos.
Às vésperas das midterms —as eleições legislativas que acontecem no meio do mandato presidencial—, marcadas para novembro, o TikTok já está se configurando como um dos maiores pontos de origem de informações enganosas e falsas, sob muitos aspectos tão problemático quanto o Facebook e o Twitter, dizem pesquisadores que monitoram fake news online.
Isso porque as mesmas qualidades que permitem ao TikTok alimentar danças que viralizam —o alcance tremendo da plataforma, a curta duração dos vídeos, seu algoritmo de recomendação, poderoso porém opaco— também dificulta a contestação de afirmações falsas.
Teorias conspiratórias infundadas sobre uma suposta fraude eleitoral dada como certa em novembro são vistas amplamente no TikTok, que tem mais de um bilhão de usuários ativos no mundo todos os meses. Os usuários não podem fazer uma busca pela hashtag #StopTheSteal, mas #StopTheSteallll acumulou quase 1 milhão de visualizações até o TikTok desabilitar a hashtag, depois de contatado pelo jornal The New York Times.
Alguns vídeos exortavam os espectadores a votarem em novembro e citavam rumores desmentidos levantados durante as audiências no Congresso sobre o ataque ao Capitólio em janeiro do ano passado. Posts to TikTok têm recebido milhões de visualizações por alegarem, sem evidências, que previsões de um aumento dos casos de Covid no próximo outono americano são uma tentativa de desencorajar o voto presencial.
A difusão de desinformação deixou o TikTok diante de muitas das questões espinhosas envolvendo liberdade de expressão e moderação de conteúdo que o Facebook e o Twitter enfrentam há vários anos e vêm combatendo com resultados desiguais.
Mas o desafio talvez seja ainda mais difícil para o TikTok enfrentar. Vídeos e áudios, que formam a maioria dos conteúdos compartilhados no app, podem ser muito mais difíceis de moderar do que textos, especialmente quando seu tom é irônico. Muitos em Washington especulam que talvez as decisões comerciais sobre dados e moderação do TikTok, pertencente à gigante tecnológica chinesa ByteDance, sejam influenciadas por suas raízes em Pequim.
“Quando você tem vídeos muito curtos, com conteúdo de texto extremamente limitado, não há espaço ou tempo para discussões com nuances sobre política”, diz Kaylee Fagan, pesquisadora do Projeto de Tecnologia e Transformação Social do Centro Shorenstein da Harvard Kennedy School.
O TikTok mal havia chegado aos Estados Unidos na época das midterms de 2018. Durante a eleição presidencial de 2020, ele ainda era visto amplamente como app de entretenimento para jovens e adolescentes.
Hoje, seus usuários americanos passam em média 82 minutos por dia na plataforma, três vezes mais tempo do que no Snapchat ou Twitter e duas vezes mais do que no Instagram ou Facebook, segundo estudo recente da empresa de análises de aplicativos Sensor Tower. O TikTok está ganhando importância crescente como destino de conteúdos políticos, muitas vezes produzidos por influenciadores.
A empresa insiste que tem o compromisso de combater informações falsas. Segundo relatório que lançou no ano passado, no segundo semestre de 2020 ela removeu quase 350 mil vídeos que incluíam desinformação eleitoral e mídia manipulada. Os filtros da plataforma teriam impedido outros 441 mil vídeos contendo alegações não comprovadas de serem recomendadas aos usuários.
O serviço bloqueou conteúdos ditos deepfake e campanhas coordenadas de desinformação antes da eleição de 2020, deixando mais fácil para os usuários denunciarem informações eleitorais falsas, e formou uma parceria com 13 organizações de verificação de fatos, incluindo a PolitiFact. Pesquisadores como Fagan disseram que o TikTok se esforçou para eliminar termos de busca problemáticos. Mas ainda é fácil contornar seus filtros usando uma ortografia criativa, como foi o caso da hashtag #StopTheSteallll.
“Encaramos com o máximo de seriedade nossa responsabilidade de proteger a integridade de nossa plataforma e das eleições”, afirma o TikTok em nota. “Continuamos a investir em nossas equipes de políticas e de segurança para combater a desinformação eleitoral.”
O TikTok também vem tendo dificuldade para conter desinformação não política nos Estados Unidos. Mitos sobre vacinas contra a Covid e máscaras se alastram livremente, assim como rumores e fake news sobre dietas, problemas pediátricos e atendimento de afirmação de gênero para transgêneros. Um vídeo que alegou falsamente que o massacre na escola primária Robb, em Uvalde, Texas, em maio, foi encenado atraiu mais de 74 mil visualizações antes de ser tirado do ar pelo TikTok.
Posts no TikTok sobre a Guerra da Ucrânia também têm sido problemáticos. Mesmo jornalistas e pesquisadores experientes que analisam posts na plataforma têm dificuldade em diferenciar o que é verdade do que é boato ou invenção, segundo relatório do Shorenstein Center divulgado em março.
Pesquisadores concluíram que o design do TikTok converte o aplicativo num terreno fértil para desinformação. Eles afirmam que vídeos podem facilmente ser manipulados e republicados na plataforma e mostrados ao lado de conteúdos roubados ou originais. O uso de pseudônimos é comum; vídeos cômicos ou paródicos são facilmente interpretados como sendo factuais; a popularidade afeta a visibilidade dos comentários, e dados sobre data e hora da publicação de um post, além de outros detalhes, não são mostrados claramente no app para celular.
(Os pesquisadores do Shorenstein Center destacam, porém, que o TikTok não é tão vulnerável quanto plataformas como Twitter ou Facebook ao chamado “brigading”, em que grupos se coordenam online para disseminar um post amplamente.)
Segundo o TikTok, no primeiro trimestre de 2022, mais de 60% dos vídeos que traziam desinformação lesiva foram visualizados por usuários antes de serem removidos. No ano passado, um grupo de cientistas comportamentais que haviam trabalhado com o TikTok disse que um esforço para fixar avisos a posts com teor não comprovado reduziu o compartilhamento deles em 24%, mas só limitou as visualizações em 5%.
Pesquisadores dizem que a desinformação vai continuar a prosperar no TikTok enquanto a plataforma continuar a se negar a divulgar dados sobre as origens de seus vídeos e a compartilhar informação sobre seus algoritmos. No mês passado, o TikTok afirmou que este ano vai oferecer algum acesso a uma versão de sua interface de programação de aplicativo, mas não disse se o fará antes das midterms.
Filippo Menczer, professor de informática e ciência da computação e diretor do Observatório de Mídia Social na Universidade de Indiana, conta que propôs colaborações de pesquisa ao TikTok, mas ouviu da empresa “de maneira alguma”.
“Com o Facebook e o Twitter pelo menos há algum grau de transparência, mas no caso do TikTok não temos a menor ideia”, ele diz. “Se não podemos acessar dados, não sabemos quem é suspenso, que conteúdos são removidos, se eles agem em resposta a denúncias ou quais são os critérios para isso. É completamente opaco. Não podemos avaliar nada independentemente.”
Diante de receios renovados de que os vínculos da empresa com a China possam fazer dela uma ameaça à segurança nacional americana, legisladores americanos também estão pedindo mais informações sobre as operações da TikTok. A empresa já disse que pretende armazenas os dados sobre os usuários americanos separados de sua empresa-mãe chinesa. Também disse que suas regras foram modificadas desde que ela foi acusada de censurar posts vistos como contrários aos objetivos políticos de Pequim.
A empresa se negou a dizer quantos moderadores humanos ela emprega para trabalhar ao lado de seus filtros automatizados. (Um executivo do TikTok disse a políticos britânicos em 2020 que a empresa tinha 10 mil moderadores espalhados pelo mundo.) Mas ex-moderadores se queixaram de condições de trabalho difíceis, afirmando que trabalhavam em número insuficiente para a carga de trabalho e que às vezes tinham que analisar vídeos que usavam idiomas e referências que eles desconheciam –um eco de acusações feitas por moderadores de plataformas como o Facebook.
A temporada eleitoral pode ser especialmente difícil para moderadores, porque os posts políticos no TikTok tendem a ser postados por uma seleção difusa de usuários que falam de questões amplas, e não tanto de políticos ou entidades específicas, diz Graham Brookie, diretor sênior do Laboratório de Pesquisas Forenses Digitais do Atlantic Council.
“O fato é que todas as plataformas podem e precisam fazer mais para defender os fatos reais comuns dos quais depende a democracia social”, ele diz. “O TikTok se destaca por suas dimensões, seu crescimento muito veloz e o número de problemas não resolvidos com o modo como toma suas decisões.”
