TikTok é acusada de testar recurso de segurança inoperante em adolescentes e crianças

Milhares de usuários do TikTok que ativaram uma ferramenta de segurança, o Algo Refresh, receberam uma versão que não funcionava, de acordo com as alegações na ação judicial da Procuradora-Geral de Nova York, Letitia James, desclassificada na quarta-feira, segundo a Reuters.

O Algo Refresh foi desenvolvido para redefinir as recomendações de um usuário quando ele deseja se afastar de vídeos indesejados ou prejudiciais.

No que a ação judicial chama de experimentos fantasmas ou placebo, os usuários do grupo placebo receberam confirmação de que o Algo Refresh havia sido ativado, embora suas recomendações não tivessem sido redefinidas, alega a ação.

Nova York diz que os usuários foram enganados

A ação judicial alega que o TikTok garante aos usuários que a segurança é uma prioridade máxima e que a plataforma é adequada para crianças e adolescentes, enquanto retém conscientemente ferramentas de segurança de certos grupos, incluindo usuários que buscavam especificamente evitar conteúdo prejudicial.

De acordo com a ação judicial, a empresa teria enganado os usuários sobre a funcionalidade do Algo Refresh, que na verdade era uma redefinição temporária do algoritmo usado para recomendações.

Conforme o processo, o TikTok continuou executando experimentos com milhares de usuários ao longo de 2023, comparando aqueles que usavam o recurso e aqueles que não o usavam, analisando quanto tempo os usuários passavam na plataforma e como a configuração impactava a receita de anúncios.

Um porta-voz afirmou que a empresa faz melhorias contínuas e, como a maioria das empresas, testa regularmente novos produtos e recursos para validar a experiência e entender como funcionam no mundo real.

O TikTok negou amplamente as alegações de Nova York em documentos judiciais e afirma que manter os jovens seguros é uma prioridade.

Funcionário do TikTok alertou que o teste placebo poderia induzir os usuários a erro

A ação judicial alega que um gerente de produto da área de Bem-Estar Digital disse aos colegas que os testes placebo no Algo Refresh eram problemáticos e que os usuários poderiam achálos enganosos.

“Este recurso trata de transparência e controle do algoritmo”, escreveu a pessoa em um chat interno. “Um grupo placebo entra completamente em conflito com isso.” A empresa realizou os testes mesmo assim.

As alegações surgiram após a quebra do sigilo da denúncia

A Procuradora-Geral James apresentou o caso em 2024, enquanto as mais recentes alegações foram incluídas em uma denúncia emendada, apresentada sob sigilo no final de agosto de 2026. Elas se tornaram públicas apenas depois que um juiz determinou a quebra do sigilo.

De acordo com a Reuters, muitos documentos em outras ações judiciais estaduais contra o TikTok também foram mantidos sob sigilo ou altamente censurados, numa tentativa de esconder informações sobre as práticas internas da empresa.

A denúncia revelada ao público também alega outro experimento em que o TikTok aparentemente desativou algumas de suas medidas de segurança para usuários aleatórios. Um adolescente de Nova York, selecionado como parte desse teste, tirou a própria vida, segundo investigações internas citadas na ação judicial, que mostraram que sua conta estava repleta de conteúdo sobre suicídio e automutilação.

O experimento também chamou a atenção em Washington, onde, em agosto, os senadores Marsha Blackburn e Richard Blumenthal o classificaram como "depravo". Os dois senadores enviaram 13 perguntas à TikTok para entender como o teste foi estruturado, quem o aprovou e quais supostas salvaguardas estavam em vigor.

A ação judicial de Nova York faz parte de um desafio legal muito mais amplo. Mais de 20 estados alegaram que o TikTok projetou recursos para fomentar o uso compulsivo entre os jovens, apesar das alegações exageradas da empresa sobre suas medidas de segurança.

Essa pressão já resultou em acordos. Em setembro, o TikTok concordou em pagar até US$ 300 milhões ao Alabama e fazer alterações no funcionamento de sua plataforma para adolescentes, resolvendo o primeiro dos casos estaduais que estavam programados para ir a julgamento.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.