TikTok deu a adolescentes um botão placebo para reiniciar o feed, acusa Nova York

Quando milhares de usuários do TikTok — entre eles adolescentes e crianças — apertaram o botão do aplicativo para apagar suas recomendações e começar de novo, nada aconteceu, segundo documentos recém-tornados públicos no processo movido por Nova York contra a empresa. Eles viram uma mensagem dizendo que a redefinição havia funcionado. Mas o feed Para Você continuou exibindo o mesmo tipo de vídeo.

A ferramenta no centro da acusação, Algo Refresh, é uma das poucas saídas oferecidas pelo TikTok a quem vê o feed se afastar do que gostaria de encontrar. A ideia é fazer a página Para Você funcionar como se a conta tivesse acabado de ser criada. Nova York alega que algumas das pessoas que recorreram à ferramenta foram colocadas em um grupo de teste e receberam uma versão que não fazia nada, enquanto usuários de fora do experimento receberam uma versão funcional.

A denúncia afirma que, em seguida, o TikTok comparou os dois grupos pelo tempo de uso do aplicativo e pela receita com publicidade. O documento também cita uma objeção interna. Em uma conversa por mensagem, uma gerente de produto da equipe de Bem-Estar Digital do TikTok escreveu: “Este recurso trata de transparência e controle do algoritmo”, acrescentando: “Um grupo placebo é totalmente incompatível com isso”. Nova York também alega que até mesmo a redefinição que funcionava era apenas temporária.

O TikTok contesta essa versão. Um porta-voz da empresa disse à Reuters que “testamos regularmente novos produtos e recursos para validar a experiência e entender como funcionam no mundo real” e afirmou que o processo apresenta uma imagem falsa do funcionamento do Algo Refresh. Em um documento apresentado à Justiça, a empresa reconheceu que seus testes “podem envolver uma parcela do tráfego da plataforma que continuou recebendo a experiência original”, mas negou que isso tenha deixado esses usuários menos seguros.

Há limites concretos para o que se sabe. São alegações feitas em uma denúncia alterada, não conclusões de um tribunal, e os trechos divulgados até agora não informam quantas pessoas foram parar no grupo placebo, quanto tempo durou o teste nem quais foram os resultados. Testar uma mudança em comparação com um grupo de controle é uma prática comum em todo o setor de tecnologia. A questão em disputa é se uma ferramenta de segurança usada por menores deveria ser submetida a esse tipo de teste. O processo diz respeito a Nova York, mas os documentos divulgados até agora não informam onde moravam os usuários que participaram do teste.

Para quem confia no botão hoje, a questão prática é mais restrita. Uma redefinição não prova que o algoritmo se esqueceu de você. Os filtros de palavras-chave do TikTok, a configuração de conteúdo restrito e a opção de ocultar criadores específicos são controles separados, e a redefinição não os altera.

Os testes descritos no documento ocorreram em 2023, mesmo ano em que o TikTok lançou a opção de atualizar o feed Para Você. A procuradora-geral de Nova York, Letitia James, processou a empresa pela primeira vez em outubro de 2024. As alegações sobre o grupo placebo aparecem em uma denúncia alterada que foi apresentada sob sigilo no fim de agosto e que um juiz determinou que fosse tornada pública, como noticiou a Reuters em 7 de outubro.

Esse não é o único experimento mencionado no processo. A Bloomberg informou em agosto que o TikTok deixou de fornecer uma atualização de segurança separada a cerca de 10% de seus usuários nos Estados Unidos, aproximadamente 15 milhões de pessoas, e que um nova-iorquino de 16 anos que fazia parte desse grupo morreu por suicídio em 2022. Nenhum tribunal relacionou a morte ao teste.

Mais de duas dezenas de estados dos Estados Unidos processaram o TikTok, acusando a empresa de projetar o aplicativo para viciar crianças e de enganar as famílias sobre suas ferramentas de segurança. O Alabama, cujo processo foi o primeiro a ter julgamento marcado, chegou a um acordo em setembro por até US$ 300 milhões. Nenhuma data para o julgamento do caso de Nova York foi divulgada.

Tags: tiktok, Nova York, segurança infantil, Algo Refresh, Para Você