A mãe de uma menina de 10 anos – que morreu em dezembro do ano passado, processou o TikTok e sua empresa-mãe, ByteDance, alegando que o algoritmo da rede social recomendou o chamado “Blackout Challenge” no feed da menina.
Em uma ação movida na quinta-feira (12/05), Tawainna Anderson, da Pensilvânia (nos EUA), diz que sua filha Nylah morreu sufocada no ano passado ao tentar o desafio viral, que incentiva as pessoas a se gravarem prendendo a respiração ou se estrangulando até desmaiar. A mãe levou a criança às pressas para um hospital em 7 de dezembro, mas a menina não resistiu a algumas complicações e morreu em 12 de dezembro.
Documentos divulgados pelo tribunal que analisa o caso revelam que o TikTok recomendou o desafio a criança porque o algoritmo “determinou que o mortal Blackout Challenge provavelmente seria do interesse de Nylah Anderson, de 10 anos”.
O Blackout Challenge vem circulando na plataforma há anos e, a morte de Tawainna, se soma a uma série de incidentes de asfixia semelhantes e altamente divulgados no TikTok nos últimos anos. Outra menina de 10 anos morreu na Itália depois de tentar o desafio em janeiro, e um menino de 12 anos do Colorado morreu em abril de 2021 pelo mesmo motivo.
Em uma declaração por e-mail, um porta-voz do TikTok disse: “Esse ‘desafio’ perturbador, que as pessoas parecem estar aprendendo de outras fontes além do TikTok, é anterior à nossa plataforma e nunca foi uma tendência do TikTok. Permanecemos vigilantes em nosso compromisso com a segurança do usuário e removeremos imediatamente o conteúdo relacionado, se encontrado. Nossas mais profundas condolências à família por sua trágica perda“.
A plataforma tem regras explícitas sobre conteúdo que promove a automutilação. O aplicativo tem uma versão para usuários menores de 13 anos que limita os detalhes pessoais que os usuários podem compartilhar e sua capacidade de comentar ou postar conteúdo, mas não está claro como os sistemas automatizados podem impedir que o conteúdo apareça nos feeds dos usuários .
A plataforma tem uma classificação de 12+ nas lojas de aplicativos da Apple e do Google, mas, como na maioria dos aplicativos, basta criar uma conta e afirmar que você está acima do limite de idade. A empresa afirma que removeu mais de 15 milhões de contas infantis no ano passado.
Durante uma coletiva de imprensa na quinta-feira, um dos advogados de Anderson, Bob Mangeluzzi, disse: “O TikTok é uma das empresas mais poderosas e tecnologicamente avançadas do mundo, e o que o TikTok fez quando descobriu isso? Ele usou seu aplicativo e algoritmo para encaminhar um vídeo do Blackout Challenge para uma menina de 10 anos”.
O processo diz que o algoritmo do aplicativo foi projetado intencionalmente para “maximizar o envolvimento e a dependência do usuário” e que incentiva as crianças a se envolverem repetidamente. O processo aponta para o TikTok, designers do algoritmo, como distribuidores que promoveram o conteúdo para Tawainna.
“É hora de esses desafios perigosos chegarem ao fim“, disse Anderson durante a entrevista coletiva. “Algo tem que mudar, algo tem que parar porque eu não gostaria que nenhum outro pai passasse pelo que estou passando“.
Esse processo não é o único a perseguir o TikTok por acusações de que eles promovem conteúdo perigoso para crianças. Em março, surgiram notícias de que vários procuradores gerais dos EUA estão investigando se o TikTok é prejudicial para jovens adultos e se a empresa está ciente do conteúdo que os usuários mais jovens estão visualizando.
O TikTok rapidamente se tornou uma das plataformas de mídia social mais populares disponíveis e já cogitam a hipótese da plataforma lucrar mais em publicidade do que o Twitter e o Snap juntos.
