Meta, Snap e TikTok estão trabalhando juntos para impedir a disseminação de conteúdo de suicídio e automutilação

Meta, Snap e TikTok lançaram um novo programa chamado Thrive para impedir a disseminação de conteúdo gráfico que retrata ou incentiva a automutilação e o suicídio. A Thrive permite que as empresas participantes troquem “sinais” para alertar umas às outras sobre conteúdo infrator em suas plataformas.

Thrive foi desenvolvido em colaboração com a Mental Health Coalition, uma organização sem fins lucrativos dedicada a eliminar o estigma que cerca as discussões sobre saúde mental. A Meta afirma que fornece a infraestrutura técnica por trás do Thrive que permite “compartilhar sinais com segurança”. Ele usa a mesma tecnologia de compartilhamento de sinal entre plataformas que o programa Lantern, projetado para combater o abuso infantil online. As empresas participantes podem compartilhar hashes que correspondam à mídia infratora para alertar umas às outras.

A Meta diz que já tornou esse tipo de conteúdo mais difícil de encontrar em sua plataforma, mas que está tentando deixar espaço para as pessoas falarem sobre sua saúde mental, suicídio e automutilação, desde que não anunciem ou forneçam descrições pictóricas. .

De acordo com os gráficos da Meta, a empresa toma medidas em relação a milhões de conteúdos de suicídio e automutilação a cada trimestre. No último trimestre, cerca de 25 mil dessas postagens foram restauradas, a maioria delas após recurso de um usuário.