Bluesky aborda questões de confiança e segurança relacionadas a abuso, spam e muito mais

A startup de rede social Bluesky, que está construindo uma alternativa descentralizada ao X (antigo Twitter), divulgou uma atualização na quarta-feira sobre como está abordando várias questões de confiança e segurança em sua plataforma. A empresa está em vários estágios de desenvolvimento e teste de uma série de iniciativas focadas em lidar com atores mal-intencionados, assédio, spam, contas falsas, segurança de vídeo e muito mais.

Para combater usuários mal-intencionados ou aqueles que assediam outras pessoas, a Bluesky diz que está desenvolvendo novas ferramentas que podem detectar quando várias contas novas são criadas e gerenciadas pela mesma pessoa. Isso poderia ajudar a conter o assédio quando um ator mal-intencionado cria múltiplas identidades diferentes para atingir suas vítimas.

Outro novo experimento ajudará a detectar respostas “grosseiras” e relatá-las aos moderadores do servidor. Semelhante ao Mastodon, o Bluesky oferecerá suporte a uma rede onde auto-hosters e outros desenvolvedores poderão executar seus próprios servidores que se conectam ao servidor do Bluesky e a outros na rede. Esta função de federação ainda está em seus estágios iniciais. No entanto, posteriormente os moderadores do servidor poderão decidir como agir contra aqueles que postarem respostas rudes. Enquanto isso, a Bluesky reduzirá a visibilidade dessas respostas em seu aplicativo. Rótulos rudes repetidos no conteúdo também resultarão em rótulos e banimentos no nível da conta, diz.

Para limitar o uso de listas para assediar outras pessoas, o Bluesky remove usuários individuais de uma lista se eles bloquearem o criador da lista. Um recurso semelhante também foi introduzido recentemente para Starter Packs, um tipo de lista compartilhável que pode ajudar novos usuários a encontrar pessoas para seguir na plataforma (confira o TechCrunch Starter Pack).

Bluesky também pesquisa listas de nomes ou descrições ofensivas para limitar a capacidade das pessoas de assediar outras pessoas, adicionando-as a uma lista pública com um nome ou descrição tóxica ou ofensiva. As pessoas que violarem as Diretrizes da Comunidade da Bluesky serão ocultadas do aplicativo até que o proprietário da lista faça alterações para cumprir as regras da Bluesky. Outras medidas também serão tomadas contra os usuários que continuam a criar listas ofensivas, embora a empresa não tenha fornecido detalhes, acrescentando que as listas ainda eram objeto de discussão e desenvolvimento ativo.

Nos próximos meses, a Bluesky também deixará de depender de relatórios de e-mail para relatórios de moderação e, em vez disso, os tratará por meio do aplicativo usando notificações.

Para combater spam e outras contas falsas, a Bluesky está lançando um projeto piloto que detectará automaticamente quando uma conta é falsa, trapaceia ou envia spam. Em conjunto com a moderação, o objetivo é poder tomar medidas contra as contas “segundos após o recebimento de uma denúncia”, segundo a empresa.

Um dos desenvolvimentos mais interessantes diz respeito a como a Bluesky cumprirá as leis locais e ao mesmo tempo permitirá a liberdade de expressão. São usados ​​rótulos geograficamente específicos, permitindo que o conteúdo seja ocultado dos usuários em uma área específica para cumprir a lei.

“Isso permite que o serviço de moderação da Bluesky permaneça flexível e forneça um espaço para liberdade de expressão, ao mesmo tempo que garante a conformidade regulatória para que a Bluesky possa continuar a operar como um serviço nessas regiões”, disse a empresa em um blog. “Esse recurso será implementado em cada país individualmente e tentaremos informar os usuários sobre a origem das solicitações legais sempre que for legalmente possível.”

Para resolver possíveis problemas de confiança e segurança com vídeos adicionados recentemente, a equipe está adicionando recursos como a capacidade de desativar a reprodução automática de vídeos, garantir que os vídeos sejam rotulados e permitir que os vídeos sejam denunciados. Ainda estamos avaliando o que mais pode precisar ser adicionado. A prioridade é definida com base no feedback do usuário.

Quando se trata de abuso, a empresa diz que sua abordagem é “perguntar com que frequência algo acontece e quão prejudicial é”. A empresa se concentra em resolver problemas de alto dano e alta frequência, ao mesmo tempo em que “persegue casos extremos que podem causar sérios danos a alguns usuários”. Embora este último afecte apenas um pequeno número de pessoas, causa tantos “danos contínuos” que a Bluesky tomará medidas para prevenir o abuso, afirma.

As preocupações dos usuários podem ser levantadas por meio de relatórios, e-mails e menções à conta @safety.bsky.app.