Os funcionários do Snap estavam bem cientes dos problemas de segurança infantil do aplicativo, de acordo com uma reclamação recentemente divulgada

“Em novembro de 2022, os funcionários do Snap discutiram 10.000 relatos de usuários sobre sextorção todos os meses e reconheceram que, dada a vergonha e outras barreiras à denúncia, esses relatos “provavelmente representam apenas uma pequena parte desse abuso”, diz uma versão recentemente revelada do processo. movido pelo Procurador-Geral do Novo México contra Snap. Esta versão menos redigida do documento, que vimos pela primeira vez há um mês, contém novos detalhes sobre o que os funcionários do Snap supostamente sabiam sobre a extensão do problema de sextorção que a empresa teria promovido em sua plataforma.

Em um suposto caso, os funcionários apontaram um caso com 75 denúncias que “mencionavam nudez, menores e chantagem, mas a conta ainda estava ativa”. E em 2022, uma investigação interna da Snap supostamente descobriu que mais de um terço das adolescentes e 30% dos adolescentes em seu aplicativo foram expostos a “contatos indesejados em sua plataforma”. diz a reclamação.

Os novos detalhes pintam o retrato de uma empresa que está ciente das suas alegadas deficiências na proteção das crianças nos seus serviços, mas não está suficientemente focada em abordá-las. “Ex-funcionários de confiança e segurança do Snap reclamaram que tinham pouco contato com a alta administração em comparação com seu trabalho em outras empresas de mídia social e que as tentativas de adicionar mecanismos de segurança no aplicativo encontraram resistência [Snap CEO] “Evan Spiegel priorizou o design”, afirma a denúncia.

Em comunicado publicado na redação, o Snap disse que seu aplicativo foi “projetado como um lugar para se comunicar com um círculo próximo de amigos, com grades de segurança integradas, e tomou decisões de design conscientes para tornar mais difícil para estranhos descobrirem menores em nosso site”. serviço.” Estamos constantemente evoluindo nossos mecanismos e políticas de segurança, desde o uso de tecnologia avançada para detectar e bloquear certas atividades, até a proibição de amizades com contas suspeitas, até a cooperação com autoridades policiais e agências governamentais, e muito mais.”

De acordo com a denúncia, em 2021, os funcionários do Snap distribuíram um relatório externo que incluía exemplos de supostos predadores interagindo com crianças de até oito anos por meio do Snapchat e obtendo material de abuso sexual infantil. No entanto, temiam que as medidas para detectar este tipo de comportamento representassem um fardo indevido para a privacidade dos utilizadores e “incorressem em custos administrativos desproporcionais”, afirma a queixa.

Os funcionários também identificaram riscos com certos recursos do Snapchat, como o Quick Add, que sugere que outros usuários se conectem a eles. “Precisamos desenvolver novas abordagens que protejam nossos usuários mais vulneráveis ​​(menores) e tornem mais difícil para usuários predatórios encontrá-los por meio de adição rápida, pesquisa, etc.”, escreveu um gerente, de acordo com a denúncia. “Acreditamos que podemos conseguir isso sem impactar significativamente a experiência do produto para esses usuários, à medida que buscamos novas estratégias na geração/restrições de inventário e outras técnicas para separar de forma mais eficaz os menores daqueles fora de suas redes”, acrescentou Snap mais tarde, causando o recurso Quick Add para só aparecem em contas de jovens de 13 a 17 anos se eles tiverem “um certo número de amigos em comum com essa pessoa”. Mas internamente, diz a denúncia, os funcionários reconheceram que a abordagem ainda apresentava falhas significativas.

A denúncia não lacrada também fornece mais detalhes sobre como o Snap supostamente facilitou a venda ilegal de armas. Numa apresentação sem data, a empresa reconheceu que a sua plataforma vê “50 publicações por dia relacionadas com vendas ilegais de armas e 9.000 visualizações destas armas comercializadas por dia”. E mesmo quando o conteúdo é denunciado: “[r]O conteúdo denunciado normalmente é visualizado centenas de vezes antes de ser denunciado.”

Isso inclui comunicações internas que reconhecem a natureza viciante do Snapstreaks e informam aos usuários há quantos dias eles estão se comunicando com outro usuário. “Uau, deveríamos ter recursos mais viciantes como esse”, escreveu um funcionário, de acordo com um e-mail de janeiro de 2017. “A maioria dos Streakers é nosso grupo principal”, escreveu outro. Uma apresentação de outubro de 2019 teria dito: “As listras tornam impossível desconectar mesmo por um dia”.