A Bluesky publicou na sexta-feira seu relatório de moderação do ano passado, observando o crescimento considerável que a rede social experimentou em 2024 e como isso afetou a carga de trabalho de sua equipe de Confiança e Segurança. Ele também observou que o maior número de denúncias veio de usuários que denunciaram contas ou postagens por assédio, trollagem ou intolerância – um problema que atormentou a Bluesky à medida que cresceu e às vezes até levou a protestos em larga escala sobre decisões individuais de moderação.
O relatório da empresa não abordou nem explicou por que agiu ou não em relação a usuários individuais, incluindo aqueles na lista mais bloqueada.
A empresa adicionou mais de 23 milhões de usuários em 2024, quando Bluesky se tornou um novo destino para ex-usuários do Twitter/X por vários motivos. Ao longo do ano, a rede social se beneficiou de diversas mudanças no X, incluindo a decisão de alterar o funcionamento do bloqueio e treinar a IA nos dados do usuário. Outros usuários deixaram o X após os resultados das eleições presidenciais dos EUA, com base em como a política do proprietário do X, Elon Musk, começou a dominar a plataforma. O aplicativo também aumentou o número de usuários enquanto o X foi temporariamente banido no Brasil em setembro.
Para atender às demandas causadas por esse crescimento, a Bluesky aumentou sua equipe de moderação para cerca de 100 moderadores, disse, e continua contratando. A empresa também passou a oferecer acompanhamento psicológico aos colaboradores para auxiliá-los na difícil tarefa de estarem constantemente expostos a conteúdos gráficos. (Uma área que esperamos que a IA aborde um dia, já que os humanos não foram feitos para lidar com esse tipo de trabalho.)
No total, houve 6,48 milhões de denúncias ao serviço de moderação da Bluesky, um aumento de 17 vezes em relação a 2023, quando houve apenas 358.000 denúncias.
A partir deste ano, a Bluesky começará a aceitar relatórios de moderação diretamente de seu aplicativo. Semelhante ao X, isso permitirá que os usuários rastreiem ações e atualizações com mais facilidade. Posteriormente, ele também oferecerá suporte a apelações no aplicativo.
Quando os usuários brasileiros inundaram o Bluesky em agosto, a empresa recebia até 50 mil relatórios por dia, no pico. Isto levou a um atraso no tratamento dos relatórios de moderação e exigiu que a Bluesky contratasse mais funcionários que falassem português, inclusive através de um fornecedor contratado.
Além disso, a Bluesky começou a automatizar mais categorias de relatórios além de spam para ajudar a lidar com o fluxo, embora isso às vezes levasse a falsos positivos. Ainda assim, a automação ajudou a reduzir o tempo de processamento para apenas “segundos” para contas de “alta certeza”. Antes da automação, a maioria dos relatórios era tratada em 40 minutos. Agora, os moderadores humanos são mantidos informados para lidar com os falsos positivos e as apelações, embora nem sempre lidem com a decisão inicial.
Bluesky diz que 4,57% de seus usuários ativos (1,19 milhão) fizeram pelo menos um relatório de moderação em 2024, abaixo dos 5,6% em 2023. A maioria deles – 3,5 milhões de relatórios – foram para postagens individuais. Os perfis das contas foram denunciados 47 mil vezes, muitas vezes por causa de uma foto de perfil ou de um banner. As listas foram reportadas 45.000 vezes; DMs foram relatados 17.700 vezes, com feeds e Starter Packs recebendo 5.300 e 1.900 relatórios, respectivamente.
A maioria dos relatos tratava de comportamento antissocial, como trollagem e assédio – um sinal dos usuários do Bluesky de que desejam ver uma rede social menos tóxica, em comparação com a X.
Outros relatórios foram para as seguintes categorias, disse Bluesky:
- Conteúdo enganoso (falsificação de identidade, desinformação ou alegações falsas sobre identidade ou afiliações): 1,20 milhão
- Spam (menções, respostas ou conteúdo repetitivo excessivos): 1,40 milhão
- Conteúdo sexual indesejado (nudez ou conteúdo adulto não devidamente rotulado): 630.000
- Questões ilegais ou urgentes (violações claras da lei ou dos termos de serviço da Bluesky): 933.000
- Outros (questões que não se enquadram nas categorias acima): 726.000
A empresa também ofereceu uma atualização em seu serviço de etiquetagem, que envolve etiquetas adicionadas a postagens e contas. Os rotuladores humanos adicionaram 55.422 rótulos de “figura sexual”, seguidos por 22.412 rótulos de “rude”, 13.201 rótulos de “spam”, 11.341 rótulos de “intolerante” e 3.046 rótulos de “ameaça”.
Em 2024, 93.076 usuários enviaram um total de 205.000 apelos à decisão de moderação da Bluesky.
Houve também 66.308 remoções de contas por parte de moderadores e 35.842 remoções automáticas de contas. A Bluesky também atendeu 238 solicitações de autoridades policiais, governos e escritórios de advocacia. A empresa respondeu a 182 deles e cumpriu 146. A maioria dos pedidos eram pedidos de aplicação da lei da Alemanha, dos EUA, do Brasil e do Japão, disse.
O relatório completo da Bluesky também investiga outros tipos de questões, incluindo reivindicações de marcas registradas e direitos autorais e relatórios de segurança infantil/CSAM. A empresa observou que enviou 1.154 relatórios confirmados de CSAM ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC).