O Discord espera liberar moderadores humanos para os problemas mais amplos nas comunidades que eles administram.
“Os moderadores gastam um tempo bastante decente apenas policiando seus servidores, mas acho que o verdadeiro superpoder dos moderadores é quando eles estão cultivando mais a cultura e realizando eventos [rather than policing individual comments]”, disse o gerente de advertising and marketing de produtos do grupo Discord, Jesse Wofford, ao The Washington Publish. “Há muitas coisas que eles estão fazendo todos os dias que podemos automatizar.”
A opinião do Discord sobre o AutoMod pode detectar, bloquear e alertar automaticamente os moderadores de palavras, frases e até mesmo partes de palavras consideradas inadequadas antes que elas se tornem visíveis para outros usuários. Ele também pode expirar automaticamente os usuários que tentam postar insultos ou spam; um moderador humano pode decidir seu destino posteriormente.
O AutoMod do Discord é um corte acima dos bots criados pelo usuário que partes da comunidade Discord adotaram essencialmente para o mesmo propósito, mas que – devido à falta de acesso ao funcionamento interno do Discord – só podem excluir mensagens prejudiciais depois de aparecerem pelo menos uma fração de segundo. Além disso, os usuários precisam procurar bots e instalá-los em seus servidores, onde o AutoMod do Discord está embutido na plataforma, tornando-o mais acessível.
No entanto, em vez de forçar as comunidades do Discord patrulhadas por bots a jogar fora suas listas de palavras-chave cuidadosamente selecionadas e começar de novo, o Discord está compartilhando a capacidade de excluir mensagens antes que elas sejam enviadas a desenvolvedores de terceiros, atualizando efetivamente os bots de moderação feitos pelo usuário também.
“Se eles estão usando ferramentas que tornam sua comunidade mais segura e fácil de gerenciar, seja por meio de terceiros ou de nós, é uma vitória para nós, independentemente disso”, disse Wofford. Ele também acrescentou que, embora o Discord AutoMod compartilhe a funcionalidade com a variação do Twitch sobre o tema, o Discord tirou a maior parte de sua inspiração não de outras plataformas, mas de “conversar com nossos desenvolvedores e administradores”.
Essa nova funcionalidade focada em segurança chega em um momento em que o Discord está sob maior escrutínio de seus próprios usuários e políticos como A procuradora-geral de Nova York Letitia James após a revelação de que o atirador de Buffalo estabeleceu preventivamente seus planos de ataque em um pequeno servidor Discord, que o Discord desde então disse ele manteve totalmente privado até apenas 30 minutos antes do ataque. Apesar do timing, Wofford explicou que o AutoMod está em andamento há “um bom tempo” e que seu lançamento não é uma reação à tragédia.
Ainda assim, disse ele, a equipe de confiança e segurança da empresa – que trabalha para aliviar problemas maiores e em toda a plataforma envolvendo danos e violência, como o tiroteio em Buffalo – está envolvida em muitas iniciativas no Discord, incluindo o AutoMod.
“A colaboração cruzada entre nossas duas equipes é bastante constante”, disse Wofford. “Mesmo coisas como a lista predeterminada de palavras [AutoMod initially suggests for users to block] foi trabalhado com nossa equipe de segurança e especialistas que eles têm interna e externamente.”
Mas a lista sugerida do Discord é apenas o começo. Os memes estão sempre evoluindo, assim como os apitos, mensagens de spam e golpes e erros ortográficos propositais de palavras que passam na ponta dos pés até mesmo pelos filtros mais vigilantes. Uma palavra completamente inocente em um servidor Discord pode ser um comentário racista em outro. Wofford e a empresa esperam que as listas de palavras-chave personalizadas do AutoMod permitam que os moderadores reajam de forma tão rápida e abrangente que até mesmo os trolls criativos perdem o interesse.
“Estamos investindo tanto, se não mais, esforços do nosso lado para cuidar das questões de segurança, mesmo sem os moderadores”, disse ele. “Mas também sabemos que os moderadores geralmente têm mais contexto para o que fazem ou não querem em sua comunidade. E esses tipos de ferramentas em specific são sobre dar a eles maneiras mais poderosas de realmente promulgar isso por si mesmos.”
A versão recém-lançada do AutoMod do Discord está longe de ser um produto acabado. Wofford disse que, no que diz respeito aos recursos futuros, a equipe está considerando funcionalidades AutoMod mais diferenciadas que podem, por exemplo, permitir que certas regras entrem em vigor apenas em horários específicos do dia quando os moderadores estiverem ausentes. Mas tudo vai depender dos usuários.
“Assim que lançarmos isso, queremos entender o quanto as pessoas estão realmente utilizando isso”, disse ele. “E se as pessoas não estão utilizando, quais são as coisas que estamos perdendo?”
