Ouvimos de moderadores e administradores sobre quanto esforço é necessário para gerenciar suas comunidades e como é importante criar e manter mais facilmente um espaço seguro para seus membros. Em nossa missão de tornar mais fácil manter suas comunidades seguras no Discord, estamos apresentando uma nova ferramenta de moderação automática chamada AutoMod. Com o AutoMod, você terá acesso a diferentes filtros de conteúdo que permitem detectar automaticamente - e até bloquear - um conteúdo indesejável e perigoso antes mesmo de ser publicado.
O que este artigo aborda?
O que é o AutoMod?
O AutoMod é um sistema de vários filtros de conteúdo projetado para tornar a moderação de conteúdo mais fácil e menos trabalhosa para os moderadores. Alguns filtros, como os Filtros de palavras-chave, são configuráveis para que você possa fazer com que o AutoMod detecte e bloqueie automaticamente mensagens contendo palavras ou frases específicas que você considera prejudiciais à sua comunidade antes mesmo de serem postadas. Outros filtros que estamos construindo são alimentados por algoritmos de aprendizado de máquina para detectar e bloquear mensagens prejudiciais ou perigosas, como links para malware.
O AutoMod impede que mensagens indesejadas sejam postadas em sua comunidade em todos os seus #canais-de-texto, juntamente com outras opções de mensagens, como Tópicos e o Chat de texto em canais de voz. Dessa forma, você pode se sentir mais confortável fornecendo à sua comunidade mais maneiras de conversar e interagir uns com os outros sem se preocupar em adicionar mais trabalho de moderação ao seu prato.
Você também pode optar por fazer com que o AutoMod envie alertas contendo informações de quem/onde/quando sobre mensagens bloqueadas de um canal privado dedicado de sua escolha para ajudar a identificar e agir sobre possíveis agentes mal-intencionados e comportamentos indesejados em sua comunidade.
Uma mensagem bloqueada com base em filtros de palavras-chave
A mensagem bloqueada sendo sinalizada em um canal privado.
Estamos lançando o AutoMod com Filtros de palavras-chave e estamos trabalhando em filtros adicionais que serão adicionados ao AutoMod quando estiverem prontos.
O que São Filtros de Palavras-chave?
Os Filtros de palavras-chave do AutoMod permitem configurar as seguintes regras para determinar o que o AutoMod deve procurar e como agir quando sinalizar uma mensagem contendo determinadas palavras ou frases:
- Regra de Palavras Comumente Sinalizadas - Use listas de palavras prontas para filtrar palavras comumente sinalizadas;
- Regra de Palavras-chave Personalizadas - crie sua própria lista de palavras-chave e termos para filtrar em sua comunidade.
Entendemos que pode ser difícil e demorado pensar em todas as palavras que você deseja filtrar do zero enquanto também modera uma comunidade. Para começar com o AutoMod, você pode configurar rapidamente uma regra de palavras comumente sinalizadas para habilitar listas de palavras prontas que protegem sua comunidade da exposição a mensagens contendo palavras comumente sinalizadas com o apertar de um botão:
Categorias de Palavras Comumente Sinalizadas
- Linguajar Extremamente Vulgar - Bloqueie as formas mais flagrantes de palavrões, enquanto ainda permite formas leves de xingamentos ou palavrões.
- Insultos e Preconceito - Proteja os membros de sua comunidade de material insultuoso direcionado a eles, incluindo termos que possam ser considerados insultos ou discurso de ódio.
- Conteúdo Sexual - Mantenha a linguagem sexualmente explícita fora de seu servidor para manter sua comunidade adequada a todas as idades.
Como cada comunidade tem seus próprios padrões sobre quais palavras são consideradas aceitáveis, você poderá isentar palavras dessas listas! As palavras isentas não serão mais sinalizadas e não receberão uma resposta do AutoMod. Para palavras que você deseja permitir em sua comunidade, mas que estão sendo filtradas por nossas listas de palavras, basta adicioná-las em “Adicionar palavras isentas.”
Como Configurar Filtros de Palavras-chave para o AutoMod
Para configurar suas próprias regras para palavras comumente sinalizadas ou palavras-chave personalizadas, você pode acessar a guia Moderação de conteúdo nas Configurações do Servidor.
1. Vá para Configurações do servidor > AutoMod para ver as diferentes opções de filtro de palavras-chave para o AutoMod.
2. Em Palavras Comumente Sinalizadas, clique em "Configurar" para selecionar qualquer uma das três listas de palavras prontas de palavras comumente sinalizadas.
Crie suas próprias regras com palavras e frases que você deseja que o AutoMod filtre clicando em "Configurar" em "Regra de palavras-chave personalizadas" e inserindo palavras-chave e frases:
Dica: Se você localizar uma mensagem contendo uma palavra que deseja adicionar às suas regras, poderá fazer isso rapidamente destacando a palavra na mensagem que deseja adicionar, clicando com o botão direito do mouse e selecionando "Sinalizar palavra" para adicionar a palavra à uma regra existente ou nova de sua escolha.
3. Opte por fazer com que o AutoMod bloqueie totalmente as mensagens sinalizadas, envie um alerta e castigo de tempo dos usuários quando sinalizar uma mensagem.
A opção de castigo de tempo só está disponível em Regras de palavras-chave personalizadas
Para receber alertas sobre mensagens sinalizadas capturadas pelo AutoMod, você deve selecionar um canal para o AutoMod enviar alertas. Certifique-se de escolher um canal acessível apenas por administradores e/ou moderadores.
Bloquear mensagem ou enviar um alerta para mensagens sinalizadas
Dando castigo a um usuário com mensagens sinalizadas
4. Adicione Cargos ou Canais que você deseja isentar.
Se você definir um canal como isento, todas as mensagens em Tópicos ou Chats de Texto em Canal de Voz nesse canal também serão isentas. Os usuários com permissões de Admin e Gerenciar Servidor estão sempre isentos das regras de filtro.
O QUE SÃO FILTROS DE SPAM?
O spam é um problema do qual as comunidades precisam se defender todos os dias para proteger seus membros de perigos e pessoas má-intencionadas. Em nossa missão de ajudar você a manter sua comunidade segura sem adicionar mais trabalho à moderação, estamos criando novas ferramentas para ajudar a reduzir o spam no Discord.
Sabemos que o spam vem em muitas formas. Esses novos filtros ajudam a abordar a atividade de mensagens que afeta negativamente os membros da sua comunidade, permitindo que você bloqueie mensagens com conteúdo de texto com spam antes mesmo de serem postadas.
Com os filtros de spam do AutoMod, você pode ativar as duas regras abaixo para proteger sua comunidade contra diferentes tipos de spam. Você também pode escolher como o AutoMod responderá quando uma mensagem acionar suas regras.
1. Regra de Bloqueio de Conteúdo de Spam - Habilite esta regra para detectar mensagens que contenham conteúdo de texto de spam indesejado que interrompa sua experiência no Discord, como:
- Mensagens ou anúncios não solicitados (Nitro grátis);
- Spam de convites.
Observe que esse filtro é alimentado por aprendizado de máquina informado por mensagens de spam que os usuários nos relataram anteriormente - ativar esse filtro AutoMod sinalizará mensagens com características semelhantes. Esse filtro não é perfeito, então pode não pegar tudo o que você considera spam. Por exemplo, palavras sem sentido em várias mensagens ou mensagens “copiar/pasta”.
Monitoraremos o feedback do usuário para melhorar esse filtro ao longo do tempo, então nos ajude: se você encontrar uma mensagem que foi sinalizada incorretamente como spam, clique no botão "Relatar problemas" abaixo da mensagem sinalizada para nos informar.
2. Regra de Bloqueio de Spam de Menção - Defina um limite para o número de menções que uma mensagem pode conter. Uma vez configurado, o AutoMod pode detectar e bloquear mensagens que contenham menções excessivas de usuários ou funções e ajudar a evitar que seus membros recebam notificações e pings desnecessários.
COMO CONFIGURAR FILTROS DE SPAM PARA O AUTOMOD
Para começar a configurar suas próprias regras para Bloqueio de Conteúdo de Spam ou Bloqueio de Spam de Menção, vá para Configurações de Servidor > AutoMod para ver as diferentes opções de filtro de spam:
Como Configurar o Filtro Bloqueio de Conteúdo de Spam
1. Pressione “Configurar” ou ative o controle no filtro Bloquear conteúdo de spam para visualizar as diferentes ações de resposta.
2. Escolha a opção para que o AutoMod bloqueie completamente as mensagens sinalizadas e/ou envie um alerta:
Bloqueie a mensagem e envie um alerta para mensagens sinalizadas
3. (Opcional) Adicione Cargos ou Canais isentos que você não deseja que o AutoMod sinalize para conteúdo suspeito de spam.
Como lembrete, definir um Canal como isento garantirá que todas as mensagens em conversas e bate-papo de texto em voz nesse canal específico também serão isentas.
Como Configurar o Filtro de Bloqueio de Spam de Menção
1. Pressione “Configurar” ou ative o botão de controle em Bloquear Spam de Menção para visualizar as diferentes ações de resposta.
2. Defina um limite no número de menções que uma mensagem pode conter.
Defina um limite no número de menções que uma mensagem pode conter, até ao máximo de 50 por mensagem.
3. Opte por fazer com que o AutoMod bloqueie mensagens, envie um alerta e/ou limite os usuários quando sinalizar uma mensagem contendo menções excessivas.
Bloquear mensagem, enviar um alerta e/ou tempo limite do usuário para mensagens sinalizadas
4. (Opcional) Adicione Cargos ou Canais isentos onde você não deseja que o AutoMod sinalize mensagens que contenham menções excessivas.
Adicionar Cargos ou Canais isentos
FAQ
P: Quem tem acesso ao AutoMod neste momento?
R: Estamos começando a lançar o AutoMod para comunidades de forma mais ampla!
Isso significa que você deve ter a Comunidade habilitada nas configurações do seu servidor para acessar o AutoMod. Veja como ativar um servidor da comunidade aqui.
P: Quais filtros estão atualmente disponíveis no AutoMod?
R: Atualmente, os Filtros de palavras-chave estão disponíveis e prontos para uso. Estamos trabalhando em filtros de conteúdo adicionais que serão adicionados ao AutoMod quando estiverem prontos.
P: Quais idiomas o AutoMod suporta??
R: O AutoMod pode detectar palavras e frases em qualquer idioma de suas Regras de palavras-chave personalizadas.
No entanto, as listas de palavras de palavras comumente sinalizadas estão atualmente disponíveis apenas em inglês.
P: Quais tipos de coisas o AutoMod pode detectar nas minhas regras personalizadas?
R: O AutoMod pode detectar e filtrar palavras e caracteres em inglês e outros idiomas, links, emojis, pontuação e símbolos inseridos em suas Regras de palavras-chave personalizadas.
P: Quem pode fazer atualizações no AutoMod no meu servidor?
R: Aqueles com permissões de "Gerenciar Servidor" ou "Administrador" poderão acessar, criar e editar suas regras de AutoMod quando estiverem em um dispositivo Desktop. As atualizações das suas regras de AutoMod não podem ser feitas em dispositivos móveis no momento.
P: Eu tenho um bot de moderação no meu servidor. O AutoMod se integra ao meu bot atual?
R: Se você estiver usando um bot de moderação automática e quiser o superpoder do AutoMod no bloqueio de mensagens antes de serem enviadas, consulte seu desenvolvedor favorito sobre a integração ao AutoMod. Se você é um desenvolvedor que deseja saber mais, visite nossa API no Portal do Desenvolvedor.
P: Como a correspondência de palavras-chave funciona?
R: O AutoMod bloqueará mensagens que contenham palavras-chave encontradas em qualquer lugar da mensagem, inclusive entre palavras. Isso pode ser útil para reduzir a toxicidade ou proteger contra bots de spam e assédio direcionado.
Quando você adiciona um termo composto por várias palavras a uma regra, apenas as mensagens que contêm o termo exato serão bloqueadas. Por exemplo, adicionar "isto é banana" como um termo bloqueará apenas mensagens que contenham "isto é banana", não aquelas que contenham apenas "isto" ou "é banana".
O número de termos que você pode inserir em cada regra de palavra-chave personalizada é limitado a 1.000 com um limite de 30 caracteres para cada termo.
P: Como as palavras adicionais funcionam?
R: Por padrão, o AutoMod verifica as mensagens que contêm palavras-chave que correspondem exatamente às das suas regras. Mas é provável que você encontre pessoas em sua comunidade tentando burlar suas regras e colocar mensagens prejudiciais em circulação. Então, como você pode bloquear todos os tipos de palavras que correspondem parcialmente às suas palavras-chave também?
É aí que as palavras adicionais entram em jogo. Ao configurar suas Regras de palavras-chave personalizadas, você pode anexar o caractere * para palavras adicionais às suas palavras-chave, o que permite filtrar variações de palavras que correspondem parcialmente às suas palavras-chave.
Basta adicionar o caractere * no início ou no final de uma palavra-chave para selecionar uma das seguintes estratégias de correspondência por palavra-chave:
- Prefixo -- pelo menos uma palavra na mensagem deve começar com uma palavra-chave;
- Sufixo -- pelo menos uma palavra na mensagem deve terminar com uma palavra-chave;
- Qualquer lugar -- palavra-chave pode aparecer em qualquer parte da mensagem no meio de qualquer palavra.
Examples:
cat* ⇒ cat-sitter
*cat ⇒ bobcat
*ana* ⇒ bananas
P: O AutoMod funcionará em Tópicos e Chats de texto em Canais de Voz?
R: Sim! Ao conter uma palavra-chave ou termo de suas regras:
1. Os tópicos não são criados;
2. As mensagens em Tópicos e Chats de texto em Canais de Voz podem ser bloqueadas e enviadas como um alerta.
P: O AutoMod sinalizará mensagens de bots?
R: Não - todos os alertas e mensagens de bot serão isentos do AutoMod.
P: Eu tenho a regra de palavras comumente sinalizadas habilitada - por que ainda estou vendo palavras indesejáveis?
R: Nossos filtros de palavras comumente sinalizadas são projetados para fornecer a todas as comunidades uma maneira rápida e eficaz de configurar defesas contra palavras-chave comumente sinalizadas, para que você não precise pensar nelas e criar do zero.
No entanto, entendemos que cada comunidade tem suas próprias regras e tolerância para certas palavras. Algumas comunidades preferem manter um ambiente a todas as idades, enquanto outras aceitam e incentivam uma linguagem mais agressiva. E muitas vezes não é a palavra em si que causa dano, mas a intenção com a qual está sendo usada.
Devido a essas considerações, nossos filtros de palavras comumente sinalizadas podem não capturar tudo. Para palavras que não identificamos, você pode adicioná-las a qualquer uma de suas Regras de palavras-chave personalizadas.
P: Como posso ver todas as palavras que os filtros de palavras comumente sinalizadas contêm?
R: Entendemos que você deseja ver as palavras nessas listas de palavras para decidir se elas serão eficazes para fornecer cobertura em relação ao idioma que você deseja filtrar, sem sufocar as conversas em suas comunidades.
No entanto, por enquanto, não divulgaremos palavras nessas listas de palavras para manter sua eficácia protetora. Isso é para garantir que aqueles com intenções maliciosas não possam desenvolver facilmente meios de contorná-los nas comunidades que os usam.
Valorizamos fornecer transparência no pensamento que foi feito para fazer essas listas de palavras e abordaremos esses tópicos em um post futuro em nosso blog
.
P: Os filtros de Palavras Comumente Sinalizadas serão atualizados ao longo do tempo?
R: Sim - reconhecemos que a linguagem é fluida e está sempre em evolução, e as palavras de hoje podem não ter o mesmo significado amanhã. Continuaremos a explorar maneiras de oferecer mais personalização às comunidades com nossos filtros e continuaremos refinando-as regularmente usando seus relatórios e comentários.
Para compartilhar seus comentários conosco, pressione "Informar problemas" em qualquer um dos seus alertas AutoMod que contenham a palavra que você deseja sinalizar para nós.