Les modérateurs et les administrateurs nous ont fait part des efforts qu'ils doivent consacrer à la gestion de leur communauté et de l'importance de pouvoir créer et maintenir plus facilement un espace sûr pour leurs membres. Dans le cadre de notre mission visant à faciliter la sécurité de vos communautés sur Discord, nous introduisons un nouvel outil d'auto-modération appelé AutoMod, pour faire court. Avec AutoMod, vous aurez accès à différents filtres de contenu qui vous permettront de détecter automatiquement - et même de bloquer - les contenus indésirables et risqués avant qu'ils ne soient publiés.
De quoi parle cet article ?
- Qu'est-ce que l'AutoMod ?
- Que sont les filtres de mots-clés ?
- Que sont les filtres anti-spam ?
- Foire Aux Questions
Qu'est-ce que l'AutoMod ?
AutoMod est un système de filtres de contenu multiples conçu pour faciliter la modération du contenu et alléger le travail des modérateurs. Certains filtres, comme les filtres de mots-clés, sont configurables afin que l'AutoMod puisse détecter et bloquer automatiquement les messages contenant des mots ou des phrases spécifiques que vous jugez nuisibles à votre communauté avant même qu'ils ne soient publiés. D'autres filtres que nous construisons sont alimentés par des algorithmes d'apprentissage automatique pour détecter et bloquer les messages nuisibles ou dangereux, tels que les liens vers des logiciels malveillants.
AutoMod empêche la publication de messages indésirables dans votre communauté sur tous vos salons #text, ainsi que sur d'autres surfaces de messagerie comme les fils de discussion et le chat textuel dans les salons vocaux. De cette façon, vous pouvez vous sentir plus à l'aise pour offrir à votre communauté davantage de moyens de parler et d'interagir entre eux sans vous soucier d'ajouter du travail de modération supplémentaire.
Vous pouvez également choisir de permettre à AutoMod de vous envoyer des alertes contenant des informations de type qui-quoi-où sur les messages bloqués vers un salon dédié et privé de votre choix afin de vous aider à identifier et à agir sur les mauvais acteurs potentiels et les comportements indésirables au sein de votre communauté.
Que sont les filtres de mots-clés ?
Les filtres de mots-clés d'AutoMod vous permettent de configurer les règles suivantes pour déterminer ce que l'AutoMod doit rechercher et comment répondre lorsqu'il signale un message contenant certains mots ou expressions :
1. Règle des mots couramment signalés - Utilisez des listes de mots prêtes à l'emploi pour filtrer les mots couramment signalés
2. Règle des mots-clés personnalisés - Créez votre propre liste de mots-clés et de termes à filtrer dans votre communauté
Nous comprenons qu'il peut être difficile et fastidieux de penser à tous les mots que vous souhaitez filtrer à partir de zéro tout en modérant une communauté. Pour commencer avec AutoMod, vous pouvez rapidement configurer une règle " mots couramment signalés " pour activer des listes de mots prêtes à l'emploi qui protègent votre communauté de l'exposition aux messages contenant des mots couramment signalés, en appuyant simplement sur un bouton :
Catégories de mots couramment signalés :
- Insultes et injures - Protégez les membres de votre communauté contre les insultes personnelles qui leur sont adressées, y compris les termes qui peuvent être considérés comme des insultes ou des discours de haine.
- Contenu sexuel - Gardez le langage sexuellement explicite en dehors de votre serveur pour que votre communauté reste familiale.
- Obscénités extrêmes - Bloquez les formes les plus flagrantes de langage profane, tout en autorisant les formes légères de jurons ou de gros mots.
Comme chaque communauté a ses propres normes sur les mots jugés acceptables, vous aurez la possibilité d'exempter des mots de ces listes ! Les mots exemptés ne seront plus signalés et ne recevront pas de réaction de la part de l'AutoMod. Pour les mots que vous souhaitez autoriser dans votre communauté mais qui sont filtrés par nos listes de mots, il suffit de les ajouter sous "Ajouter des mots exemptés"
Comment configurer les filtres de mots-clés pour AutoMod
Pour définir vos propres règles concernant les mots fréquemment signalés ou les mots-clés personnalisés, vous pouvez accéder à l'onglet Modération du contenu dans les paramètres de votre serveur.
- Rendez-vous dans Paramètres du serveur > AutoMod pour voir les différentes options de filtrage des mots-clés pour AutoMod.
- Sous Mots couramment marqués, cliquez sur "Configurer" pour sélectionner l'une des trois listes de mots couramment signalés prêtes à l'emploi.
3. Créez vos propres règles avec les mots et les phrases que vous voulez qu'AutoMod filtre en cliquant sur " Configurer " sous " Règle de mots clés personnalisée " et en saisissant les mots et les phrases en question.
Astuce : Si vous repérez un message contenant un mot que vous souhaitez ajouter à vos règles, vous pouvez le faire rapidement en mettant en évidence le mot dans le message que vous souhaitez ajouter, en cliquant avec le bouton droit de la souris et en sélectionnant " Signaler le mot " pour ajouter le mot à une règle existante ou nouvelle de votre choix.
3. Choisissez qu'AutoMod bloque entièrement les messages signalés avec un message personnalisé, vous envoie une alerte et expire les utilisateurs* lorsqu'il signale un message.
*La réponse de l'utilisateur Expulsé n'est disponible que sous les Règles de Mots-clés Personnalisées
Quand AutoMod bloque un message, un membre recevra un message visible uniquement pour lui. Pour ajouter votre propre message, vous pouvez sélectionner « Modifier un message personnalisé » et entrer le vôtre (jusqu'à 150 caractères).
Pour être alerté des messages repérés par AutoMod, vous devez sélectionner un salon sur lequel AutoMod enverra des alertes. Veillez à choisir un salon accessible uniquement par les administrateurs et/ou les modérateurs.
Bloquer un message ou envoyer une alerte pour les messages signalés
Exclure temporairement un utilisateur pour les messages signalés
- Ajoutez les rôles ou les salons que vous souhaitez exempter.
Si vous définissez un salon comme étant exempté, tous les messages dans les fils de discussion ou les discussions textuelles dans le salon vocal de ce salon seront également exemptés. Les utilisateurs disposant des permissions Admin et Gérer le serveur sont toujours exemptés des règles de filtrage.
Bloquer les mots dans les noms d'utilisateur des membres du serveur ou les surnoms du serveur
Vous pouvez également personnaliser les mots ou phrases que vous ne voulez pas voir dans les noms d'utilisateur des membres ou les surnoms des serveurs lorsque vous êtes sur votre serveur. Les noms d'utilisateur ou les membres qui ont des surnoms de serveur qui contiennent ces mots bloqués seront tenus de mettre à jour leur surnom de serveur avant de pouvoir parler ou interagir avec d'autres membres du serveur.
Si les membres n'ont pas la permission de mettre à jour le pseudo de leur serveur, les membres devront mettre à jour leur nom d'utilisateur par défaut avant de pouvoir parler ou interagir sur votre serveur. AutoMod vérifiera par défaut le surnom du serveur et si ce n'est pas implémenté, AutoMod vérifiera leur nom d'utilisateur.
1. Pour configurer cela, allez dans les Paramètres du Serveur > Configuration de sécurité
2. Appuyez ensuite sur Modifier à côté de AutoMod.
3. Sous “Membres”, vous devriez voir une option qui dit “Bloquer les mots dans les noms de profil de membre”, appuyez sur le x pour l'activer s'il n'est pas déjà activé.
Si un utilisateur tente d'utiliser une des phrases ou des mots bloqués dans son nom d'utilisateur ou son pseudonyme de serveur, ils recevront un message d'erreur et auront besoin d'utiliser autre chose.
QUE SONT LES FILTRES ANTI-SPAM ?
Le spam est un problème contre lequel les communautés doivent se défendre chaque jour pour protéger leurs membres des dangers et des mauvais acteurs. Dans le cadre de notre mission, qui consiste à vous aider à assurer la sécurité de votre communauté sans vous imposer un travail de modération supplémentaire, nous mettons au point de nouveaux outils pour réduire le spam sur Discord.
Nous savons que le spam se présente sous de nombreuses formes. Ces nouveaux filtres permettent de lutter contre les activités de messagerie qui ont un impact négatif sur les membres de votre communauté, en vous permettant de bloquer les messages contenant du spam avant qu'ils ne soient publiés.
Avec les filtres anti-spam d'AutoMod, vous pouvez activer les deux règles ci-dessous pour protéger votre communauté contre différents types de spam. Vous pouvez également choisir comment AutoMod réagira lorsqu'un message déclenche vos règles.
- Règle de blocage du contenu spam - Activez cette règle pour détecter les messages contenant du contenu texte spammeur indésirable qui perturbe votre expérience sur Discord, tel que :
-
- Messages ou publicités non sollicités (Nitro gratuit)
- Spam d’invitation
Notez que ce filtre est alimenté par l'apprentissage automatique qui s'appuie sur les messages de spam que les utilisateurs nous ont précédemment signalés - l'activation de ce filtre AutoMod signalera les messages présentant des qualités similaires. Ce filtre n'est pas parfait et il se peut qu'il n'attrape pas tout ce que vous considérez comme du spam, par exemple des mots absurdes dans plusieurs messages ou des messages de type "copier/coller".
Nous suivrons les commentaires des utilisateurs afin d'améliorer ce filtre au fil du temps, alors aidez-nous : si vous tombez sur un message qui a été marqué à tort comme spam, cliquez sur le bouton "Signaler un problème" situé sous le message marqué pour nous le faire savoir.
- Règle de blocage des mentions indésirables - Fixez une limite au nombre de mentions qu'un message peut contenir. Une fois configuré, AutoMod peut détecter et bloquer les messages contenant un nombre excessif de mentions d'utilisateurs ou de rôles et éviter à vos membres de recevoir des notifications et des pings inutiles.
COMMENT CONFIGURER LES FILTRES ANTI-SPAM POUR AUTOMOD
Pour commencer à définir vos propres règles pour le blocage du contenu du spam ou le blocage du spam de mention, allez dans Paramètres du serveur > AutoMod pour voir les différentes options de filtre anti-spam :
Comment configurer le filtre de contenu anti-spam ?
- Appuyez sur " Configurer " ou activez le bouton à bascule sur le filtre Bloquer le contenu spam pour afficher les différentes actions réactives.
- Choisissez de faire en sorte qu'AutoMod bloque entièrement les messages marqués et/ou vous envoie une alerte :
- (Facultatif) Ajoutez les rôles ou les salons exemptés que vous ne voulez pas qu'AutoMod signale pour le contenu suspecté de spam.
Pour rappel, le fait de définir un salon comme étant exempté garantit que tous les messages dans les fils de discussion et les discussions textuelles en mode vocal dans ce salon particulier seront également exemptés.
Comment configurer le filtre anti-spam de mentions
- Appuyez sur "Configurer" ou activez le bouton à bascule sur Bloquer le spam de mention pour voir les différentes actions réactives.
- Fixez une limite au nombre de mentions qu'un message peut contenir.
Fixez une limite de mentions, jusqu'à un maximum de 50 par message
- Choisissez de faire en sorte qu'AutoMod bloque les messages, vous envoie une alerte et/ou exclut temporairement les utilisateurs lorsqu'il signale un message contenant des mentions excessives.
Bloquer le message, envoyer une alerte, et/ou exclure temporairement l'utilisateur pour les messages marqués
- (Facultatif) Ajoutez les rôles ou salons exemptés pour lesquels vous ne souhaitez pas qu'AutoMod signale les messages contenant des mentions excessives.
Pour rappel, le fait de définir un salon comme étant exempté garantit que tous les messages dans les fils de discussion et les discussions textuelles en mode vocal dans ce salon particulier seront également exemptés.
Ajouter des rôles ou des salons exemptés
Foire aux questions
Q : Qui a accès à AutoMod à l'heure actuelle ?
R : AutoMod est actuellement disponible pour tous les serveurs.
Cela signifie vous devez avoir activé la communauté dans les paramètres de votre serveur pour accéder à AutoMod. Apprenez comment activer votre serveur communautaire ici.
Q : Quels filtres sont actuellement disponibles sous AutoMod ?
R : Actuellement, les filtres de mots clés et le filtre de contenu spam sont disponibles et prêts à être utilisés. Nous continuerons à travailler sur des filtres de contenu supplémentaires qui seront ajoutés à AutoMod lorsqu'ils seront prêts.
Q : Quelles langues sont disponibles pour AutoMod ?
R : AutoMod peut détecter des mots et des phrases dans n'importe quelle langue à partir de vos règles de mots-clés personnalisées.
Q : Quels types de choses AutoMod peut-il détecter à partir de mes règles personnalisées ?
R : AutoMod peut détecter et filtrer les mots et les caractères en Anglais et dans d'autres langues, les liens, les emojis, la ponctuation et les symboles que vous saisissez dans vos règles de mots-clés personnalisées.
*Notez que vous n'êtes pas en mesure d'ajouter des émoticônes personnalisés à partir d'autres serveurs auxquels vous n'avez pas accès dans vos règles de mots clés personnalisés.
Q : Qui peut effectuer des mises à jour sur AutoMod dans mon serveur ?
R : Les utilisateurs disposant des permissions " Gérer le serveur " ou " Administrateur " pourront accéder à vos règles AutoMod, les créer et les modifier à partir d'un ordinateur de bureau. Les mises à jour de vos règles AutoMod ne peuvent pas être effectuées sur des appareils mobiles pour le moment.
Q : Comment fonctionne la correspondance des mots clés ?
R : AutoMod bloquera les messages contenant des mots-clés situés n'importe où dans le message, y compris entre les mots. Cela peut être utile pour réduire la toxicité, ou pour se protéger contre les bots de spam et le harcèlement ciblé.
Lorsque vous ajoutez un terme composé de plusieurs mots à une règle, seuls les messages contenant le terme exact seront bloqués. Par exemple, si vous ajoutez "ceci est une banane" comme terme, seuls les messages contenant "ceci est une banane" seront bloqués, et non ceux qui contiennent uniquement "ceci" ou "est une banane."
Le nombre de termes que vous pouvez saisir dans chaque règle de mots-clés personnalisés est plafonné à 1 000, avec une limite de 30 caractères pour chaque terme.
Q : Comment fonctionnent les caractères génériques ?
R : Par défaut, AutoMod recherche les messages contenant des mots-clés qui correspondent exactement à ceux de vos règles. Mais il est fort probable que des membres de votre communauté tentent de contourner vos règles et de mettre en circulation des messages nuisibles. Alors comment bloquer toutes sortes de mots qui correspondent partiellement à vos mots-clés ?
C'est là que les caractères génériques entrent en jeu. Lorsque vous configurez vos règles de mots-clés personnalisés, vous pouvez ajouter le caractère générique * à vos mots-clés, ce qui vous permet de filtrer les variations de mots qui correspondent partiellement à vos mots-clés.
Il suffit d'ajouter le caractère * au début ou à la fin d'un mot clé pour sélectionner l'une des stratégies de correspondance suivantes, pour chaque mot clé :
- Préfixe -- au moins un mot du message doit commencer par un mot-clé
- Suffixe -- au moins un mot du message doit se terminer par un mot-clé
- N'importe où -- Le mot-clé peut apparaître dans n'importe quelle partie du message, au milieu de n'importe quel mot
Exemples :
cat* ⇒ get a cat-sitter
*cat ⇒ cool bobcat
*ana* ⇒ bananas
Q : La fonction AutoMod fonctionnera-t-elle sur les fils de discussion et le chat textuel dans les salons vocaux ?
R : Oui ! Lorsqu'il contient un mot clé ou un terme de vos règles :
1. Les fils de discussion ne sont pas créés
2. Les messages d'un fil de discussion ou d'une discussion textuelle dans un salon vocal peuvent être bloqués et envoyés sous forme d'alerte
Q : AutoMod signalera-t-il les messages provenant de bots ?
R : AutoMod ne signalera pas les messages des applications que vous avez installées sur votre serveur.
AutoMod ne marquera que les messages des applications installées directement sur le compte d’un utilisateur. Toutes les actions effectuées par AutoMod se feront sur l'utilisateur qui a installé l'application et l'a utilisée pour la première fois sur un serveur. Cela signifie que si une application crée un message avec des boutons, les messages additionnels créés à partir de l'interaction avec ces boutons agiront également contre l'utilisateur qui a utilisé la commande initialement.
Q : J'ai activé la règle " mots couramment signalés " - pourquoi est-ce que je vois encore des mots indésirables ?
R : Nos filtres de mots couramment signalés sont conçus pour fournir à chaque communauté un moyen rapide et efficace de mettre en place des défenses contre les mots-clés couramment signalés, afin que vous n'ayez pas à y penser vous-même et à partir de zéro.
Cependant, nous comprenons que chaque communauté a ses propres règles et sa propre tolérance pour certains mots. Certaines communautés préfèrent maintenir un environnement plus familial, tandis que d'autres acceptent et encouragent un langage plus osé. Souvent, ce n'est pas le mot lui-même qui cause du tort, mais l'intention avec laquelle il est utilisé.
En raison de ces considérations, nos filtres de mots fréquemment signalés peuvent ne pas tout capter. Pour les mots que nous ne capturons pas, vous pouvez les ajouter à l'une de vos règles de mots-clés personnalisées.
Q : Comment puis-je voir tous les mots que les filtres de mots fréquemment signalés contiennent ?
R : Nous comprenons que vous souhaitiez voir les mots figurant dans ces listes de mots afin de décider si elles seront efficaces pour assurer une couverture contre le langage que vous souhaitez filtrer, sans étouffer les conversations dans vos communautés.
Toutefois, pour le moment, nous ne publierons pas les mots figurant dans ces listes de mots afin de préserver leur efficacité protectrice. Ceci afin de garantir que les personnes mal intentionnées ne puissent pas facilement développer des moyens de les contourner dans les communautés qui les utilisent.
Nous attachons une grande importance à la transparence de la réflexion qui a conduit à l’élaboration de ces listes de mots et aborderons ces sujets dans un prochain article sur notre blog.
Q : Les filtres des mots couramment signalés seront-ils mis à jour au fil du temps ?
R : Oui - nous reconnaissons que le langage est fluide et en constante évolution, et que les mots d'aujourd'hui n'auront peut-être pas la même signification demain. Nous continuerons à explorer les moyens d'offrir aux communautés davantage de personnalisation avec nos filtres, et nous les affinerons régulièrement en utilisant vos rapports et vos commentaires.
Pour nous faire part de vos commentaires, cliquez sur "Signaler les problèmes" sur n'importe laquelle de vos alertes AutoMod contenant le mot que vous souhaitez nous signaler.
Q : Quels types de spam le filtre Bloquer le contenu spam ne détecte-t-il pas ?
R : Le filtre anti-spam signalera le contenu textuel qui nous a été signalé comme spam par nos utilisateurs, et peut donc ne pas signaler tout ce qui peut être considéré comme spam, comme :
- Contenu textuel indésirable répété sur plusieurs messages et salons
- Spam de demande d'ami
Q : J'ai trouvé des spams que Discord n'a pas détectés, que dois-je faire ?
R : Si vous rencontrez un contenu qui a été signalé à tort comme spam, cliquez sur "Signaler les problèmes" sur l'une de vos alertes AutoMod de contenu de spam signalé. Cela nous aidera à améliorer la précision du filtre au fil du temps.
Q : Comment Discord utilisera-t-il mes commentaires sur le filtre Bloquer le contenu indésirable ?
R : Nous nous efforcerons d'améliorer le filtre anti-spam au fil du temps en examinant en permanence les rapports des utilisateurs. Pour rappel, lorsque vous signalez un message, vous envoyez le contenu du message signalé à Discord.