Wir haben von Moderatoren und Admins gehört, wie viel Aufwand es bedeutet, eine Community zu verwalten, und wie wichtig es ist, einfacher einen sicheren Raum für die Mitglieder zu schaffen und zu erhalten. In unserem Bestreben, es einfacher zu machen, eure Communitys auf Discord sicher zu halten, führen wir ein neues Auto-Moderations-Tool ein, kurz AutoMod. Mit AutoMod erhältst du Zugang zu verschiedenen Inhaltsfiltern, mit denen du unerwünschte und riskante Inhalte automatisch erkennen - und sogar blockieren - kannst, bevor sie überhaupt gepostet werden.
Was wird in diesem Artikel behandelt?
WAS IST AUTOMOD?
AutoMod ist ein System mit mehreren Inhaltsfiltern, das die Moderation von Inhalten vereinfachen und den Moderatoren die Arbeit erleichtern soll. Einige Filter, wie z. B. Schlüsselwortfilter, sind konfigurierbar, sodass AutoMod automatisch Nachrichten erkennen und blockieren kann, die bestimmte Wörter oder Phrasen enthalten, die du als schädlich für deine Community ansiehst, bevor sie überhaupt gepostet werden. Andere Filter, die wir derzeit entwickeln, basieren auf Algorithmen des maschinellen Lernens, um schädliche oder gefährliche Nachrichten, wie z. B. Links zu Malware, zu erkennen und zu blockieren.
AutoMod verhindert, dass unerwünschte Nachrichten in deiner Community in allen deinen #Text-Kanälen sowie in anderen Nachrichtenoberflächen wie Threads und Text-Chat in Sprachkanälen gepostet werden. Auf diese Weise kannst du deiner Community mehr Möglichkeiten bieten, miteinander zu sprechen und zu interagieren, ohne dass du dir Sorgen machen musst, dass du noch mehr Moderationen-Arbeit leisten musst.
Zusätzlich kannst du dich dafür entscheiden, dass AutoMod Warnmeldungen mit Informationen über blockierte Nachrichten an einen privaten Kanal deiner Wahl sendet, um dich dabei zu unterstützen, potenziell böswillige Akteure und unerwünschtes Verhalten innerhalb deiner Community zu identifizieren und darauf zu reagieren.
WAS SIND SCHLÜSSELWORTFILTER?
Mit den AutoMod-Schlüsselwortfiltern kannst du die folgenden Regeln einrichten, um festzulegen, worauf AutoMod achten soll und wie es reagieren soll, wenn es eine Nachricht mit bestimmten Wörtern oder Sätzen markiert:
1. Regel für häufig markierte Wörter - Verwende vorgefertigte Wortlisten, um häufig markierte Wörter zu filtern
2. Regel für benutzerdefinierte Schlüsselwörter - Erstelle deine eigene Liste von Schlüsselwörtern und Begriffen zum Filtern in deiner Community
Wir verstehen, dass es schwierig und zeitaufwändig sein kann, an all die Wörter zu denken, die man von Grund auf herausfiltern möchte, während man gleichzeitig eine Community moderiert. Um mit AutoMod zu beginnen, kannst du schnell eine Regel für häufig markierte Wörter einrichten, um vorgefertigte Wortlisten zu aktivieren, die deine Community auf Knopfdruck vor Nachrichten mit häufig markierten Wörtern schützen:
Kategorien von häufig markierten Wörtern
- Beleidigungen und Verleumdungen - Schütze die Mitglieder deiner Community vor persönlich beleidigendem Material, das sich gegen sie richtet, einschließlich Begriffen, die als Verleumdung oder Hassrede angesehen werden können.
- Sexueller Inhalt - Halte sexuell eindeutige Sprache von deinem Server fern, um deine Community familienfreundlich zu halten.
- Schwere Obszönität - Blockiere die schlimmsten Formen von Schimpfwörtern, lasse aber milde Formen des Fluchens und Schimpfens zu.
Da jede Community ihre eigenen Standards hat, welche Wörter als akzeptabel gelten, hast du die Möglichkeit, Wörter von diesen Listen auszunehmen! Ausgenommene Wörter werden nicht mehr markiert und erhalten keine Antwort von AutoMod. Für Wörter, die du in deiner Community zulassen möchtest, die aber von unseren Wortlisten gefiltert werden, füge sie einfach unter “Ausgenommene Wörter hinzufügen” hinzu.
WIE MAN SCHLÜSSELWORTFILTER FÜR AUTOMOD EINRICHTET
Um deine eigenen Regeln für häufig gekennzeichnete Wörter oder benutzerdefinierte Schlüsselwörter einzurichten, kannst du die Registerkarte AutoMod in deinen Servereinstellungen aufrufen.
- Gehe zu Servereinstellungen > AutoMod, um die verschiedenen Schlüsselwortfilteroptionen für AutoMod zu sehen.
- Drücke unter Häufig markierte Wörter auf “Einrichten”, um eine der drei vorgefertigten Wortlisten mit häufig markierten Wörtern auszuwählen.
3. Erstelle deine eigenen Regeln mit Wörtern und Ausdrücken, die AutoMod herausfiltern soll, indem du auf "Einrichten" unter "Regel zu benutzerdefinierten Stichworten" klickst und Schlüsselwörter und Ausdrücke eingibst.
Tipp: Wenn du eine Nachricht entdeckst, die ein Wort enthält, das du zu deinen Regeln hinzufügen möchtest, kannst du dies schnell tun, indem du das Wort in der Nachricht, die du hinzufügen möchtest, markierst, mit der rechten Maustaste klickst und "Wort markieren" wählst, um das Wort zu einer bestehenden oder neuen Regel deiner Wahl hinzuzufügen.
3. Du kannst festlegen, dass AutoMod gekennzeichnete Nachrichten mit einer benutzerdefinierten Nachricht vollständig blockiert, dir eine Warnung sendet und Benutzer zeitlich ausschließt*, wenn eine Nachricht markiert wird.
*Timeout-Benutzerreaktion ist nur unter benutzerdefinierten Schlüsselwortregeln verfügbar
Wenn AutoMod eine Nachricht blockiert, erhält ein Mitglied eine Nachricht, die nur für ihn sichtbar ist. Um eine eigene Nachricht hinzuzufügen, kannst du „Benutzerdefinierte Nachricht bearbeiten“ wählen und deine eigene Nachricht eingeben (bis zu 150 Zeichen).
Um über markierte Nachrichten, die von AutoMod abgefangen wurden, benachrichtigt zu werden, musst du einen Kanal auswählen, an den AutoMod Benachrichtigungen senden soll. Achte darauf, dass du einen Kanal wählst, der nur für Administratoren und/oder Moderatoren zugänglich ist.
Blockieren von Nachrichten oder Senden einer Warnung für markierte Nachrichten
Benutzer für markierte Nachrichten timeouten
- Füge Rollen oder Kanäle hinzu, die du ausgenommen haben möchtest.
Wenn du einen Kanal so einstellst, dass er ausgenommen ist, sind auch alle Nachrichten in Threads oder Text-Chat im Sprach-Kanal in diesem Kanal ausgenommen. Benutzer mit den Berechtigungen "Admin" und "Server verwalten" sind immer von den Filterregeln ausgenommen.
Blockierte Wörter in Benutzernamen von Server-Mitgliedern oder Server-Nicknames
Du kannst auch Wörter oder Ausdrücke anpassen, die in den Benutzernamen oder Server-Nicknames der Mitglieder nicht sichtbar sein sollen, während sie sich auf deinem Server befinden. Benutzernamen oder Mitglieder, deren Server-Nicknames diese gesperrten Wörter enthalten, müssen ihren Server-Nickname aktualisieren, bevor sie mit anderen Server-Mitgliedern sprechen oder interagieren können.
Wenn Mitglieder nicht die Erlaubnis haben, ihren Server-Nickname zu aktualisieren, müssen sie ihren Standard-Benutzernamen aktualisieren, bevor sie auf deinem Server sprechen oder interagieren können. AutoMod prüft standardmäßig den Server-Nickname und wenn dieser nicht implementiert ist, prüft AutoMod den Benutzernamen.
1. Um dies einzurichten, gehe zu Servereinstellungen > Sicherheitseinstellungen
2. Tippe dann auf Bearbeiten neben Auto Mod.
3. Unter „Mitglieder“ solltest du die Option „Wörter in Mitgliedsnamen blockieren“ sehen. Tippe auf das x, um sie zu aktivieren, falls sie noch nicht aktiviert ist.
Wenn ein Benutzer versucht, eine der blockierten Phrasen oder Wörter in seinem Benutzernamen oder Server-Nickname zu verwenden, erhält er eine Fehlermeldung und muss etwas anderes verwenden.
WAS SIND SPAMFILTER?
Spam ist ein Problem, gegen das sich Communitys jeden Tag wehren müssen, um ihre Mitglieder vor Gefahren und schlechten Akteuren zu schützen. Um dir dabei zu helfen, deine Community sicher zu halten, ohne dir noch mehr Moderationsarbeit aufzubürden, entwickeln wir neue Tools, um Spam auf Discord einzudämmen.
Wir wissen, dass Spam in vielen Formen auftritt. Mit diesen neuen Filtern kannst du Nachrichten, die sich negativ auf die Mitglieder deiner Community auswirken, blockieren, bevor sie überhaupt gepostet werden.
Mit den Spamfiltern von AutoMod kannst du die beiden folgenden Regeln aktivieren, um deine Community vor verschiedenen Arten von Spam zu schützen. Du kannst auch wählen, wie AutoMod reagieren soll, wenn eine Nachricht deine Regeln auslöst.
- Regel zum Blockieren von Spam-Inhalten - Aktiviere diese Regel, um Nachrichten zu erkennen, die unerwünschte, Spam-artige Textinhalte enthalten, die dein Erlebnis auf Discord stören, wie z. B:
-
- Unerwünschte Nachrichten oder Werbung (kostenloses Nitro)
- Einladungen Spam
Beachte, dass dieser Filter auf maschinellem Lernen basiert, das durch Spam-Nachrichten informiert wird, die Nutzer uns zuvor gemeldet haben - wenn du diesen AutoMod-Filter aktivierst, werden Nachrichten mit ähnlichen Eigenschaften markiert. Dieser Filter ist nicht perfekt, sodass er möglicherweise nicht alles abfängt, was du als Spam ansiehst, z. B. unsinnige Wörter in mehreren Nachrichten oder "Copy/Pasta"-Nachrichten.
Wir werden das Feedback der Nutzer beobachten, um diesen Filter im Laufe der Zeit zu verbessern. Also hilf uns: Wenn du auf eine Nachricht stößt, die fälschlicherweise als Spam markiert wurde, klicke auf die Schaltfläche "Probleme melden" unter der markierten Nachricht, um uns das mitzuteilen.
- Regel zum Blockieren von Erwähnungsspam - Lege eine Grenze für die Anzahl der Erwähnungen fest, die eine Nachricht enthalten darf. Einmal konfiguriert, kann AutoMod Nachrichten mit übermäßigen Benutzer- oder Rollenerwähnungen erkennen und blockieren und so verhindern, dass deine Mitglieder unnötige Benachrichtigungen und Pings erhalten.
WIE MAN SPAMFILTER FÜR AUTOMOD EINRICHTET
Um deine eigenen Regeln für Spam-Inhalte blockieren oder Spam-Erwähnungen blockieren einzurichten, gehe zu Servereinstellungen > AutoMod, um die verschiedenen Spamfilteroptionen zu sehen:
Wie man den Spam-Inhaltsfilter einrichtet
- Drücke auf "Einrichten" oder aktiviere die Umschalttaste auf dem Filter "Spam-Inhalte blockieren", um die verschiedenen Antwortaktionen anzuzeigen.
- Wähle aus, ob AutoMod markierte Nachrichten vollständig blockieren und/oder dir eine Warnung senden soll:
Nachricht blockieren und Warnung für markierte Nachrichten senden - (Optional) Füge ausgenommene Rollen oder Kanäle hinzu, die AutoMod nicht als spamverdächtige Inhalte kennzeichnen soll.
Zur Erinnerung: Wenn du einen Kanal als ausgenommen einstellst, sind auch alle Nachrichten in Threads und Textchats in Sprach-Kanälen in diesem Kanal ausgenommen.
Wie man den Erwähnung blockieren Spam-Filter einrichtet
- Drück auf „Einrichten“ oder aktiviere die Schaltfläche „Erwähnungsspam blockieren“, um die verschiedenen Antwortaktionen zu sehen.
- Lege eine Grenze für die Anzahl der Erwähnungen fest, die eine Nachricht enthalten darf.
Lege ein Limit für Erwähnungen fest, bis zu maximal 50 pro Nachricht
- AutoMod kann Nachrichten blockieren, eine Warnung senden und/oder Benutzer zeitlich begrenzen, wenn es eine Nachricht mit übermäßigen Erwähnungen kennzeichnet.
Blockieren von Nachrichten, Senden einer Warnung und/oder Timeout für markierte Nachrichten
- (Optional) Füge ausgenommene Rollen oder Kanäle hinzu, bei denen AutoMod keine Nachrichten mit übermäßigen Erwähnungen kennzeichnen soll.
Zur Erinnerung: Wenn du einen Kanal als ausgenommen einstellst, werden alle Nachrichten in Threads und Textchats in Sprach-Kanälen in diesem Kanal ebenfalls ausgenommen.
Ausgenommene Rollen oder Kanäle hinzufügen
HÄUFIG GESTELLTE FRAGEN (FAQ)
Q: Wer hat derzeit Zugang zu AutoMod?
A: AutoMod ist derzeit für alle Server verfügbar.
Das bedeutet, dass du die Community in den Einstellungen deines Servers aktiviert haben musst, um auf AutoMod zuzugreifen. Weitere Informationen zur Aktivierung des Community Servers findest du hier.
Q: Welche Filter sind derzeit unter AutoMod verfügbar?
A: Derzeit sind die Schlüsselwortfilter und der Spam-Inhaltsfilter verfügbar und einsatzbereit. Wir werden weiterhin an zusätzlichen Inhaltsfiltern arbeiten, die zu AutoMod hinzugefügt werden, sobald sie fertig sind.
F: Welche Sprachen werden von AutoMod unterstützt?
A: AutoMod kann anhand der eigenen Schlüsselwortregeln Wörter und Ausdrücke in jeder beliebigen Sprache erkennen.
Die Wortlisten der häufig markierten Wörter sowie der Filter für Spam-Inhalte sind jedoch derzeit nur auf Englisch verfügbar.
F: Welche Dinge kann AutoMod anhand meiner benutzerdefinierten Regeln erkennen?
A: AutoMod kann Wörter und Zeichen in Englisch und anderen Sprachen, Links, Emojis*, Satzzeichen und Symbole erkennen und filtern, die du in deinen benutzerdefinierten Schlüsselwortregeln eingibst.
*Beachte, dass du nicht in der Lage bist, benutzerdefinierte Emojis von anderen Servern, auf die du keinen Zugriff hast, in deine Regeln für benutzerdefinierte Schlüsselwörter aufzunehmen.
F: Wer kann Aktualisierungen von AutoMod auf meinem Server vornehmen?
A: Personen mit den Berechtigungen "Server verwalten" oder "Administrator" können von einem Desktop-Gerät aus auf deine AutoMod-Regeln zugreifen, sie erstellen und bearbeiten. Aktualisierungen zu deinen AutoMod-Regeln können zurzeit nicht auf mobilen Geräten vorgenommen werden.
F: Wie funktioniert die Übereinstimmung mit Schlüsselwörtern?
A: AutoMod blockiert Nachrichten, die Schlüsselwörter enthalten, die an beliebiger Stelle in der Nachricht vorkommen, auch zwischen Wörtern. Dies kann nützlich sein, um die Toxizität zu reduzieren oder sich gegen Spam-Bots und gezielte Belästigungen zu schützen.
Wenn du einen Begriff, der aus mehreren Wörtern besteht, zu einer Regel hinzufügst, werden nur Nachrichten blockiert, die genau diesen Begriff enthalten. Wenn das Wort "dies ist Banane" als Begriff hinzugefügt wird, werden nur Nachrichten blockiert, die "dies ist Banane" enthalten, nicht aber solche, die nur "dies" oder "ist Banane" enthalten.
Die Anzahl der Begriffe, die du in jede benutzerdefinierte Schlüsselwortregel eingeben kannst, ist auf 1.000 begrenzt, wobei jeder Begriff 60 Zeichen enthalten darf.
F: Wie funktionieren Wildcards?
A: Standardmäßig sucht AutoMod nach Nachrichten, die Schlüsselwörter enthalten, die genau mit den in deinen Regeln angegebenen übereinstimmen. Es ist jedoch sehr wahrscheinlich, dass Leute in deiner Community versuchen werden, deine Regeln zu umgehen und schädliche Nachrichten in Umlauf zu bringen. Wie kannst du also alle Arten von Wörtern blockieren, die teilweise auch mit deinen Schlüsselwörtern übereinstimmen?
Hier kommen die Wildcards ins Spiel. Bei der Einrichtung deiner benutzerdefinierten Schlüsselwortregeln kannst du das Platzhalterzeichen * an deine Schlüsselwörter anhängen, wodurch du Wortvarianten herausfiltern kannst, die mitunter mit deinen Schlüsselwörtern übereinstimmen.
Einfach das Zeichen * am Anfang oder Ende eines Suchbegriffs einfügen, um eine der folgenden Strategien für den Abgleich pro Suchbegriff auszuwählen:
- Präfix - mindestens ein Wort in der Nachricht muss mit dem Schlüsselwort beginnen
- Suffix - mindestens ein Wort in der Nachricht muss mit einem Schlüsselwort enden
- Überall - das Schlüsselwort kann an jeder Stelle der Nachricht in der Mitte eines beliebigen Wortes auftauchen
Beispiele:
Cat* ⇒ get a cat-sitter
*cat ⇒ cool bobcat
*ana* ⇒ bananas
F: Funktioniert AutoMod auch in Threads und Textchats in Sprachkanälen?
A: Ja! Wenn es ein Schlüsselwort oder einen Begriff aus deinen Regeln enthält:
1. Es werden keine Threads erstellt
2. Nachrichten innerhalb eines Threads oder Textchats im Sprachkanal können blockiert und als Alarm gesendet werden
F: Kann AutoMod Nachrichten von Anwendungen markieren?
A: AutoMod markiert keine Nachrichten von Apps, die du auf deinem Server installiert hast.
AutoMod markiert nur Nachrichten von Apps, die direkt auf dem Benutzerkonto installiert sind. Alle Aktionen von AutoMod werden auf den Benutzer durchgeführt, der die Anwendung installiert hat und sie zuerst auf einem Server verwendet hat. Das bedeutet, dass, wenn eine Anwendung eine Nachricht mit Schaltflächen erstellt, weitere Nachrichten, die durch die Interaktion mit diesen Schaltflächen erstellt werden, auch gegen den Benutzer wirken, der den Befehl ursprünglich verwendet hat.
F: Ich habe die Regel "Häufig markierte Wörter" aktiviert - warum sehe ich trotzdem unerwünschte Wörter?
A: Unsere Filter für häufig gekennzeichnete Wörter wurden entwickelt, um jeder Community eine schnelle und effektive Möglichkeit zu bieten, sich gegen häufig gekennzeichnete Schlüsselwörter zu schützen, damit du nicht selbst darüber nachdenken und sie von Grund auf neu aufbauen musst.
Wir verstehen jedoch, dass jede Community ihre eigenen Regeln und Toleranzen für bestimmte Wörter hat. Einige Communitys bevorzugen ein eher familienfreundliches Umfeld, während andere eine ruppigere Sprache akzeptieren und fördern. Und oft ist es nicht das Wort selbst, das Schaden anrichtet, sondern die Absicht, mit der es verwendet wird.
Aus diesem Grund kann es sein, dass unsere Filter für häufig markierte Wörter nicht alles erfassen. Wörter, die wir nicht abfangen, kannst du zu einer deiner benutzerdefinierten Schlüsselwortregeln hinzufügen.
F: Wie kann ich alle Wörter sehen, die die Filter für häufig markierte Wörter enthalten?
A: Wir verstehen, dass du die Wörter in diesen Wortlisten sehen willst, um entscheiden zu können, ob sie wirksam gegen die Sprache sind, die du herausfiltern willst, ohne die Gespräche in deinen Communitys zu ersticken.
Vorläufig werden wir die Wörter in diesen Wortlisten jedoch nicht veröffentlichen, um ihre Schutzwirkung zu erhalten. Damit soll sichergestellt werden, dass Personen mit böswilligen Absichten nicht einfach Mittel entwickeln können, um sie in den Communitys, die sie verwenden, zu umgehen.
Wir legen Wert darauf, die Überlegungen, die zur Erstellung dieser Wortlisten geführt haben, transparent zu machen, und werden diese Themen in einem zukünftigen Beitrag in unserem Blog behandeln.
F: Werden die Filter für häufig markierte Wörter im Laufe der Zeit aktualisiert?
A: Ja - wir sind uns bewusst, dass Sprache fließend ist und sich ständig weiterentwickelt, und dass die Worte von heute Morgen vielleicht nicht mehr die gleiche Bedeutung haben. Wir werden weiterhin nach Möglichkeiten suchen, den Communitys weitere Anpassungen mit unseren Filtern zu bieten, und werden sie regelmäßig anhand eurer Berichte und eures Feedbacks verfeinern.
Um uns dein Feedback mitzuteilen, klicke auf "Probleme melden" bei jeder deiner AutoMod-Warnungen, die das Wort enthält, das du uns mitteilen möchtest.
F: Welche Arten von Spam fängt der Filter "Spam-Inhalte blockieren" nicht ab?
A: Der Spamfilter markiert Textinhalte, die uns von unseren Nutzern als Spam gemeldet wurden, und kann daher nicht alles markieren, was als Spam angesehen werden könnte, wie z. B.:
- Unerwünschte Spam-Textinhalte, die in mehreren Nachrichten und Kanälen wiederholt werden
- Spam für Freundschaftsanfragen
F: Ich habe Spam gefunden, den Discord übersehen hat, was soll ich tun?
A: Wenn du auf Inhalte stößt, die fälschlicherweise als Spam gekennzeichnet wurden, klicke auf "Probleme melden" bei einer deiner AutoMod-Benachrichtigungen über gekennzeichnete Spam-Inhalte. Dies wird uns helfen, die Genauigkeit des Filters im Laufe der Zeit zu verbessern.
F: Wie wird Discord mein Feedback zum Filter "Spam-Inhalte blockieren" verwenden?
A: Wir werden daran arbeiten, den Spamfilter im Laufe der Zeit zu verbessern, indem wir die Berichte der Nutzer kontinuierlich überprüfen. Zur Erinnerung: Wenn du eine Nachricht meldest, sendest du den Inhalt der markierten Nachricht an Discord.