モデレーターやアドミニストレーターの皆さんから、コミュニティの管理にどれだけの労力を要するか、そしてメンバーにとって安全な空間をより簡単に造りだし、維持することがいかに重要であるかお聞きしました。 Discordにおいてコミュニティの安全をより簡単に維持するために、私たちは新しい自動モデレーションツール、略してオートモデレーション(AutoMod) を導入します。 AutoModを使用すると、望ましくない、および危険なコンテンツが投稿される前に、それらを自動的に検出しブロックすることができる、さまざまなコンテンツフィルターにアクセスできるようになります。
このページでわかること:
AUTOMODとは？
AutoModは、コンテンツのモデレーション（調整）を簡単にし、モデレーターの作業を軽減するために設計された、複数のコンテンツフィルターシステムです。 キーワードフィルターなどの一部フィルターは設定可能で、コミュニティにとって有害だと思われる、特定の単語やフレーズを含むメッセージが投稿される前に、AutoModが自動的に検出してブロックすることができます。 私たちが開発中の他のフィルターは、機械学習アルゴリズムによって、マルウェアへのリンクなど、有害または危険なメッセージを検出してブロックするものです。
AutoModは、スレッドやボイスチャンネル内のテキストチャットなどのメッセージングサーフェイスに加え、すべての#テキストチャンネルで、コミュニティに不要なメッセージが投稿されるのを防止します。 このように、モデレーション作業の増加を心配をすることなく、より多くの会話やコミュニケーション方法を、コミュニティに提供できるようになります。
また、AutoModはブロックされたメッセージに関する「誰が、何を、どこで」という情報を含むアラートを、選択した専用のプライベートチャンネルに送信し、コミュニティ内での言動が良くないユーザーや、好ましくない行動を特定し、対処できるようにすることも可能です。
キーワードフィルターって？
AutoModのキーワードフィルターでは、下記のルールを設定し、特定の単語やフレーズを含むメッセージにフラグを付けたときに、AutoModが何を調べ、どう対応するかを決めることができます。
1. フラグされることの多い語句 - 既製の単語リストを使用して一般的にフラグが立てられている単語をフィルタリングします。
2. カスタムキーワードルール - コミュニティでフィルタリングするキーワードや用語のリストを作成します。
コミュニティを管理しながら、フィルタリングしたい単語を一から考えるのは大変で、非常に時間を要することだと思います。 AutoModでは、フラグされることの多い語句のルールを素早く設定し、ボタンを押すだけで、一般的に有害なメッセージが晒されないように、コミュニティを保護する既製の単語リストを使用できるようにすることができます。
一般フラグ単語のカテゴリー
- 侮辱と中傷 - 中傷やヘイトスピーチとみなされる用語を含め、コミュニティのメンバーを個人的に侮辱するものから保護します。
- 性的コンテンツ - 家族向けのコミュニティを維持するために、性的な表現をサーバーから排除します。
- 重大な冒涜 - よりひどい形態の冒涜をブロックしますが、軽度の罵倒や悪態は許容します。
どのような言葉が許容されるかはコミュニティごとに基準が異なるため、これらのリストから単語を除外することができます。 除外された単語はフラグが立たなくなり、AutoModからの応答もなくなります。 コミュニティで許可したいが、単語リストでフィルタリングされている単語は、"除外する単語の追加（オプション）" で追加するだけです。
AutoMod用キーワードフィルターのセットアップ
フラグされることの多い語句やカスタムキーワードについて独自のルールを設定するには、サーバー設定の「管理」タブを開いてください。
- カスタムキーワードルールの「新規作成」をクリックしキーワードやフレーズを入力することで、AutoModにフィルタリングさせたい単語やフレーズを、独自のルールで作成することができます。
- フラグされることの多い語句の横にある”設定”をクリックし、よくフラグが立てられる単語を、3つの既成単語リストの中から選択します。
3. 単語やフレーズを使って独自のルールを作成するには「カスタムキーワードルール」の下にある「設定」を選択しキーワードやフレーズを入力します。
ヒント: ルールに追加したい単語を含むメッセージを見つけた場合、追加したい単語をハイライトして右クリックし、「フィルター」を選択すると、その単語を既存または新規のルールに素早く追加することができます。
3. AutoModがフラグを立てたメッセージを完全にブロックする、アラートを送る、フラグを立てた際にユーザーをタイムアウトさせる、などのオプションを選択できます。 タイムアウトユーザーの応答は、カスタムキーワードルールでのみ利用可能です。
AutoModがメッセージをブロックするとメンバーは自分にのみ表示されるメッセージを受信します。 独自のメッセージを追加するには「カスタムメッセージの編集」を選択し、独自の文字を入力することができます(最大150文字)。
AutoModによって捕まえられたフラグ付きメッセージのアラートを行うには、AutoModがアラートを送信するチャンネルを選択する必要があります。 必ず管理者やモデレータのみがアクセスできるチャンネルを選択してください。
フラグ付きメッセージのブロックまたはアラートの送信
フラグ付きメッセージによってタイムアウトされたユーザー
- 2.ルールもしくはガイドラインチャンネルにチャンネルを設定してください（ない場合はコミュニティ用に作成してください）。
チャンネルを除外するように設定した場合、そのチャンネルにある「スレッド」のメッセージや「ボイステキストチャット」も除外されます。 管理者およびサーバー管理権限を持つユーザーは、常にフィルタールールの対象外となります。
サーバーメンバーのユーザー名またはサーバーニックネーム内の単語をブロック
あなたのサーバーでメンバーのユーザー名やサーバーニックネームに表示したくない単語やフレーズをカスタマイズできます。 ブロックされた単語を含むサーバーニックネームを持つユーザー名またはメンバーは、トークや他のサーバーメンバーとやり取りする前に、サーバーニックネームを更新する必要があります。
メンバーがサーバーニックネームを更新する権限を持っていない場合、メンバーがあなたのサーバーで話したり対話したりする前に、デフォルトのユーザー名を更新する必要があります。 AutoModはデフォルトでサーバーニックネームを、ない場合はユーザー名をチェックします。
1. 設定は、サーバー設定 > 安全設定 をご覧ください。
2. Auto Modの横にある 編集 をタップします。
3. 「メンバー」の下に「メンバープロフィール名の単語をブロック」というオプションが表示されます。 まだ有効になっていない場合はxをタップして有効にしてください。
ユーザーがブロックされたフレーズまたは単語のいずれかをユーザー名またはサーバーニックネームで使用しようとした場合、彼らはエラーメッセージを受信し何か他のものを使用する必要があります。
スパムフィルターって？
コミュニティがメンバーを危険や悪者から守るために、スパムは日々防御しなければならない問題です。 モデレーションの仕事を増やすことなくコミュニティの安全を守るために、Discord上のスパムを削減するための、新しいツールを私たちは構築しています。
私たちは、スパムが様々な形で存在することを知っています。 これらの新しいフィルターは、投稿される前にスパムのようなテキストコンテンツを含むメッセージをブロックすることで、コミュニティのメンバーに悪影響を与えるメッセージのアクティビティに対処するのに役立ちます。
AutoModのスパムフィルターでは、以下の 2 つのルールを有効にすることで、コミュニティをさまざまな種類のスパムから保護することができます。 また、メッセージがルールのトリガーをひいた場合に、AutoModがどのように対応するかも選択することができます。
- スパムコンテンツをブロックするルール - このルールを有効にすると、Discordでの体験を妨害する、次のような不要なスパムのテキストコンテンツを含むメッセージを検出することができます:
-
- 迷惑なメッセージや広告（無料Nitro）
- 招待状スパム
このフィルタは、ユーザーが過去に報告したスパムメッセージから得た情報をもとにした機械学習によって作動します。 このフィルタは完全ではないので、スパムと思われるものすべてを捕らえることはできないかもしれません。 たとえば、複数のメッセージにまたがる無意味な言葉や「コピー/ペースト」メッセージなどです。
誤ってスパムとしてフラグが立てられたメッセージに出会ったら、フラグが立てられたメッセージの下にある「問題を報告する」ボタンをクリックしてお知らせください。
- メンション付きのスパムをブロックするルール - メッセージに含まれるメンションの数を制限するように設定します。 一度設定すると、AutoModは過剰なユーザーまたはロールメンションを含むメッセージを検出およびブロックし、メンバーが不必要な通知やPingを受け取るのを防ぐことができるようになります。
AutoModスパムフィルター設定方法
スパムコンテンツのブロックやメンションスパムのブロックについて独自のルールを設定するには、サーバー設定 > AutoModにアクセスして、さまざまなスパムフィルターオプションを確認してください:
メンション付きのスパムをブロックするフィルターのセットアップ
- ”設定”を押すか、スパムコンテンツのブロックフィルターのトグルボタンを有効にすると、さまざまな対応アクションが表示されます。
- AutoModって？
- (オプション) スパム疑いのあるコンテンツに対し、AutoModがフラグを立てないようにしたい除外ロールまたはチャンネルを追加します。
注意点として、チャンネルを適用除外に設定すると、そのチャンネルにあるスレッドのメッセージとボイスチャット内テキストチャットも適用除外になります。
スパムコンテンツブロックフィルターの設定方法
- ”設定”を押すか、「メンション付きのスパムをブロック」のトグルボタンを有効にすると、さまざまな対応アクションが表示されます。
- メッセージに含まれるメンション数の制限を設定します。
1通あたり最大50件までのメンション制限を設定できます。
- AutoModが過剰なメンションを含むメッセージにフラグを立てると、メッセージをブロックしたり、アラートを送ったり、ユーザーをタイムアウトさせたりすることができます。
メッセージをブロック、アラートを送る、フラグの立っているメッセージのユーザーをタイムアウトさせる。
- (オプション) AutoModが過剰なメンションを含むメッセージにフラグを立てないようにしたい除外ロール、またはチャンネルを追加します。
注意点として、チャンネルを適用除外に設定すると、そのチャンネルにあるスレッドのメッセージとボイスチャット内テキストチャットも適用除外になります。
ロールやチャンネルの免除を追加する
よくある質問
つまり、AutoModにアクセスするには、サーバーの設定からコミュニティを有効にする必要があります。 コミュニティサーバーを有効にする方法については、こちらをご覧ください。
A: 現時点では、キーワードフィルターとスパムコンテンツフィルターをすぐに使用することができます。 今後もコンテンツフィルターの開発を続け、準備が整い次第、AutoModに追加する予定です。
Q: AutoModがサポートしている言語は？
A: カスタムキーワードルールから、あらゆる言語の単語やフレーズを検出することができます。
Q: 私のカスタムルールから、どんなものを検出できるの？
A: カスタムキーワードに入力した英語およびその他の言語の単語や文字、リンク、絵文字、句読点、記号を検出し、フィルタリングすることができます。
*カスタムキーワードのルールにアクセス権のない他のサーバーのカスタム絵文字を追加することはできません。
Q: 私のサーバーでAutoModのアップデートを行えるのは誰？
A: 「サーバー管理」または「管理者」権限を持つ人が、デスクトップデバイスからAutoModルールにアクセスし、作成および編集することができます。 現時点では、モバイルデバイスからAutoModルールのアップデートを行うことはできません。
Q: キーワードマッチはどのように機能する?
A: 単語間を含め、メッセージのどこかにキーワードが含まれているメッセージをブロックします。 これは、有害性を低減したり、スパム Botや標的型の嫌がらせからの保護に有効です。
複数の単語からなる用語をルールに追加すると、その単語を正確に含むメッセージのみがブロックされます。 たとえば、「this is bananas」という用語を追加すると、「this is bananas」を含むメッセージのみがブロックされ、「this」または「is bananas」だけを含むメッセージはブロックされません。
各カスタムキーワードルールに入力できる用語の数は1,000が上限で、各用語は30文字に制限されています。
Q: ワイルドカードはどのように機能するの？
A: デフォルトでは、AutoModはルールにあるキーワードと完全に一致するキーワードを含むメッセージをスキャンします。 しかし、あなたのコミュニティでは、あなたのルールを回避して有害なメッセージを流通させようとする人々に出くわす可能性があります。 では、あなたのキーワードに部分的に一致するあらゆる種類の言葉をブロックするには、どうすればよいのでしょうか。
そこで登場するのが、ワイルドカードです。 カスタムキーワードルールを設定する際に、キーワードに*ワイルドカード文字を追加することで、キーワードに部分的に一致する単語のバリエーションをフィルタリングすることができます。
キーワードの先頭または末尾に*を追加するだけで、キーワードごとに次のマッチング戦略のいずれかを選択できます。
- Prefix -- メッセージの中の少なくとも1つの単語はキーワードで始まる必要があります。
- Suffix -- メッセージの中の少なくとも一つの単語はキーワードで終わっていなければならない。
- Anywhere -- キーワードはメッセージのどの部分でも、どの単語の途中でも表示されます。
*cat ⇒ cool bobcat
Q: ボイスチャンネルのスレッドとテキストチャットでAutoModを使える？
A: はい。 あなたのルールからのキーワードや用語を含む場合は: スレッドは作成されません。
2. スレッド内のメッセージや ボイスチャンネル内のテキストチャットはブロックされ、アラートとして送信されることがあります。
Q: AutoModフラグメッセージはアプリから送信されますか？
A: AutoModはあなたがインストールしたアプリからのメッセージにフラグを立てません。
ユーザーアカウントにインストールされているアプリからのメッセージにのみフラグを付けます。 AutoModによって行われたアクションは、アプリケーションをインストールし最初にサーバーで使用したユーザーに発生します。 これは、アプリケーションがボタン付きのメッセージを作成する場合を意味します。これらのボタンとの相互作用から作成された追加メッセージは、最初にコマンドを使用したユーザーに対しても動作します。
Q: フラグされることの多い語句ルールを有効にしてるけど、望ましくない単語が表示されるのはなぜ？
A: フラグされることの多い語句ルールフィルターは、一般的にフラグが立てられるキーワードに対する防御を設定するための、迅速かつ効果的な方法を、すべてのコミュニティに提供するために設計されています。
しかし、私たちは、すべてのコミュニティに独自のルールと特定の単語に対する許容範囲があることを理解しています。 より家族的な環境を好むコミュニティもあれば、乱暴な言葉を受け入れて奨励するコミュニティもあります。 また、言葉そのものではなく、その言葉がどのような意図で使われたのかが問題になることも少なくありません。
上記の理由により、私たちのフラグされることの多い語句フィルターがすべてをカバーするわけではありません。 私たちがキャッチできない言葉は、カスタムキーワードのルールに追加することができます。
Q: フラグされることの多い語句フィルターに含まれるすべての単語を見るには、どうしたらいい？
A: コミュニティでの会話を妨げずに、フィルタリングしたい言語をカバーする効果があるかどうかを判断するために、これらの単語リストに含まれる単語を確認したいと考えは理解できます。
しかし、当面の間は保護効果を維持するために、リストに含まれる単語は公表いたしません。 これは、悪意のあるユーザーが、このリストを使用しているコミュニティで簡単に回避する手段を開発できないようにするためです。
Q: フラグされることの多い語句フィルターは、時間の経過と共に更新される？
A: はい。 言葉は流動的で常に進化しており、今日の言葉が明日には同じ意味を持たなくなる可能性があることを、私たちは認識しています。 私たちは、コミュニティがさらにカスタマイズできるようなフィルターを提供する方法を模索し続け、皆様からのレポートやフィードバックをもとに、定期的にフィルターを改良していきます。
フィードバックをお寄せいただくには、フラグを立てたい単語を含むAutoModアラートの「問題を報告」ボタンを押してください。
Q: フラグされることの多い語句フィルターが捕捉しないスパムの種類は何ですか？
A: スパムフィルターは、ユーザーからスパムとして報告されたテキストコンテンツにフラグを立てるため、以下のようなスパムとみなされる可能性のあるものすべてにフラグが立つとは限りません。
- 複数のメッセージやチャネルで繰り返される不要なスパム的テキストコンテンツ
- フレンドリクエストスパム
Q: Discordが見逃したスパムを発見しました。 どうしたらいいですか？
A: スパムとして誤ってフラグが立てられたコンテンツに遭遇した場合、フラグが立てられたスパムコンテンツのAutoModアラートで「問題を報告する」をクリックしてください。 これにより、フィルタの精度を長期的に向上させることができます。
Q: スパムコンテンツのブロックフィルターに関する私のフィードバックは、Discordでどのように使用されますか？
A: ユーザーレポートを継続的に確認することで、時間をかけてスパムフィルターを改善するよう努めます。 注意点として、メッセージを報告するとフラグが立ったメッセージの内容をDiscordに送信することになります。