Мы слышали от модераторов и администраторов, сколько усилий требуется для управления вашим сообществом и насколько важно упростить создание и поддержание безопасного пространства для ваших участников. В нашей миссии по обеспечению безопасности ваших сообществ в Discord мы представляем новый инструмент автоматической модерации, сокращенно АвтоМод. С АвтоМод вы получите доступ к различным фильтрам контента, которые позволяют автоматически обнаруживать и даже блокировать нежелательный и опасный контент еще до его публикации.

О чем эта статья?

• Что такое АвтоМод?
• Что такое фильтры ключевых слов?
  • Как настроить фильтры ключевых слов для АвтоМод
  • Блокировка слов в именах пользователей или псевдонимах членов сервера
• Что такое спам-фильтры?
  • Как настроить спам-фильтры для автомода
• Часто задаваемые вопросы

Что такое АвтоМод?

АвтоМод — это система нескольких фильтров контента, предназначенная для упрощения модерации контента и облегчения работы модераторов. Некоторые фильтры, такие как фильтры ключевых слов, можно настраивать, чтобы вы могли автоматически обнаруживать и блокировать сообщения, содержащие определенные слова или фразы, которые вы считаете вредными для вашего сообщества, еще до того, как они будут опубликованы. Другие фильтры, которые мы создаем, основаны на алгоритмах машинного обучения для обнаружения и блокировки вредоносных или опасных сообщений, таких как ссылки на вредоносное ПО.

АвтоМод предотвращает публикацию нежелательных сообщений в вашем сообществе на всех ваших #текстовых-каналах, а также на других платформах обмена сообщениями, таких как темы и текстовый чат в голосовых каналах. Таким образом, вы можете чувствовать себя более комфортно, предоставляя вашему сообществу больше способов общаться и взаимодействовать друг с другом, не беспокоясь о добавлении дополнительных модераторов на сервер или канал. 

Вы также можете выбрать, чтобы АвтоМод отправлял вам оповещения, содержащие информацию о заблокированных сообщениях, на выделенный приватный канал по вашему выбору, чтобы помочь вам выявить и принять меры в отношении потенциальных злоумышленников и нежелательного поведения в вашем сообществе.

Что такое фильтры ключевых слов?

Фильтры ключевых слов АвтоМод позволяют настроить следующие правила, чтобы определить, на что должен обращать внимание АвтоМод и как реагировать, когда он отмечает сообщение, содержащее определенные слова или фразы: 

1. Правило стандартных недопустимых слов — используйте готовые списки слов для фильтрации часто отмечаемых слов.

2. Правило пользовательских ключевых слов — создайте собственный список ключевых слов и терминов для фильтрации в своем сообществе. 

Мы понимаем, что может быть сложно и долго думать обо всех словах, которые вы хотели бы отфильтровать с нуля, одновременно модерируя сообщество. Чтобы начать работу с АвтоМод, вы можете быстро настроить правило “Стандартные недопустимые слова”, чтобы включить готовые списки слов, которые защитят ваше сообщество от воздействия сообщений, содержащих часто используемые слова, одним нажатием кнопки:

Категории стандартных недопустимых слов:

• Нецензурная брань - Защитите членов вашего сообщества от направленных на них лично оскорбительного контента, включая термины, которые могут быть расценены как оскорбления или разжигание ненависти.
• Контент, связанный с сексом - Держите язык откровенно сексуального характера подальше от вашего сервера, чтобы ваше сообщество было подходящим для всей семьи.
• Серьезная ненормативная лексика - Блокируйте вопиющие формы ненормативной лексики, но допускайте мягкие формы ругательств.

Поскольку в каждом сообществе есть свои стандарты того, какие слова считаются допустимыми, у вас будет возможность исключить слова из этих списков! Исключенные слова больше не будут отмечаться и не будут получать ответ от АвтоМод. Для слов, которые вы хотите разрешить в своем сообществе, но которые фильтруются нашими списками слов, просто добавьте их в разделе “Добавить слова-исключения”.  

Как настроить фильтры ключевых слов для АвтоМод

Чтобы настроить свои собственные правила для часто отмечаемых слов или пользовательских ключевых слов, вы можете перейти на вкладку “АвтоМод” в настройках вашего сервера. 

1. Перейдите в Настройки сервера > АвтоМод, чтобы увидеть различные варианты фильтрации ключевых слов для АвтоМод.

2. В разделе “Стандартные недопустимые слова” нажмите “Настройка”, чтобы выбрать любой из трех готовых списков часто отмечаемых слов.

3. Создайте свои собственные правила со словами и фразами, которые АвтоМод должен отфильтровать, выбрав "Создать" в разделе "Блокировать выбранные пользователем слова" и введя ключевые слова и фразы.

Совет: Если вы заметили сообщение, содержащее слово, которое хотите добавить в свои правила, можно быстро сделать это, выделив слово в сообщении, которое вы хотите добавить, щелкнув правой кнопкой мыши и выбрав "Отметить слово", чтобы добавить слово в существующее или новое правило по вашему выбору.

3. Выберите, чтобы АвтоМод полностью блокировал помеченные сообщения с помощью специального сообщения, отправлял вам предупреждение и отключал пользователей* по тайм-ауту, когда он помечает сообщение.
*Установка тайм-аута для пользовательского ответа доступна только в Персонализированных настройках ключевых слов

Когда АвтоМод блокирует сообщение, пользователь получает сообщение, видимое только ему. Чтобы добавить собственное сообщение, вы можете выбрать "Редактировать пользовательское сообщение" и ввести свое (до 150 символов). 

Чтобы получать оповещения об отмеченных сообщениях, перехваченных АвтоМод, вы должны выбрать канал, на который АвтоМод будет отправлять оповещения. Обязательно выберите канал, доступный только администраторам и/или модераторам.

Заблокировать сообщение или отправить предупреждение для отмеченных сообщений

Тайм-аут для отмеченных сообщений

3. Добавьте роли или каналы, которые вы хотите исключить. 

Если вы установили исключение для канала, любые сообщения в ветках или текстовом чате в голосовом канале на этом канале также будут исключены. Пользователи с правами администратора и управления сервером всегда освобождаются от правил фильтрации.

Блокировка слов в именах пользователей или псевдонимах членов сервера

Вы также можете настроить слова или фразы, которые не должны отображаться в именах пользователей или никнеймах на сервере, когда они находятся на вашем сервере. Пользователи или участники, чьи ники на сервере содержат эти заблокированные слова, должны будут обновить свой ник на сервере, прежде чем они смогут общаться или взаимодействовать с другими участниками сервера. 

Если пользователи не имеют права обновлять свой ник на сервере, им придется обновить свое имя пользователя по умолчанию, прежде чем они смогут общаться или взаимодействовать на вашем сервере. По умолчанию АвтоМод будет проверять никнейм на сервере, а если это не реализовано, то АвтоМод будет проверять имя пользователя.

1. Чтобы настроить это, перейдите в Настройки сервера > Настройка безопасности 

2. Затем нажмите на "Изменить" рядом с АвтоМод.

3. В разделе "Участники" вы увидите опцию "Блокировать слова в названиях профилей участников", нажмите на значок "х", чтобы включить ее, если она еще не включена.

Если пользователь попытается использовать одну из заблокированных фраз или слов в своем имени пользователя или псевдониме на сервере, он получит сообщение об ошибке и должен будет использовать что-то другое.

Что такое спам-фильтры?

Спам — это проблема, с которой сообщества должны бороться каждый день, чтобы защитить своих участников от опасностей и злоумышленников. В нашей миссии помочь вам обеспечить безопасность вашего сообщества, не добавляя дополнительных модераторов и действий, мы создаем новые инструменты, которые помогут сократить спам в Discord.

Мы знаем, что спам приходит во многих формах. Эти новые фильтры помогают устранять активность сообщений, которая негативно влияет на участников вашего сообщества, позволяя вам блокировать сообщения, содержащие текстовый спам, еще до его публикации.

С помощью спам-фильтров АвтоМод вы можете включить два приведенных ниже правила, чтобы защитить своё сообщество от различных типов спама. Вы также можете выбрать, как АвтоМод будет реагировать, когда сообщение затрагивает ваши правила.

1. Правило блокировки спам-контента. Включите это правило, чтобы обнаруживать сообщения, содержащие нежелательный текстовый спам-контент, который мешает вашей работе в Discord, например:

• • Нежелательные сообщения или реклама (бесплатное Nitro)
  • Спам приглашениями

Обратите внимание, что этот фильтр основан на машинном обучении, которое информируется о спам-сообщениях, о которых пользователи ранее сообщали нам — включение этого фильтра АвтоМод будет помечать сообщения с аналогичными качествами. Этот фильтр не идеален, поэтому он может не улавливать все, что вы считаете спамом; например, бессмысленные слова в нескольких сообщениях или сообщениях типа “копировать/вставить”. 

Мы будем следить за отзывами пользователей, чтобы со временем улучшить этот фильтр, так что помогите нам: если вы столкнулись с сообщением, которое было ошибочно помечено как спам, нажмите кнопку "Сообщить о проблемах" под помеченным сообщением, чтобы сообщить нам об этом.

2. Правило блокировки упоминаний в спаме. Установите ограничение на количество упоминаний, которые может содержать сообщение. После настройки АвтоМод может обнаруживать и блокировать сообщения, содержащие чрезмерное количество упоминаний пользователей или ролей, и помогает предотвратить получение вашими участниками ненужных уведомлений.

Как настроить спам-фильтры для АвтоМода

Чтобы начать настройку собственных правил для блокировки спам-контента или блокировки спама упоминаниями, перейдите в “Настройки сервера”  > “АвтоМод”, чтобы просмотреть различные параметры спам-фильтра:

Как настроить блокировку фильтра спам-контента

1. Нажмите "Настроить" или включите переключатель "Блокировка спама", чтобы просмотреть различные ответные действия.

2. Выберите, чтобы АвтоМод полностью блокировал отмеченные сообщения и / или отправлял вам предупреждение:
   Заблокировать сообщение и отправить предупреждение для отмеченных сообщений
3. (Необязательно) Добавьте исключенные роли или каналы, которые вы не хотите, чтобы АвтоМод помечал как подозрительный спам.

Напоминаем, что установка исключения для канала гарантирует, что любые сообщения в ветках и текстовом чате в голосовом канале на этом конкретном канале также будут исключены.

Как настроить спам-фильтр "Блокировать упоминания"

1. Нажмите "Настроить" или включите переключатель в фильтре "Блокировать спам", чтобы просмотреть различные ответные действия.

2. Установите ограничение на количество упоминаний, которое может содержать сообщение.

Установите лимит упоминаний, до 50 на сообщение

3. Выберите, чтобы АвтоМод блокировал сообщения, отправлял вам предупреждение и / или отключал пользователей, когда он отмечает сообщение, содержащее чрезмерные упоминания. 

Заблокировать сообщение, отправить оповещение и / или установить тайм-аут пользователя для помеченных сообщений

4. (Необязательно) Добавьте исключенные роли или каналы, для которых вы не хотите, чтобы АвтоМод отмечал сообщения, содержащие чрезмерное количество упоминаний.

Напоминаем, что установка исключения для канала гарантирует, что любые сообщения в ветках и текстовом чате в голосовом канале, на этом конкретном канале также будут исключены.

Добавьте исключения для каналов и ролей

Часто задаваемые вопросы

В: Кто имеет доступ к АвтоМод в настоящее время?
О: АвтоМод в настоящее время доступен для всех серверов.
Это означает, что вы должны включить сообщество в настройках вашего сервера, чтобы получить доступ к АвтоМод. Узнайте, как включить сервер сообщества здесь.

В: Какие фильтры доступны в АвтоМод?
О: В настоящее время доступны и готовы к использованию фильтры ключевых слов и фильтр спам-контента. Мы продолжим работу над дополнительными фильтрами содержимого, которые будут добавлены в АвтоМод по мере готовности.

В: Какие языки поддерживает АвтоМод?

О: АвтоМод может определять слова и фразы на любом языке из ваших пользовательских правил ключевых слов.
Однако списки слов из списка часто отмечаемых слов, а также фильтр спам-контента в настоящее время доступны только на английском языке.

В: Какие вещи АвтоМод может обнаружить в моих пользовательских правилах?

О: АвтоМод может обнаруживать и фильтровать слова и символы на английском и других языках, ссылки, эмодзи*, знаки препинания и символы, которые вы вводите в пользовательские правила ключевых слов.
* Обратите внимание, что вы не можете добавлять пользовательские эмодзи с других серверов, к которым у вас нет доступа, в свои правила пользовательских ключевых слов.

В: Кто может обновлять АвтоМод на моем сервере?

О: Те, у кого есть права "Управление сервером" или "Администратор", смогут получать доступ, создавать и редактировать ваши правила АвтоМод в версии для ПК. В данный момент обновления правил АвтоМод нельзя выполнять на мобильных устройствах.

В: Как работает подбор ключевых слов?

О: АвтоМод блокирует сообщения, содержащие ключевые слова, встречающиеся в любом месте сообщения, в том числе между словами. Это может быть полезно для снижения токсичности или защиты от спам-ботов и целенаправленного преследования.

Когда вы добавляете в правило термин, состоящий из нескольких слов, блокироваться будут только сообщения, содержащие точный термин. Например, добавление термина "это бананы" приведет к блокировке только сообщений, содержащих "это бананы", а не тех, которые содержат только "это" или "то бананы". 

Количество терминов, которые вы можете ввести в каждое правило пользовательских ключевых слов, ограничено 1000 с ограничением в 60 символов для каждого термина.

В: Как работают подстановочные знаки?

О: По умолчанию АвтоМод сканирует сообщения, содержащие ключевые слова, точно соответствующие ключевым словам в ваших правилах. Но есть вероятность, что вы столкнетесь с людьми в вашем сообществе, пытающимися обойти ваши правила и распространять вредоносные сообщения. Итак, как вы можете заблокировать все виды слов, которые также частично соответствуют вашим ключевым словам? 

Вот где в игру вступают подстановочные знаки. При настройке правил для пользовательских ключевых слов вы можете добавить подстановочный знак * к своим ключевым словам, что позволит вам отфильтровать варианты слов, которые частично соответствуют вашим ключевым словам.

Просто добавьте символ * в начале или в конце ключевого слова, чтобы выбрать одну из следующих стратегий сопоставления для каждого ключевого слова:

1. Префикс -- хотя бы одно слово в сообщении должно начинаться с ключевого слова
2. Суффикс - хотя бы одно слово в сообщении должно заканчиваться ключевым словом
3. Везде -- ключевое слово может отображаться в любой части сообщения в середине любого слова

Примеры:
cat* ⇒ get a cat-sitter
*cat ⇒ cool bobcat
*ana* ⇒ bananas

В: Будет ли АвтоМод работать с ветками и текстовым чатом в голосовых каналах?

О: Да! При содержании ключевого слова или термина из ваших правил:
1. Ветка не будет создана

2. Сообщения в ветках или текстовом чате в голосовом канале могут быть заблокированы и отправлены в качестве предупреждения

В: Будет ли АвтоМод отмечать сообщения из приложений?

О: АвтоМод не будет отмечать сообщения от приложений, которые вы установили на свой сервер.

АвтоМод будет отмечать только сообщения от приложений, установленных непосредственно на аккаунт пользователя. Любые действия, выполняемые АвтоМод, будут происходить с пользователем, который установил приложение и впервые использовал его на сервере. Это означает, что если приложение создает сообщение с кнопками, то дополнительные сообщения, созданные в результате взаимодействия с этими кнопками, также будут действовать против пользователя, который изначально использовал команду.

В: У меня включено правило “Стандартные недопустимые слова”. Почему я все еще вижу нежелательные слова?

О: Наши фильтры стандартных недопустимых слов  предназначены для того, чтобы предоставить каждому сообществу быстрый и эффективный способ настроить защиту от часто отмечаемых ключевых слов, чтобы вам не приходилось думать о них самостоятельно и создавать их с нуля.

Однако мы понимаем, что в каждом сообществе есть свои правила и терпимость к определенным словам. Некоторые сообщества предпочитают поддерживать более благоприятную для семьи среду, в то время как другие принимают и поощряют более шумные выражения. И часто вред наносит не само слово, а намерение, с которым оно используется.

Из-за этих соображений наши фильтры часто используемых слов могут уловить не всё. Для слов, которые мы не улавливаем, вы можете добавить их в любое из ваших правил настраиваемых ключевых слов.

В: Как просмотреть все слова, содержащиеся в фильтрах часто используемых слов?

О: Мы понимаем, что вы хотите увидеть слова в этих списках слов, чтобы решить, будут ли они эффективны для языка, который вы хотите отфильтровать, не ущемляя общение в ваших сообществах. 

Однако в данный момент мы не будем публиковать слова содержащиеся в списке слов, чтобы сохранить их эффективность. Это необходимо для того, чтобы злоумышленники не смогли легко разработать средства их обхода в сообществах, которые их используют.
Мы ценим прозрачность мышления, которое использовалось при создании этих списков слов, и рассмотрим эти темы в одном из будущих постов в нашем блоге.

В: Будут ли со временем обновляться фильтры часто используемых слов?

О: Да, мы понимаем, что язык изменчив и постоянно развивается, и сегодняшние слова завтра могут не иметь того же значения. Мы продолжим искать способы предложить сообществам дополнительные настройки с помощью наших фильтров и будем регулярно совершенствовать их, используя ваши отчеты и отзывы.

Чтобы поделиться с нами своим отзывом, нажмите “Сообщить о проблемах” в любом из ваших уведомлений от АвтоМод, содержащих слово, которое вы хотите сообщить нам.

В: Какие типы спама не улавливает фильтр "Блокировки Спам Контента"?

О: Спам-фильтр будет помечать текстовое содержимое, о которое наши пользователи отметили как спам, и, таким образом, может не помечать все, что может считаться спамом, например:

• Нежелательный текстовый спам, повторяющийся в нескольких сообщениях и каналах
• Спам запросами дружбы

В: Я обнаружил спам, который Discord пропустил, что мне делать?

О: Если вы столкнулись с контентом, который был ошибочно помечен как спам, нажмите "Сообщить о проблеме" в любом из ваших предупреждений АвтоМод о помеченном спам-контенте. Это поможет нам со временем улучшить точность фильтра.

В: Как Discord будет использовать мои отзывы о фильтре "Блокировать спам-контент"?

О: Мы будем работать над улучшением спам-фильтра с течением времени, постоянно анализируя сообщения пользователей. Напоминаем, что когда вы сообщаете о сообщении, вы отправляете содержимое отмеченного сообщения в Discord.