Плагин для серверов Майнкрафт, который модерирует чат с помощью ИИ и защищает его от оскорблений, угроз и другого вредного контента. Он проверяет сообщения на разных языках, включая русский, и автоматически применяет заданные меры к нарушителям.
Возможности
- Распознаёт токсичность, оскорбления, травлю, язык ненависти, угрозы, насилие, сексуальный контент, призывы к самоповреждению и другие категории.
- Для каждого типа нарушения можно отдельно включить проверку, задать порог уверенности и действие.
- Сообщение можно скрыть, выдать игроку предупреждение или выполнить команду сервера, например кик.
- Проверка работает до отправки сообщения либо после неё; при проверке до отправки возможна небольшая задержка.
- В консоль сервера выводятся отмеченные сообщения, игрок, категория и уровень уверенности.
- Помимо ИИ поддерживается чёрный список слов и фраз.
Команды
/acm reload— перезагрузить настройки плагина./acm debug— показать уровень уверенности категорий для отправляемых сообщений; помогает подобрать пороги проверки.
Права
acm.reload— доступ к/acm reload.acm.debug— доступ к/acm debug.acm.bypass— обход проверки чата; операторы сервера обходят её по умолчанию.
Настройка
Настройки находятся в YAML-конфиге. В providers выбираются используемые системы проверки: OPENAI, MISTRAL и DETOXIFY; Mistral лучше подходит для арабского и русского текста, а Detoxify быстро проверяет русский среди других языков.
В blacklisted-words добавляют запрещённые слова и фразы, в blacklisted-words-hide-message выбирают скрытие таких сообщений, а в blacklisted-words-commands указывают команды реакции. Для категорий в categories доступны параметры detection, confidence, hideMessage и commands. В командах можно использовать %player% и %player_uuid%.
Параметр check-after-message-has-been-sent определяет момент проверки: false проверяет сообщение до отправки, true — после. Логирование включается ключом logs-flagged-messages, а формат строки задаётся в logged-message-format.
Требования
Для работы ИИ-проверки используются модели OpenAI или Mistral; API-ключ не требуется.
