ONNX Spigot (ОННХ Спигот)

Плагин для серверов Майнкрафт на Spigot запускает локальные языковые модели в формате ONNX и позволяет общаться с ними прямо в игровом чате. Другие плагины могут обращаться к модели через Bukkit API.

Возможности

• Генерирует ответы локально из моделей в папке plugins/onnx-spigot/models/.
• Обрабатывает сообщения с триггером @llm <message>.
• Поддерживает ONNX-модели Qwen 2 и Qwen 3.
• Предоставляет сервис OnnxChatApi через ServicesManager для зависимых плагинов.

Команды

Для обращения к модели напишите в чат @llm <message>.

Права

• onnxspigot.llm.use — разрешает пользоваться чатом с моделью.

Настройка

Файлы выбранной модели помещают в plugins/onnx-spigot/models/<model-name>/. Нужны файл *.onnx и данные токенизатора: tokenizer.json либо vocab.json.

При использовании vocab.json можно добавить merges.txt; также поддерживаются tokenizer_config.json и config.json. Имя папки модели указывают в plugins/onnx-spigot/config.yml в ключе llm.model.

Требования

Плагин предназначен для Spigot. Модели Gemma не поддерживаются.