Dify

Подключите Dify к Mixen — оплата с баланса в рублях, каталог из 105+ моделей.

Установка

Dify — платформа для сборки LLM-приложений. Варианты: Dify Cloud или self-host через Docker Compose (нужен Docker Compose 2.24.0+):

git clone https://github.com/langgenius/dify.git
cd dify/docker
cp .env.example .env
docker compose up -d

Первичный вход и создание администратора — http://localhost/install.

Конфигурация

Модели Mixen подключаются через плагин OpenAI-API-compatible:

Откройте Integrations → Model Provider (в старых версиях Dify — Settings → Model Provider).
В блоке Install model providers найдите плагин OpenAI-API-compatible (или установите его из Marketplace).
На карточке плагина нажмите Add Model и заполните:

Model Type:    LLM
Model Name:    openai/gpt-5.6-sol
API Key:       ваш-api-ключ
API Base URL:  https://api.mixen.ai/v1

Completion mode оставьте Chat. Ключ вида mxn-… выпускается в кабинете.

Каждая модель добавляется отдельно — повторите шаг 3 для остальных моделей из каталога (Model Name = ID модели посимвольно, с префиксом провайдера).
В Default Models (правый верхний угол страницы) назначьте нужную модель системной (System Reasoning Model), чтобы приложения без явного выбора модели работали через Mixen.

Важно: для всех типов моделей — и LLM, и не-LLM (Text embedding, Rerank, STT, TTS) — базовый URL указывается одинаково: с /v1, как выше. Плагин строит путь от базового адреса сам, дописывая только имя эндпоинта (/embeddings и т. п.), версию /v1 он не добавляет — адрес без /v1 даст нерабочий путь.

Сценарий: чат-приложение на модели Mixen

Короткий путь до работающего ассистента:

В Studio нажмите Create from Blank и выберите тип Chatbot — диалоговое приложение из модели и промпта. Рядом есть Agent (модель сама решает, какие инструменты звать), Chatflow и Workflow (визуальные цепочки с LLM-нодами) и Text Generator (одиночный прогон текста).
В оркестровке выберите модель Mixen из добавленных через плагин — система предложит подобрать модель под задачу, а режим Debug as Multiple Models сравнивает до четырёх моделей одновременно. После выбора у модели подстраиваются параметры — температура и остальные настройки генерации.
Напишите промпт-инструкцию: роль, формат ответа, ограничения. Кнопка Generate поручает черновик инструкции самой LLM: задайте желаемый вывод в Ideal Output, и каждая генерация сохранится отдельной версией — плохой черновик можно откатить. Внутри промпта наберите /, чтобы вставить переменную (New Variable: короткий текст, абзац, число, чекбокс и другие типы) — значения задаются пользователями в интерфейсе приложения.
Проверьте диалог в панели предпросмотра справа и нажмите Publish — приложение станет доступным по ссылке и через API Dify.

Если выбранная модель умеет видеть, в оркестровке появятся мультимодальные тумблеры Vision, Audio и Document — у Vision в Settings настраиваются разрешение, способ загрузки и лимит файлов. Модели с capabilities.vision есть в каталоге Mixen (см. чат), так что приложение Dify может разбирать скриншоты и фото прямо на нашем балансе.

Приложение типа Agent подходит, когда модель должна сама решать, какие инструменты звать: наш /v1/chat/completions поддерживает tool calling (признак вызова — finish_reason: "tool_calls", многораундовые сценарии работают), детали — в обзоре интеграций.

База знаний (RAG) с эмбеддингами Mixen

Chatbot-приложению можно дать grounding на ваши документы: прикрепите базу знаний в настройках приложения и настройте поиск (Weighted Score или Rerank Model, Top K, порог сходства). Сама база создаётся в разделе Knowledge, и вот что важно: качественная индексация базы построена на embedding-модели, и эту роль может выполнять модель Mixen.

Схема:

Тем же плагином OpenAI-API-compatible добавьте embedding-модель:

Model Type:    Text Embedding
Model Name:    text-embedding-3-small
API Key:       ваш-api-ключ
API Base URL:  https://api.mixen.ai/v1

В Default Models назначьте её параметром Embedding Model — этот дефолт индексирует и извлекает содержимое баз знаний воркспейса.
Создайте базу знаний и загрузите документы. На шаге создания настраивается нарезка и чистка текста: размер чанка и предобработка — от них зависит, какие фрагменты попадут в промпт. Индексация High Quality строит векторный индекс (поддерживает векторный, полнотекстовый и гибридный поиск), Economical экономит токены на 10 ключевых словах с чанка, но точность ниже.

text-embedding-3-small — рабочая embedding-модель каталога (1536 измерений, ~2.7 ₽ за 1M входных токенов); полный список эмбеддингов — в каталоге.

Нюансы, о которых стоит знать заранее:

Выбор индексации почти необратим в одну сторону: базу High Quality нельзя понизить до Economical, обратный апгрейд — можно, в настройках базы.
Мультимодальные embedding-модели помечены иконкой Vision и ищут по тексту вместе с картинками — база с такой моделью получит метку Multimodal.
Для отладки цепочки «эмбеддинги + реранк + ответ» на чистом API у нас есть отдельный гайд RAG.

Выбор модели и экономика

Задача	Модель	Цена за 1M токенов
Массовые узлы: классификация, извлечение, черновики	`z-ai/glm-5.3-flash`	8.4 ₽ вход / 27.9 ₽ выход
Финальные ответы, длинный контекст, сложные сценарии	`anthropic/claude-sonnet-5`	213.9 / 1069.5 ₽

Инструкция приложения — это стабильный префикс каждого запроса, поэтому она стабильно попадает в промпт-кэш: повторное чтение того же префикса в течение 5 минут стоит ~10% цены входа (у claude-sonnet-5 — 21.4 ₽ за 1M вместо 213.9 ₽, у glm-5.3-flash — 1.7 ₽), и каждое попадание продвигает окно кэша вперёд. Держите инструкцию приложения постоянной — переформулировка посреди дня сбрасывает накопленную скидку.

Порядок цен для массовых приложений: запрос на 1 000 входных и 200 выходных токенов на glm-5.3-flash обходится примерно в 0.014 ₽ — чат-бот, обслуживающий тысячи диалогов, остаётся копеечным даже без кэша.

Глубина рассуждения задаётся параметром reasoning_effort (значения от off до max: off, low, medium, high, xhigh, max); уровни конкретной модели перечислены в GET /v1/models → capabilities.reasoning_efforts. Рассуждение расходует бюджет ответа — для узлов извлечения данных обычно хватает низкой глубины.

Модель	ID
GPT-5.6 Sol	`openai/gpt-5.6-sol`
Claude Opus 5	`anthropic/claude-opus-5`
GLM 5.3	`z-ai/glm-5.3`
DeepSeek V4 Pro	`deepseek/deepseek-v4-pro`
Kimi K3	`moonshotai/kimi-k3`

Типичные проблемы

401 / неверный ключ — ключ скопирован не целиком или это не API-ключ; выпустите новый в кабинете, он начинается с mxn-.
«Model Name» не совпадает с каталогом — ID вводится вручную и должен совпадать посимвольно, включая префикс провайдера (openai/…, anthropic/…); сверьтесь с каталогом.
Embedding-модель не отвечает — проверьте, что API Base URL указан с /v1 (https://api.mixen.ai/v1) — одинаково для LLM и Text Embedding (см. примечание выше).
Приложение отвечает не вашей моделью — проверьте выбор модели в оркестровке приложения и дефолт System Reasoning Model: приложения и узлы без явного выбора уходят на дефолт воркспейса.
База знаний не находит документы — проверьте, что база создана с индексацией High Quality и retrieval-настройки в приложении (Top K, порог, Weighted Score против Rerank Model).