LibreChat + NeuroAPI: librechat.yaml и ключ

LibreChat читает конфигурацию из файла librechat.yaml: в нём описаны провайдеры, эндпоинты и дополнительные настройки интерфейса. Файл передаётся приложению при запуске и монтируется в контейнер; путь к нему задаётся при развёртывании. После изменения конфигурации приложение нужно перезапустить — на лету файл не перечитывается.

Для NeuroAPI достаточно одного custom endpoint: он ведёт себя как OpenAI-совместимый провайдер, а значит, подходит стандартный набор полей. Отдельного образа или плагина не требуется: вся интеграция — это секция endpoints.custom, переменная окружения с ключом и список моделей.

Ещё один практический момент: LibreChat и NeuroAPI обновляются независимо, поэтому фиксируйте версию образа и проверяйте конфигурацию после обновлений. Поле, которое работало в одной версии, может измениться в следующей — держите librechat.yaml в репозитории и просматривайте diff перед деплоем.

• librechat.yaml — единая точка настройки провайдеров.
• Ключ хранится в .env или переменной окружения контейнера.
• После правки yaml перезапустите контейнер LibreChat.
• Каталог моделей проверяйте в /price или GET /v1/models.

Документация LibreChat описывает custom endpoint как объект с обязательными name, apiKey, baseURL и models. Поле name — уникальное имя эндпоинта, которое отображается в интерфейсе; apiKey — ключ или ссылка на переменную окружения; baseURL — адрес API, для NeuroAPI это https://neuroapi.host/v1. В models.default указывается хотя бы одна модель.

Дополнительные поля делают интерфейс удобнее: models.fetch включает запрос списка моделей у API, titleConvo и titleModel отвечают за автоматические названия диалогов, modelDisplayLabel задаёт подпись провайдера в чате. Если вы генерируете названия тем же ключом, помните, что это дополнительные запросы: они тоже расходуют баланс.

• name — уникальное имя провайдера в интерфейсе.
• apiKey — ссылка на переменную вида ${NEUROAPI_API_KEY}.
• baseURL — https://neuroapi.host/v1.
• models.default — массив точных ID из каталога.
• models.fetch — подтягивать список через /models.
• titleConvo, titleModel — заголовки диалогов (дополнительные запросы).

В типовом развёртывании LibreChat работает в Docker Compose. Ключ NeuroAPI добавляется в .env рядом с другими ключами, а в librechat.yaml используется ссылка на эту переменную — так секрет не попадает в git. Если вы обновляете образ, переменные окружения и файл конфигурации сохраняются на хосте и не теряются при пересоздании контейнера.

Ограничьте один эндпоинт одной задачей: если в компании несколько ключей или тарифов, заведите отдельные custom endpoints с понятными именами. Тогда пользователь видит, к какому тарифу относится модель, а администратор может сопоставить расход с конкретным ключом в кабинете NeuroAPI.

• Ключ — в .env или secrets вашего оркестратора.
• В yaml — только ссылка на переменную.
• Несколько ключей — несколько custom endpoints.
• Перезапуск контейнера применяет новую конфигурацию.
• Запросы к модели идут с сервера LibreChat, а не из браузера пользователя.

Если провайдер виден, но список моделей пуст, проверьте четыре вещи: в models.default есть хотя бы одна модель, models.fetch включён, ключ действителен, а baseURL указан без лишних сегментов. Ошибка 401 означает неверный или отозванный ключ, ошибка 404 по модели — опечатку в ID или недоступность модели на тарифе.

Часть несовместимых параметров может вызывать ошибку со стороны провайдера. В документации LibreChat для таких случаев предусмотрен dropParams — список параметров, которые не нужно отправлять. Начинайте с минимального набора параметров и добавляйте их только при необходимости: так проще понять, что именно вызывает ошибку. После правки конфигурации снова перезапустите контейнер и повторите тестовый диалог.

• Проверьте models.default, fetch, ключ и baseURL.
• 401 — ключ, 404 — ID модели, 429 — лимиты.
• Для несовместимых параметров используйте dropParams.
• Начинайте с минимального набора полей запроса.

LibreChat — многопользовательский интерфейс, поэтому расход растёт не только от чатов пользователей: заголовки диалогов, суммаризация и системные подсказки тоже могут обращаться к модели. Отключите автогенерацию, если она не нужна, или выберите для служебных запросов недорогую модель — это заметно влияет на баланс при активной команде.

Тариф выбирается на уровне API-ключа NeuroAPI. Если один ключ используется всеми сотрудниками, все запросы идут по одному тарифу; разные ключи и endpoints позволяют разделить сценарии — например, дорогую модель для сложных задач и экономичную для повседневных. Баланс предоплаченный, история расхода видна в кабинете.

Для команды полезно заранее договориться о правилах: какие модели доступны в интерфейсе, кто отвечает за пополнение баланса и что делать при ответе 429. Это дешевле, чем разбираться с исчерпанным балансом в середине рабочего дня.

• Служебные запросы LibreChat тоже расходуют баланс.
• Отключите ненужную автогенерацию заголовков.
• Разные endpoints — разные ключи и тарифы.
• Сверяйте расход в кабинете NeuroAPI.