Свои модели и ключи
Кроме каталога платформы рабочее пространство может привезти собственные модели: интеграция Свой ключ модели хранит адрес сервиса, ключ и список моделей, которые вы разрешили. Один ключ обслуживает модели всех трёх видов — чат, эмбеддинги и реранкер.
Как подключить
- Откройте Настройки → Интеграции и создайте интеграцию Свой ключ модели.
- Заполните Адрес сервиса (например
https://api.example.com/v1) и API-ключ. - Нажмите Загрузить у провайдера — платформа запросит список моделей по этому адресу. Если провайдер такого списка не отдаёт, добавьте модели вручную кнопкой Добавить вручную.
- Включите переключатель у нужных моделей: загруженные модели по умолчанию выключены.
- У каждой строки выберите Назначение модели — Чат, Эмбеддинги или Rerank.
- Сохраните интеграцию.
Интеграции
Свой ключ модели
Текст модель принимает всегда; галки модальностей ограничивают, какие вложения ей отправлять. Снятые «Документы» означают, что PDF на этой модели вызовет ошибку, а не уедет непрочитанным.
Как модель попадает в списки
Модель из интеграции получает идентификатор вида ws:<id интеграции>:<id модели> и
встаёт рядом с моделями каталога — но только в том выпадающем списке, который соответствует
её назначению:
| Назначение | Где появится | Пример имени в списке |
|---|---|---|
| Чат | поле Model ноды llm | Acme · gpt-4o |
| Эмбеддинги | нода embedding, создание базы знаний | Acme · text-embedding-3-small |
| Rerank | нода rerank | Acme · rerank-v3.5 |
Имя в списке — это «название интеграции · название модели», поэтому две интеграции с одинаковой моделью различимы. В разделе Настройки → Модели такие строки лежат в группе моделей рабочего пространства, и их видимость переключается там же.
Цепочки запасных моделей
Отдельный вид интеграции — цепочка запасных моделей. Она собирается из уже подключённых моделей, перечисленных в порядке перебора, и появляется в выпадающем списке LLM одной строкой. Условия перехода к следующей модели выбираются флажками — таймауты запросов, HTTP 4xx, HTTP 5xx.
Если провайдер недоступен напрямую
У интеграции есть необязательное поле Прокси: http://, https://, socks5:// или
socks5h://, логин и пароль можно указать прямо в адресе. Пусто — соединение идёт
напрямую.
Прокси платформы сюда не подставляется, даже если оператор его настроил. Ключ и адрес здесь ваши: маршрут через чужую инфраструктуру вы не выбирали, а частый случай BYO — это эндпоинт в вашей же сети, до которого внешний прокси и не достаёт. Один и тот же адрес используется и когда платформа спрашивает у провайдера список моделей, и когда нода обращается к нему на запуске.
Что при этом с биллингом
Своя модель работает на вашем ключе, и счёт за неё приходит вам напрямую, поэтому платформа не тарифицирует её токены — иначе одна и та же работа оплачивалась бы дважды.
| Что списывается | Модель каталога | Своя модель (BYO) |
|---|---|---|
| Запуск сценария | 0,4 кварка | 0,4 кварка |
| Каждая LLM-нода | 0,1 кварка | 0,1 кварка |
| Токены LLM | по тарифу модели | не тарифицируются |
| Токены эмбеддингов и rerank | по тарифу | строка вообще не создаётся |
Токены BYO-вызова по-прежнему видны в разделе Использование — нода действительно работала, — но их цена равна нулю.