Все ноды/AI/LLM
Ответ LLM
Отправляет сообщение в LLM и стримит ответ. Проще, чем ИИ-агент: без инструментов, один вызов. Модель приходит на вход «Модель». История беседы — это массив сообщений на входе «Сообщение»: подайте туда выход ноды «История чата» — модель получит все сообщения целиком, последнее из них — текущее.
Тип в графе: llm_response
Exec
Можно включить выход ошибки и обработать сбой отдельным путём.
Порты можно разделить на исполнение и данные (split ports).
Как попробовать
Минимальный рабочий сценарий
- Исполнение + данные
- LLM
- Исполнение + данные + стрим
Запускается сразу
Как применять
Берите эту ноду, когда от модели нужен один ответ и ничего больше: переписать текст, перевести, суммаризировать, ответить на вопрос по переданному контексту. Один вызов, никаких инструментов и раундов, ответ уходит потоком. Если модель должна сама решать, чем воспользоваться, нужен ИИ-агент; если ответ нужен объектом с полями — LLM со структурированным выводом.
Как это работает
Порт «Сообщение» делает две вещи сразу: запускает ноду и приносит текст запроса. На него можно подать строку, сообщение с вложением или целый массив Messages — например, из ноды История чата. В последнем случае ведущие сообщения станут контекстом диалога, а последнее — вопросом текущего хода.
Ответ стримится. Если выход ноды соединён с Выходом напрямую, токены появляются в чате по мере генерации; любая нода между ними накапливает ответ и отдаёт его целиком.
Дальше по графу уходит сам текст ответа — строкой, без обёртки.
Отдельный поток появляется, когда включён флажок «Дублировать вывод в доп. блок»: его выход подключается к ноде Секция Extra.
Частые ошибки
- Подключили порт «Система», а промпт не изменился. «Источник системного промпта» по умолчанию стоит на «Шаблон», и подключённый порт при этом не читается. Переключите на «Подключённый порт System» или «Авто».
- Выбрали «Шаблон» и убрали ребро. Ребро на порт «Сообщение» всё равно нужно — оно запускает ноду; при источнике «Шаблон» игнорируется только его значение.
- Ведут стриминговый выход в две ноды. Поток идёт ровно в один адрес: два потоковых ребра из одного порта — ошибка валидации.
- Подают на «Сообщение» и вход, и историю. Массив Messages из ноды История чата уже заканчивается текущим сообщением и уходит в модель целиком. Второе ребро на тот же порт от «Входа» не нужно — а без него «Ответ LLM» гарантированно запустится после того, как история прочитана.
Входы
| Порт | Провод | Данные | Примечания |
|---|---|---|---|
Модельllm | LLMlink_llm | — | Модель, которой отвечает эта нода: подключите ноду «LLM». |
Сообщениеmessage | Исполнение + данныеexecute_data | message | Текст, сообщение или массив сообщений. Массив (например, от «Истории чата») уходит модели целиком — так в неё попадает история беседы. |
Системаsystem | Данныеdata | — | Системный промпт: перекрывает тот, что задан в форме. |
Выходы
| Порт | Провод | Данные | Примечания |
|---|---|---|---|
Ответ моделиoutput | Исполнение + данные + стримexecute_data_streaming | object | |
Доп. потокthinking | Стримstreaming | — | показывается, когда output_to_thinking = true |
Настройки
| Поле | Тип | По умолчанию | Описание |
|---|---|---|---|
Источник сообщенияmessage_source | string | connected | «Подключённый вход» — сообщение приходит из ребра; «Шаблон» — из текста ниже Варианты: |
Шаблон сообщения пользователяuser_prompt_template | string | "" | Используется, когда источник сообщения — template. Поддерживает {{inputs.message}}, {{nodes.xxx.output.yyy}} поддерживает шаблоны показывается при «Источник сообщения» = Шаблон |
Источник системного промптаsystem_source | string | template | «Авто» — берёт подключённый порт System, если он есть, иначе текст шаблона Варианты: |
Системный промптsystem_prompt | string | "" | Шаблон системного промпта поддерживает шаблоны |
| Дополнительно | |||
Дублировать вывод в доп. блокoutput_to_thinking | boolean | false | Также стримить вывод LLM в подключённую ноду ExtraSection |
Обезличивание данныхmask_sensitive_data | string | "" | Заменять распознанные персональные данные метками в тексте, который уходит модели, и возвращать оригиналы в её ответе. Не покрывает вложения, базы знаний, веб-поиск и вызовы HTTP-нод. Полнота распознавания не гарантируется. Варианты: |
Общие поля
Эти три поля есть у каждой ноды: платформа добавляет их сама, а не автор ноды.
expose_error_output— Если включено, показывает выход выполнения для подключения нод, которые запускаются при сбое этой ноды.split_ports_in— Показывать отдельные порты входа для выполнения и данных вместо одного объединённого.split_ports_out— Показывать отдельные порты выхода для выполнения и данных вместо одного объединённого.