Все ноды/AI/LLM
Ответ LLM
Отправляет сообщение в LLM и стримит ответ. Более простой вариант чем AI Agent — без инструментов, один вызов. Требует LLM через link_llm. Поддерживает системный промпт и историю чата.
Тип в графе: llm_response
Exec
Можно включить ветку ошибки (expose_error_output) и обработать сбой отдельным путём.
Порты можно разделить на исполнение и данные (split ports).
Как попробовать
Минимальный рабочий воркфлоу
- Исполнение + данные
- LLM
- Исполнение + данные + стрим
Запускается сразу
Как применять
Берите эту ноду, когда от модели нужен один ответ и ничего больше: переписать текст, перевести, суммаризировать, ответить на вопрос по переданному контексту. Один вызов, никаких инструментов и раундов, ответ уходит потоком. Если модель должна сама решать, чем воспользоваться, нужен ИИ-агент; если ответ нужен объектом с полями — LLM со структурированным выводом.
Как это работает
Порт Message делает две вещи сразу: запускает ноду и приносит текст запроса. На него можно подать строку, сообщение с вложением или целый массив Messages — например, из ноды История чата. В последнем случае ведущие сообщения станут контекстом диалога, а последнее — вопросом текущего хода.
Ответ стримится. Если выход ноды соединён с Выходом напрямую, токены появляются в чате по мере генерации; любая нода между ними накапливает ответ и отдаёт его целиком.
Дальше по графу уходит сам текст ответа — строкой, без обёртки.
Отдельный поток появляется, когда включён флажок «Дублировать вывод в Extra Section»: его выход подключается к ноде Секция Extra.
Частые ошибки
- Подключили порт System, а промпт не изменился. «Источник системного промпта» по умолчанию стоит на «Шаблон», и подключённый порт при этом не читается. Переключите на «Подключённый порт System» или «Авто».
- Выбрали «Шаблон» и убрали ребро. Ребро на Message всё равно нужно — оно запускает ноду; при источнике «Шаблон» игнорируется только его значение.
- Ведут стриминговый выход в две ноды. Поток идёт ровно в один адрес: два потоковых ребра из одного порта — ошибка валидации.
- Рассчитывают на флажок «Использовать историю чата». Он подхватывает историю, только если она приехала вместе со значением на порт Message. Надёжный способ дать модели контекст — подать на этот порт массив Messages из ноды История чата.
Входы
| Порт | Провод | Данные | Примечания |
|---|---|---|---|
LLMllm | LLMlink_llm | — | LLM config from llm node (registry or workspace connection) |
Messagemessage | Исполнение + данныеexecute_data | message | User message sent to the LLM |
Systemsystem | Данныеdata | — | System prompt override |
Выходы
| Порт | Провод | Данные | Примечания |
|---|---|---|---|
Outputoutput | Исполнение + данные + стримexecute_data_streaming | object | |
Extra streamthinking | Стримstreaming | — | показывается, когда output_to_thinking = true |
Настройки
| Поле | Тип | По умолчанию | Описание |
|---|---|---|---|
Источник сообщенияmessage_source | string | connected | connected — из ребра; template — из текста шаблона Варианты: |
Шаблон сообщения пользователяuser_prompt_template | string | "" | Используется, когда источник сообщения — template. Поддерживает {{inputs.message}}, {{nodes.xxx.output.yyy}} поддерживает шаблоны показывается при message_source = template |
Источник системного промптаsystem_source | string | template | auto -- использовать подключённый системный вход если доступен, иначе шаблон Варианты: |
Системный промптsystem_prompt | string | "" | Шаблон системного промпта поддерживает шаблоны |
| Дополнительно | |||
Использовать историю чатаuse_chat_history | boolean | false | Передавать в LLM полную историю чата вместо только последнего сообщения |
Дублировать вывод в Extra Sectionoutput_to_thinking | boolean | false | Также стримить вывод LLM в подключённую ноду ExtraSection |
Общие поля
Эти три поля есть у каждой ноды: платформа добавляет их сама, а не автор ноды.
expose_error_output— Если включено, показывает выход выполнения для подключения нод, которые запускаются при сбое этого шага.split_ports_in— Показывать отдельные порты входа для выполнения и данных вместо одного объединённого.split_ports_out— Показывать отдельные порты выхода для выполнения и данных вместо одного объединённого.