Все ноды/AI/LLM

Ответ LLM

Отправляет сообщение в LLM и стримит ответ. Более простой вариант чем AI Agent — без инструментов, один вызов. Требует LLM через link_llm. Поддерживает системный промпт и историю чата.

Ответ LLM
LLMOutput
MessageExtra stream
System

Тип в графе: llm_response

Exec

Можно включить ветку ошибки (expose_error_output) и обработать сбой отдельным путём.

Порты можно разделить на исполнение и данные (split ports).

Как попробовать

Минимальный рабочий воркфлоу

Вход
Ответ LLM
LLM
Выход
  • Исполнение + данные
  • LLM
  • Исполнение + данные + стрим
Нажмите «Скопировать ноды», откройте редактор и нажмите Ctrl+V на холсте.

Запускается сразу

Как применять

Берите эту ноду, когда от модели нужен один ответ и ничего больше: переписать текст, перевести, суммаризировать, ответить на вопрос по переданному контексту. Один вызов, никаких инструментов и раундов, ответ уходит потоком. Если модель должна сама решать, чем воспользоваться, нужен ИИ-агент; если ответ нужен объектом с полями — LLM со структурированным выводом.

Как это работает

Порт Message делает две вещи сразу: запускает ноду и приносит текст запроса. На него можно подать строку, сообщение с вложением или целый массив Messages — например, из ноды История чата. В последнем случае ведущие сообщения станут контекстом диалога, а последнее — вопросом текущего хода.

Ответ стримится. Если выход ноды соединён с Выходом напрямую, токены появляются в чате по мере генерации; любая нода между ними накапливает ответ и отдаёт его целиком.

Дальше по графу уходит сам текст ответа — строкой, без обёртки.

Отдельный поток появляется, когда включён флажок «Дублировать вывод в Extra Section»: его выход подключается к ноде Секция Extra.

Частые ошибки

  • Подключили порт System, а промпт не изменился. «Источник системного промпта» по умолчанию стоит на «Шаблон», и подключённый порт при этом не читается. Переключите на «Подключённый порт System» или «Авто».
  • Выбрали «Шаблон» и убрали ребро. Ребро на Message всё равно нужно — оно запускает ноду; при источнике «Шаблон» игнорируется только его значение.
  • Ведут стриминговый выход в две ноды. Поток идёт ровно в один адрес: два потоковых ребра из одного порта — ошибка валидации.
  • Рассчитывают на флажок «Использовать историю чата». Он подхватывает историю, только если она приехала вместе со значением на порт Message. Надёжный способ дать модели контекст — подать на этот порт массив Messages из ноды История чата.

Входы

ПортПроводДанныеПримечания
LLMllmLLMlink_llm

LLM config from llm node (registry or workspace connection)

MessagemessageИсполнение + данныеexecute_datamessage

User message sent to the LLM

SystemsystemДанныеdata

System prompt override

Выходы

ПортПроводДанныеПримечания
OutputoutputИсполнение + данные + стримexecute_data_streamingobject
Extra streamthinkingСтримstreaming

показывается, когда output_to_thinking = true

Настройки

ПолеТипПо умолчаниюОписание
Источник сообщенияmessage_sourcestringconnected

connected — из ребра; template — из текста шаблона

Варианты: connected — Подключённый вход, template — Шаблон

Шаблон сообщения пользователяuser_prompt_templatestring""

Используется, когда источник сообщения — template. Поддерживает {{inputs.message}}, {{nodes.xxx.output.yyy}}

поддерживает шаблоны

показывается при message_source = template

Источник системного промптаsystem_sourcestringtemplate

auto -- использовать подключённый системный вход если доступен, иначе шаблон

Варианты: auto — Авто (подключённый порт System, иначе шаблон), connected — Подключённый порт System, template — Шаблон

Системный промптsystem_promptstring""

Шаблон системного промпта

поддерживает шаблоны

Дополнительно
Использовать историю чатаuse_chat_historybooleanfalse

Передавать в LLM полную историю чата вместо только последнего сообщения

Дублировать вывод в Extra Sectionoutput_to_thinkingbooleanfalse

Также стримить вывод LLM в подключённую ноду ExtraSection

Общие поля

Эти три поля есть у каждой ноды: платформа добавляет их сама, а не автор ноды.

  • expose_error_output — Если включено, показывает выход выполнения для подключения нод, которые запускаются при сбое этого шага.
  • split_ports_in — Показывать отдельные порты входа для выполнения и данных вместо одного объединённого.
  • split_ports_out — Показывать отдельные порты выхода для выполнения и данных вместо одного объединённого.