Все ноды/AI/LLM

Ответ LLM

Отправляет сообщение в LLM и стримит ответ. Проще, чем ИИ-агент: без инструментов, один вызов. Модель приходит на вход «Модель». История беседы — это массив сообщений на входе «Сообщение»: подайте туда выход ноды «История чата» — модель получит все сообщения целиком, последнее из них — текущее.

Ответ LLM▶
МодельОтвет модели
СообщениеДоп. поток
Система

Тип в графе: llm_response

Exec

Можно включить выход ошибки и обработать сбой отдельным путём.

Порты можно разделить на исполнение и данные (split ports).

Как попробовать

Минимальный рабочий сценарий

Вход
Ответ LLM▶
LLM▦
Выход▶
  • Исполнение + данные
  • LLM
  • Исполнение + данные + стрим
Нажмите «Скопировать ноды», откройте редактор и нажмите Ctrl+V на холсте.

Запускается сразу

Как применять

Берите эту ноду, когда от модели нужен один ответ и ничего больше: переписать текст, перевести, суммаризировать, ответить на вопрос по переданному контексту. Один вызов, никаких инструментов и раундов, ответ уходит потоком. Если модель должна сама решать, чем воспользоваться, нужен ИИ-агент; если ответ нужен объектом с полями — LLM со структурированным выводом.

Как это работает

Порт «Сообщение» делает две вещи сразу: запускает ноду и приносит текст запроса. На него можно подать строку, сообщение с вложением или целый массив Messages — например, из ноды История чата. В последнем случае ведущие сообщения станут контекстом диалога, а последнее — вопросом текущего хода.

Ответ стримится. Если выход ноды соединён с Выходом напрямую, токены появляются в чате по мере генерации; любая нода между ними накапливает ответ и отдаёт его целиком.

Дальше по графу уходит сам текст ответа — строкой, без обёртки.

Отдельный поток появляется, когда включён флажок «Дублировать вывод в доп. блок»: его выход подключается к ноде Секция Extra.

Частые ошибки

  • Подключили порт «Система», а промпт не изменился. «Источник системного промпта» по умолчанию стоит на «Шаблон», и подключённый порт при этом не читается. Переключите на «Подключённый порт System» или «Авто».
  • Выбрали «Шаблон» и убрали ребро. Ребро на порт «Сообщение» всё равно нужно — оно запускает ноду; при источнике «Шаблон» игнорируется только его значение.
  • Ведут стриминговый выход в две ноды. Поток идёт ровно в один адрес: два потоковых ребра из одного порта — ошибка валидации.
  • Подают на «Сообщение» и вход, и историю. Массив Messages из ноды История чата уже заканчивается текущим сообщением и уходит в модель целиком. Второе ребро на тот же порт от «Входа» не нужно — а без него «Ответ LLM» гарантированно запустится после того, как история прочитана.

Входы

ПортПроводДанныеПримечания
МодельllmLLMlink_llm—

Модель, которой отвечает эта нода: подключите ноду «LLM».

СообщениеmessageИсполнение + данныеexecute_datamessage

Текст, сообщение или массив сообщений. Массив (например, от «Истории чата») уходит модели целиком — так в неё попадает история беседы.

СистемаsystemДанныеdata—

Системный промпт: перекрывает тот, что задан в форме.

Выходы

ПортПроводДанныеПримечания
Ответ моделиoutputИсполнение + данные + стримexecute_data_streamingobject
Доп. потокthinkingСтримstreaming—

показывается, когда output_to_thinking = true

Настройки

ПолеТипПо умолчаниюОписание
Источник сообщенияmessage_sourcestringconnected

«Подключённый вход» — сообщение приходит из ребра; «Шаблон» — из текста ниже

Варианты: connected — Подключённый вход, template — Шаблон

Шаблон сообщения пользователяuser_prompt_templatestring""

Используется, когда источник сообщения — template. Поддерживает {{inputs.message}}, {{nodes.xxx.output.yyy}}

поддерживает шаблоны

показывается при «Источник сообщения» = Шаблон

Источник системного промптаsystem_sourcestringtemplate

«Авто» — берёт подключённый порт System, если он есть, иначе текст шаблона

Варианты: auto — Авто (подключённый порт System, иначе шаблон), connected — Подключённый порт System, template — Шаблон

Системный промптsystem_promptstring""

Шаблон системного промпта

поддерживает шаблоны

Дополнительно
Дублировать вывод в доп. блокoutput_to_thinkingbooleanfalse

Также стримить вывод LLM в подключённую ноду ExtraSection

Обезличивание данныхmask_sensitive_datastring""

Заменять распознанные персональные данные метками в тексте, который уходит модели, и возвращать оригиналы в её ответе. Не покрывает вложения, базы знаний, веб-поиск и вызовы HTTP-нод. Полнота распознавания не гарантируется.

Варианты: — По умолчанию для пространства, on — Обезличивать, off — Не обезличивать

Общие поля

Эти три поля есть у каждой ноды: платформа добавляет их сама, а не автор ноды.

  • expose_error_output — Если включено, показывает выход выполнения для подключения нод, которые запускаются при сбое этой ноды.
  • split_ports_in — Показывать отдельные порты входа для выполнения и данных вместо одного объединённого.
  • split_ports_out — Показывать отдельные порты выхода для выполнения и данных вместо одного объединённого.

Готовые примеры с этой нодой