Deterministic orchestration вместо свободного агента
Когда в LLM-ассистенте лучше deterministic routing, а не свободный agent/tool calling?
Ответить самому
Сначала сформулируйте ответ как на собеседовании, затем откройте разбор и оцените себя.
Короткий ответ
Если есть жесткие правила доступа, антиспойлеры, роли и стабильный UX, лучше deterministic pipeline: classify intent, choose retrieval scope, run tools, validate output.
Полный разбор
Свободный агент удобен, когда задача открытая и допускает разные пути. Но в образовательном продукте много строгих правил: не решать за студента, не раскрывать будущий урок, не показывать hidden profile, не запускать опасный код и не выходить за curriculum.
Deterministic orchestration делает поведение предсказуемым: intent classifier, retrieval scope, policy checks, tool execution, answer generation, post-generation guard. LLM может использоваться внутри шагов, но не получает полную свободу выбирать любые tools и контекст.
Так легче тестировать систему, объяснять ошибки, строить product metrics и соблюдать безопасность. Agentic режим можно оставить для внутренних workflows или ограниченных сценариев с хорошими guardrails.
Теория
Чем жестче продуктовые правила, тем больше orchestration должен быть кодом, а не скрытым решением модели.
Типичные ошибки
- Давать агенту все tools и весь контекст без policy layer.
- Пытаться тестировать свободного агента только несколькими happy-path prompts.
- Не логировать routing decisions.