ProgRouter：多智能体LLM工作流中基于进度感知的在线编排方法

ProgRouter是面向多智能体LLM工作流的新型在线路由框架。它通过多视角任务进度评分器和双路径进度预测器，在每一步自适应选择最优LLM，以在质量与成本之间取得平衡。在代码生成、数学推理和问答基准上的实验显示，其相比关键基线降低了运营成本，同时维持较强性能。

此前主流级联路由方法是一次性、查询级别的决策，无法适应多步工作流的动态特性。ProgRouter将路由决策细粒化到每一步，根据实时任务进度动态调整，在成本预算内保持任务质量，为降低多智能体系统运营成本提供了新的实践路径。

ProgRouter的核心机制包含三部分：多视角进度评分器，结合粗粒度结果区间和细粒度子任务完成度、进度趋势等信号；双路径进度预测器，用于估计每个候选LLM的进度增益；自适应元门控机制和在线路由决策，平衡进度增益、时间预算和长期成本效率，从而使每一步的路由选择适应当前任务状态。

对依赖多智能体LLM工作流的产品团队，ProgRouter可直接用于降低推理成本、提升资源利用率；对研发流程，提供了在线路由的参考实现，可能改善复杂任务的完成质量与成本效率；对用户，可能以更低成本获得相近甚至更好的任务结果。

• 在多智能体平台中集成ProgRouter，实现按步骤智能路由，降低推理成本。
• 将进度评分器与监控系统结合，实时可视化任务进度与成本消耗。
• 在垂直领域（如客服、代码生成）定制进度信号，优化路由决策。

• ProgRouter在更多类型任务和更大规模智能体上的泛化能力如何？
• ProgRouter的实际部署成本与调参难度尚未有证据说明。
• 实验中的成本降低程度未在摘要中量化，具体数值需查看原文。