阿里云发布开源本地运行的 Agent 路由引擎 HiRoute 新版:逐轮决定由哪个模型处理哪一步
阿里云云博客介绍开源、本地运行的 Agent(智能体)路由引擎 HiRoute 的新版本:它在每一轮对话中回顾上一步、评估当前步骤难度、判断上一步问题是否延续,据此决定该步交给更强还是更便宜的模型,并支持把任务分派给指定执行 Agent。
读者可了解“按步骤而非按场景分配算力”的工程思路,但文中成本与准确率数字来自其自述实验,衡量的是按策略选对模型组,而非任务完成率或真实节省金额。
阿里云云博客称,HiRoute 是开源、本地运行的 Agent 智能路由引擎,用户继续使用 Codex、Claude Code、Qoder、Pi、OpenCode、Hermes、DeepSeek Harness 等 Agent,由 HiRoute 决定每一步由哪个模型处理。
此版本加入“New Models”新模型试用入口与可连续调节的信任级别(难度阈值),以及低分兜底:新模型某步得分低于能力阈值且问题与后续任务相关时由主模型接管。 System One 机制每轮答三问:回顾上一步、评估当前步骤、判断上一步问题是否延续。
文章给出一个技术选型对比实验:把信息整理交给便宜模型、关键判断交给主模型,关键判断质量与全程主模型相同,总成本约为后者的十二分之一; 全程用便宜模型时信息整理尚可,但三项关键判断中有两项出现重大错误。 文章称基于 Jev 实际计费,一千次三问决策成本约 0.084 至 0.086 美元,不含连接建立的中位决策延迟在 0.5 至 1 秒之间。
原文明确这些结果衡量的是“是否按既定策略选对了模型组”,不是任务完成率或实际金额节省; OpenAI(美国人工智能公司) 结果来自实验用研究适配器,不代表内置连接的性能。
HiRoute 把选择权从“按场景固定选模型”改为“按每个步骤即时判断”,并用低分兜底把风险控制与成本优化分开处理。 原文自己限定了证据边界:三问机制衡量的是按策略选对模型组,而非任务完成率或实际节省金额,实验还使用了事后审阅的子集,改进幅度随决策模型和场景变化。 因此这些数字不能直接当作生产环境的成本或质量结论;
其可参考价值在于提供一种可复现的路由评估思路:先在简单步骤上试用新模型,依据自身任务记录逐步扩大其职责。
后续观察信号
- HiRoute 论文中的排除清单与局限具体包含哪些内容
- 低分兜底阈值如何配置及对延迟的影响
- 任务路由在多个执行 Agent 间分派时的失败恢复机制
