阿里云 AI(人工智能) Gateway(AI 网关)上线智能路由:按任务能力先筛模型,再按成本、速度或适配度选一个
阿里云 AI(人工智能) 网关推出智能路由(Intelligent Routing),开发者在请求中显式指定四种偏好模式之一,网关先排除不满足协议、模态、工具能力和上下文容量的候选,再按偏好选定一个执行模型。
多轮对话和 Agent(智能体)工具调用链中,网关倾向于保守复用原模型以减少缓存失效和任务中途切换模型。
首版不支持自定义权重,不生成 Fallback(故障回退)候选链,仅部分 AI 网关 Model API(应用程序编程接口) 可用。
阿里云博客文章称,智能路由按固定顺序处理显式 auto/<profile> 请求:判断请求是独立请求、普通用户消息还是工具/模型状态延续; 先排除在协议、模态、工具能力、上下文容量、授权、可用性等条件上明显不合格的候选; 再由任务顾问描述任务需求、结合 ModelCard 元数据形成“能力足够”的候选集,最后由网关侧策略统一做出一个路由决策。
候选池最多可从现有模型服务中选 5 个自定义候选,也可启用平台内置的经济、标准、旗舰三档模型。 ModelCard 中的 Credit 是路由比较用的偏好度量,不是计费价格。 四个 Profile(auto/balanced、auto/cheap、auto/fast、auto/quality)均不构成 SLA(服务等级协议)。 初始版本不提供自定义权重;
请求若指定具体模型名则完全绕过智能路由; 裸写 auto 不被解释为任何默认策略。 路由状态只保存有界任务摘要和必要关联信息,不持久化完整 Prompt、完整历史或凭证。 首批在 AI(人工智能) Gateway 专用实例上线,不支持多租户 Serverless 网关。
这是模型平台竞争从“提供多少模型”转向“帮开发者管理多模型选择”的一个信号。 路由把选型逻辑从应用代码收进网关,可能降低模型迭代、价格波动和可用性变化带来的重新部署成本; 但首版不支持自定义权重、不生成 Fallback 链、多轮与 Agent 场景偏向保守复用,说明它更像可控的偏好路由器,而不是自动优化器。
其实际收益取决于 ModelCard 元数据和延迟、健康信号的质量,文章未披露可核验的量化效果。
后续观察信号
- 阿里云是否披露智能路由在不同 Profile 下的模型选择分布或延迟、成本对比数据
- 多租户 Serverless 网关何时支持该能力
- ModelCard 的 Credit 由谁维护、如何与合同价或内部成本核算对应
