返回公开档案

阿里云 AI(人工智能) Gateway(AI 网关)上线智能路由:按任务能力先筛模型,再按成本、速度或适配度选一个

阿里云 AI(人工智能) 网关推出智能路由(Intelligent Routing),开发者在请求中显式指定四种偏好模式之一,网关先排除不满足协议、模态、工具能力和上下文容量的候选,再按偏好选定一个执行模型。

多轮对话和 Agent(智能体)工具调用链中,网关倾向于保守复用原模型以减少缓存失效和任务中途切换模型。

首版不支持自定义权重,不生成 Fallback(故障回退)候选链,仅部分 AI 网关 Model API(应用程序编程接口) 可用。

公司口径原始来源可核对
事实与证据边界

阿里云博客文章称,智能路由按固定顺序处理显式 auto/<profile> 请求:判断请求是独立请求、普通用户消息还是工具/模型状态延续; 先排除在协议、模态、工具能力、上下文容量、授权、可用性等条件上明显不合格的候选; 再由任务顾问描述任务需求、结合 ModelCard 元数据形成“能力足够”的候选集,最后由网关侧策略统一做出一个路由决策。

候选池最多可从现有模型服务中选 5 个自定义候选,也可启用平台内置的经济、标准、旗舰三档模型。 ModelCard 中的 Credit 是路由比较用的偏好度量,不是计费价格。 四个 Profile(auto/balanced、auto/cheap、auto/fast、auto/quality)均不构成 SLA(服务等级协议)。 初始版本不提供自定义权重;

请求若指定具体模型名则完全绕过智能路由; 裸写 auto 不被解释为任何默认策略。 路由状态只保存有界任务摘要和必要关联信息,不持久化完整 Prompt、完整历史或凭证。 首批在 AI(人工智能) Gateway 专用实例上线,不支持多租户 Serverless 网关。

分析判断

这是模型平台竞争从“提供多少模型”转向“帮开发者管理多模型选择”的一个信号。 路由把选型逻辑从应用代码收进网关,可能降低模型迭代、价格波动和可用性变化带来的重新部署成本; 但首版不支持自定义权重、不生成 Fallback 链、多轮与 Agent 场景偏向保守复用,说明它更像可控的偏好路由器,而不是自动优化器。

其实际收益取决于 ModelCard 元数据和延迟、健康信号的质量,文章未披露可核验的量化效果。

后续观察信号

  • 阿里云是否披露智能路由在不同 Profile 下的模型选择分布或延迟、成本对比数据
  • 多租户 Serverless 网关何时支持该能力
  • ModelCard 的 Credit 由谁维护、如何与合同价或内部成本核算对应

原创编辑内容 © BlisseMind Insight。欢迎分享原文链接;全文转载须取得授权。引用的研究、数据及第三方材料的权利归相应权利人所有。

署名与转载说明

Insight 智能顾问

BlisseMind Insight

你好,我是 Insight 智能顾问。

我可以帮你查找公开市场信息、解读研究内容、比较公司与竞品,并提供可核对的来源。