在线AI教程 / AI上云

[OpenRouter] 推出全新 Auto 与 Auto Code 路由器

· 转自:openrouter.ai

推出全新 Auto 与 Auto Code 路由器 Brian Thomas · 今天,我们正式推出下一代 Auto Router。基于过去 3 年运营 Auto Router 积

转载本文转自「openrouter.ai」,版权归原作者所有,内容已摘录正文、去除外部链接。

推出全新 Auto 与 Auto Code 路由器

Brian Thomas · 2026-11-06

今天,我们正式推出下一代 Auto Router。基于过去 3 年运营 Auto Router 积累的所有经验,我们采用全新的技术底座从零重构了它:根据不同的基准测试,新路由器的性能最多超越旧版 4 倍;在线上实测中,其 p90 路由耗时加快了 3 倍(从 1.96 秒降至 0.65 秒)。

对于路由器而言,在基准测试中拿高分往往比在实际业务中表现良好更容易。Auto Router 每月承载来自超过 10 万用户的逾 2.5T token,因此它必须经受住真实场景的考验。

本次发布不仅包含旗舰通用型 Auto Router(openrouter/auto),还新增了一款专门针对编程任务调优的全新路由器 Auto Code(openrouter/auto-code)。

现在即可在任意请求中将 model 设为 openrouter/auto 或 openrouter/auto-code 进行体验,也可以在聊天室中打开 Auto Router。完整详情请参阅 Auto Router 文档。

新一代路由器的更新亮点

上一代 Auto Router 依赖任务类型等少数粗粒度信号来驱动模型选择,这一限制此前是为了保持低延迟和判定一致性。而全新的 Auto Router 和 Auto Code 会全面权衡每个请求的 11 项维度,并结合实时价格、提供商健康状况以及缓存状态来挑选模型。

这一新流程使 Auto Router 能够协同任意模型集合工作。你可以应用各类治理策略,包括安全护栏(guardrails)、零数据保留(ZDR)要求、提供商限制、允许的模型列表以及 BYOK 自带密钥。Auto Router 会在你可用的模型范围内做出高性价比的选择。

我们推出全新的 Auto Code 路由器,源于大家在代码测试框架(coding harness)中使用通用路由器的真实反馈。该路由器针对编程性能进行了彻底调优,纳入了更高层级的代码模型并专门针对延迟做了优化。在下方展示的 5 项基准测试中,Auto Code 的得分与 Claude Opus 5.5 相当,而单次任务成本却降低了 74%。

在上一代中,我们还观察到极低成本模型的惊人效率导致 Auto Router 的单任务成本不断向低价漂移,从而错过了许多优秀的模型。在本次发布中,我们决定将默认定价区间回调到 Auto 几个月前的水平,以便引入更多样化的模型。如果你更青睐之前的策略,可以将 cost_tier 设为 low,即可获得相近的成本表现。

在聊天室中直观查看路由决策的推理过程

了解这些新路由器工作机制的最简单方式,是在聊天室中选择 Auto Router 或 Auto Code。每条回复旁边都会显示一个路由洞察面板,解释路由器选择该模型的原因。当你启用 router metadata 时,也可以通过 API 获取同样的分析数据。

在各模型页面查看实时路由分布

Auto Router 与 Auto Code 模型页面现在会展示各路由器最常调用的模型分布(按会话类型细分),以及该组合如何随任务难度的上升而动态调整。

与其他路由器及单一模型对比性能

Auto Router 与 Auto Code 的基准测试结果已发布在模型路由基准测试页面,与 OpenRouter 上的其他路由器及单一模型基线并列呈现。我们会定期重跑测试,以便大家追踪各个路由器在持续发布新模型时的表现动态。

沉淀数年运营 Auto Router 的宝贵经验

Auto Router 即将迎来三岁生日。如果你几年前在 agent 中配置了 openrouter/auto,直到今天你依然能获得当前最新、成本最优的模型选择。在自动化模型选择容易踩坑的环节上,我们积累了深厚经验,并在新一代设计中针对性地规避了这些问题。举几个例子:

单独剥离 Auto Code,针对测试框架定向优化。 用户对上一代 Auto Router 最集中的抱怨就是它在代码测试框架中的表现。Auto Code 倾向于选择成本稍高但能力更契合编程任务的模型梯队。它给予速度更高的权重,因为在编写代码时响应速度至关重要;同时它对失败施加更严厉的惩罚,从而在成功与失败界限分明的任务中更快完成航向校正。

审慎切换模型,守护缓存收益。 切换模型会带来额外开销,因为新模型需要重新构建输入 token 缓存。当仅调整推理力度(reasoning effort)即可满足需求时,Auto Router 会优先调整力度,仅在收益足以抵消放弃缓存的代价时才执行模型切换。在测试阶段,近十分之九的 agent 轮次都稳定保持在同一模型上。

自适应故障应对。 当会话中出现归咎于模型的问题时(例如反复出现同一报错,或修改后测试依然失败),这些信号会提升切换模型的概率。这大幅降低了会话长时间被困在最初选错的模型上的可能性。

融合真实流量与基准测试双重微调。 Auto Router 会在每一次基准测试运行和每一次真实的路由决策中持续进化。通过 typesafe/jev-router 与 openrouter/auto-beta,我们已在生产环境中对其进行了验证,且全程严格遵守零数据保留原则。在测试阶段,相比上一代路由器,无效工具调用(invalid tool calls)降低了 4 倍,agent 响应意外截断的频率减少了一半。

依托业内领先的提供商路由底座打造模型路由

像 Auto Router 和 Auto Code 这样的模型路由器负责挑选由哪个模型处理请求;而提供商路由(Provider routing)则负责挑选由哪家服务商来承载该模型。自诞生之初,OpenRouter 的每一个请求就都在运行这一机制:一旦选定模型,提供商路由器就会综合你的提供商偏好、实时在线率与延迟、价格,以及提供商是否已命中你的 Prompt 缓存,在托管该模型的所有服务商中挑选最优解。

模型路由器的上限取决于底层提供商路由器的实力。我们在设计 Auto Router 时让其能够感知 OpenRouter 的完整模型目录,使其能实时适应治理限制、基准测试结果以及新模型发布带来的市场信号。OpenRouter 上的 600 多种模型自接入当天起就会进入候选池,由基准测试与热度信号共同决定其是否能跻身成本最优模型集。

请求在 Auto Router 中的流转过程

Auto Router 缩小候选模型池:安全护栏策略、零数据保留、模型能力、提供商限制、BYOK 密钥以及任何允许或排除模型名单共同决定哪些模型进入候选范围。 快速决策模型处理请求:通过单次调用评估 11 项要素,例如当前任务类型、任务是否刚刚切换、任务难度、对速度的要求、是否需要视觉或代码库理解,以及更大模型、更多思考还是更低成本模型能更好地处理该任务。 路由策略决策最终模型:综合权衡实时价格、缓存状态与基准测试表现,选定最佳模型及推理力度。 走提供商路由分发请求:该请求将经历与直接请求该模型完全相同的提供商路由流程,确保分发至该模型最具性价比的服务商。 各轮次结果指导下一轮选择:路由器会将模型是否处理吃力以及哪些内容已被缓存等信号带入下一轮决策。

路由器与单一模型的对比

各项基准测试一致表明,市面上没有任何一款路由器能在成本与质量曲线的每一个点位上都击败最顶尖的前沿单模型。新版 Auto Router 也不例外,我们公开基准测试正是为了清晰展示它的优势与不足。

路由器的真正价值体现在:任务类型高度多样、组织需要严格控制成本,或者用户没有精力去追踪源源不断推出的新模型。相比固定选择单一模型,选用 Auto Router 或 Auto Code 是以极小的峰值性能折损换取长期稳定、极高性价比的表现。

如果你明确知道哪个模型最适合你的特定工作,请继续使用它;但如果你希望一劳永逸、专注于业务本身,路由器无疑是最佳之选。

即刻开始使用

在任何可以传入模型名称的地方,都可以直接填入 Auto Router 与 Auto Code:

curl \ -H "Authorization: Bearer $OPENROUTER_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "openrouter/auto-code", "messages": [{"role": "user", "content": "Add a retry with backoff to fetchUser in api/users.ts"}] }'

阅读 Auto Router 文档了解完整配置项,或者在聊天室中打开 Auto Router 发送你平时会手动挑模型的提示词。欢迎在 Discord 的 #feedback 频道告诉我们它的判定得失。

常见问题

从旧版 Auto Router 切换需要做哪些改动?

完全不需要改动。模型标识依旧是 openrouter/auto,而且 auto-router 插件设置中的 cost_tier、allowed_models 和 excluded_models 均可正常生效。

Auto Router 与 Auto Code 有何区别?

两者基于同一套路由引擎运行。Auto Router 是面向混合流量和通用 agent 的通用型路由器,倾向于选择极具性价比的模型梯队;Auto Code 则专为编程 agent 与代码测试框架打造,起步于更高的成本层级,并在不同模型与推理力度之间综合考量实测通过率、速度以及解决每个任务的成本。

模型路由与提供商路由是一回事吗?

不是。模型路由决定由哪个模型处理请求;提供商路由则决定由哪家服务商来运行该模型。Auto Router 与 Auto Code 负责前者,随后 OpenRouter 的提供商路由机制会结合你的提供商偏好、服务正常运行时间数据以及 Prompt 缓存状态来执行后者。

路由器是否遵循我的安全护栏和数据策略?

是的。安全护栏策略、零数据保留要求、提供商限制、允许与排除模型名单以及 BYOK 密钥共同界定了模型池边界,路由器仅在该边界内挑选性价比最优的模型。

使用路由器需要额外付费吗?

不需要。你只需按实际处理请求的模型的标准价格付费,响应结果中的 model 字段会明确告知最终调用的模型。

openrouter/auto-beta 是什么?

Auto Router Beta 是下一代 Auto Router 的预发布通道。新的路由升级会先部署至 openrouter/auto-beta,在验证稳定后再并入 openrouter/auto。因此你可以通过它提前预览新特性。如果你进行了尝试,欢迎在 Discord 的 #feedback 频道分享你的反馈。