AI写代码终于不瞎烧钱了：边车路由让顶级性能成本直降35%

传统模型路由是个看起来很美的东西：基准测试能打，真用来写生产代码就掉链子，省的那点钱还不够改bug的。强如OpenAI和Anthropic都在模型路由上栽跟头，莫名其妙的降智，饱受用户吐槽。

近日，做AI编码智能体Devin的Cognition发布了新的混合模型框架Devin Fusion，专门解决这个问题。官方测试数据显示，它能把Fable级别的编码智能成本降低35%，输出质量没有明显下滑。

这个测试用的基准不是常见的刷分工具，是Cognition自己做的FrontierCode，核心指标是"生成的代码能不能真的合并到生产环境"，比普通编码基准更贴近实际使用。从数据看，搭配Fable 5的Devin Fusion单任务平均成本3美元，得分57.6，比纯用中等配置Fable 5的5.12美元成本低41%，得分还高0.6；就算不用Fable 5，纯靠混合架构，也能比GPT-5.5、Opus 4.8这些顶级模型省35%左右的成本，性能持平。

Devin Fusion的核心设计有两个，第一个是Sidekick代理架构。

之前的模型路由大多是拿到需求就选一个模型，一路用到黑，要么简单活浪费大模型，要么难活小模型搞不定。Devin Fusion的解法是同时跑两个独立代理：

• 前沿大模型做的主代理，只干最需要智商的活：定开发计划、处理需求里的模糊点、做最终代码审核，尽量少做操作。
• 性价比更高的小模型做的Sidekick（辅助）代理，负责所有机械性工作：写代码、跑测试、修lint、改bug、做代码探索。

两个代理各有自己的持久化缓存上下文，不用每次跨代理调用都重新传输全量上下文，避免了普通路由最常见的"看似省了模型钱，多花了好几倍缓存未命中的钱"的问题。

第二个核心设计是会话内动态路由。

编码任务的难度从来不是一开始就能算准的：看起来是改一行文案的小需求，可能挖出来是埋了三年的跨服务兼容问题。普通路由一开始选了小模型，遇到这种情况直接卡壳，要切换就得赔上缓存成本。

Devin Fusion的解法是不在任务开始的时候定死模型，而是在执行过程中用轻量分类器监测难度，需要升级的时候专门选在上下文压缩的节点切换——本来上下文压缩就会触发缓存重置，这时候换模型相当于没有额外成本。甚至可以直接升级Sidekick代理的模型，不用麻烦主代理。

从散点图能看出来，纯Fable 5的性能最高，但成本也最高；Devin Fusion把整个性价比曲线往左推了一大截，用更低的成本拿到了同级别的性能。

官方还放出了几组实际测试的案例，能很清楚看到这个架构的适用边界：

• 重构search.js到ES6，还要跑全量Playwright E2E测试。代码改动本身很小，测试要跑很久，把跑测试的活丢给Sidekick，成本从3.55美元降到1.37美元，省了62%，得分从98涨到100。
• 跨Mattermost服务全量删除OpenTracing集成，纯机械活，没有太多判断需求，全丢给Sidekick，成本降32%，得分仅掉1分。
• 给Python模型生成器加JSON-Schema的oneOf兼容，主代理和Sidekick都只能拿到部分结果，用Sidekick直接省38%的成本，性能没有变化。
• 给搜索栏加跨团队选择器，核心是产品逻辑判断，把编码活丢给Sidekick之后，需求理解跑偏，得分从54掉到27，成本仅省28%。
• 给Quarkus集成LangChain4j的WebSocket MCP传输，难度高但大部分是复用上游代码的机械活，Sidekick做的代码不用改，成本降25%，得分还涨了12分。

Cognition内部测试的数据显示，团队成员合并的PR里，88%是Devin Fusion自动路由完成的，全程没有人工干预模型选择。

这件事的大背景是，现在AI编码智能体的成本已经高到离谱。做AI基础设施的团队Not Diamond在评论区补充，很多人容易把模型路由和AI网关搞混：网关只是统一接入所有模型，路由才是决定该用哪个模型的核心层。一次长的编码会话一分钟能烧掉上百万token，很多公司的年度预算不到一个季度就花完了，模型路由本来是公认的解决方案，但之前的产品要么只能刷基准分，要么没考虑缓存的成本，实际用起来根本不省钱。

Devin Fusion发布之后，评论区的反馈两极分化：

• 有开发者说，这才是企业真正要的东西——不用自己琢磨这个活该用什么模型，系统自动搞定。
• 也有技术从业者指出，Sidekick的架构最巧妙的地方就是缓存和上下文的处理，比普通的子代理设计效率高得多。
• 有网友直接提出质疑，称这是趁Fable 5被美国政府暂停访问的时候，拿之前的测试数据包装产品抬营收。
• 还有不少用户问桌面版Devin什么时候能用上这个功能，以及能不能跨会话保存Fusion的开启状态，不用每次开新会话都手动开。

目前Devin Fusion已经在云版Devin开放预览，想要试用可以去https://app.devin.ai/signup注册，完整的技术细节可以看官方博客：https://cognition.com/blog/devin-fusion。