原始资料发布于2026年9月30日。Cloudflare在AI Gateway推出Auto Router公开Beta,使用cloudflare/auto把请求自动分配给适合的模型。路由先过滤不支持格式、权限、计费条件或不健康的候选,再通过边缘分类器评估任务类别、复杂性、歧义、风险及上下文依赖。

公司公布内部97项任务、每项三次试验的结果:Auto Router成功率86.6%,Opus 5.5为96.6%,GPT-6 Sol为84.2%;对应成功任务成本分别为0.0084、0.0210与0.0108美元。这是特定内部基准,较低费用不代表所有任务与最高成功率模型表现相同,不能只取省钱比例而省略质量差异。

量仔观察

模型路由应优化业务结果,而不仅是令牌单价。某类请求交给较小模型如果需要多次重试,可能产生更多成本;高风险任务即使模型更贵,也可能值得更强验证。路由策略需要把失败成本、人工复核和响应时限一起纳入。

评估可以按任务类型分组,保存路由选择、结果和升级原因。若分类器只看到近期信息,早期关键约束可能被遗漏;因此长会话任务尤其需要测试。还应验证模型故障或预算限制时的降级行为,避免系统悄悄换成不满足要求的模型。

我们的总结是:自动路由提供了一种降低日常任务成本的工具,但质量应透明。团队可以先用固定样本对比单模型与路由,再设置需要强模型或人工复核的任务条件。真正的收益是单位可靠结果更便宜,同时用户能理解系统为什么选择某个模型。