Model Routing — 智能模型选择
Model Routing 是在不同模型间智能分配任务的技术,让合适的模型处理合适的任务,以优化性能与成本的平衡。本页为 hub,内容已拆分为三个子页。
子页
- Model Routing Strategies — 路由策略与决策框架:核心机制(Sonnet 调用 Opus)、price/speed/vibe 三轴、角色与风格路由、窄决策路由(Jev)、评测作为路由输入、战略层信号(34 sources)
- Model Routing Economics — 成本与任务经济学:cheap verifier 模式、企业成本上限、dollars-per-fix、真实仓库基准数据点(18 sources)
- Model Routing Operations — 实现与运维细节:角色分工实现、provider 路径与访问连续性、额度池与执行面、硬边界/缓存/TTL、路由账本字段(30 sources)
关键判断
- 核心原则:Put Opus where the thinking happens——生成用最强模型,验证用足够好的模型。
- 真正的优化空间在 price/speed tradeoff 与任务匹配,而非全程使用最昂贵的前沿模型(Sam Altman)。
- 路由表不能只记录模型名和 token 单价;完整账本应记录 effort、角色、provider path、额度池、缓存、accepted result、返工与单位任务成本。
- 公开 benchmark 越来越不适合作为路由信号;router 需要 owned evals(内部任务样本、真实 repo、pass/fail rubric)。
- 模型可选性不是意识形态,而是供应商风险管理与访问连续性。
Related
- harness-engineering/model-harness-fit — per-model tool surface routing
- harness-engineering/personal-ai-benchmark — owned evals 的构建方法
- harness-engineering/skills-into-loops — skill 描述任务 → eval 判质量 → 智能分级
- harness-engineering/overview — harness engineering 总览
Pending Jean review
- 三个子页均为
ai_draft;建议按各子页 Pending 条目逐项推进本地任务集复现。