Routing & Cost — MOC(导航图)
Core Questions
- 按什么依据在模型间分配任务:能力/成本比、任务类型还是协作体验。
- 模型花费应作为可调参数(断路器、effort 档位、路由阈值)还是固定预算来治理。
- 成本单位应该是 token/调用次数,还是『被接受的任务结果』。
Key Concepts
- 路由轴:Model Routing hub 及三子页 Strategies(决策框架)、Economics(单位任务成本与基准数据)、Operations(实现与运维)——hub 只留导航,三子页分别回答『怎么选』『值不值』『怎么落』。
- 成本治理轴:AI Cost Governance — Parameters, Not Policies 拆分页——政策与治理模型(轻护栏起步、凭证据加重)、参数与预算机制(固定 token 预算双向失败:挡实验或被失控任务打穿)、观测与归因(成本单位改为被接受的任务结果)。
- 度量交汇点:评测作为运营会计系统 把路由决策与成本归因接到同一账本(cost per accepted PR),跨组织口径未标准化是明示风险。
Main Tensions
- 参数 vs 政策的治理哲学:花费可见则成为对话、不可见则沦为月末惊吓,但『被接受的结果』受主观判断影响,有沦为 vanity metric 的风险。
- 路由自由 vs 供应商锁定:额度政策与模型访问争议(Claude Code/Codex 互操作、provider 切换事件)要求把模型供应商视为可替换依赖,但切换本身有迁移成本。
Current Judgments
- 以下为 AI 草稿判断:『固定预算双向失败、控制点应前移到执行前的硬边界(路由阈值、额度上限)』有 Every 团队日用量飙升 230% 后操作化响应的实例支撑,是三页中最接近可操作的结论;但样本为单团队,跨组织可推广性未知。路由决策应按任务类型(迭代速度 vs 推理深度)而非品牌忠诚,方向有多来源支持、阈值无共识。
To Read / To Verify
- harness-engineering/model-routing hub 拆分后三子页的模型成本数据时效性——价格与基准随版本快速过期,需标记采集日期。
- harness-engineering/ai-cost-governance 拆分前原文与 hub 页的『参数而非政策』框架是否保留了 Every/GPT-5.6 Sol 事件的完整来源链。
Output Directions
-
写『把模型花费当参数管』的个人版:effort 档位映射任务深度、断路器、例行预算三件套。
-
产出『任务→模型路由决策卡』:按任务类型给出候选模型与切换条件,数据源标注采集日期。
Pending Jean review
- 本页为来源驱动的主题地图,判断保持 ai_draft。