Parameterized AI Budget — 参数化 AI 预算
What it is
参数化 AI 预算是把 AI 支出从静态的年度/季度固定预算改写为可观察、可调整的运营参数:断路器、实时用量可见性、按证据加重的摩擦、随模型能力与任务边界调整的额度。预算不再是预先承诺的上限,而是随工作方式变化实时校正的反馈回路。
它的对立面是"参数而非政策"框架要淘汰的对象:固定 token 上限、按人分配额度、永远选择最便宜模型。这些静态政策在模型能力、价格、工具链数周内变化的环境里会双向失效。
Why it matters
Every 的实证:一次 GPT-5.6 Sol 集中测试使日均 OpenAI credits 从 11,520 升至 26,685(约 230%),并在清晨耗尽账户。响应不是设永久上限,而是参数化:额度触顶即暂停、由人决定继续多少;全员可见 usage dashboard;同额支出按"成本—产出—学习"三联单复盘(一次 480 美元权限结构运行产生基础设施与学习;一次同额高频邮件检查当天降频)。
《Benchmarks Don't Know Your Job》补上了第二层:agent 消耗的 token 约为人类的近 5 倍,超过 85% 是缓存 token;成本结构由工作流形状(迭代轮次、初始 context、路由选择)决定,而不是由单价决定。不看参数看单价,是治理看错了地方。
Key points
- 断路器优于天花板。 触发边界后暂停并人工决定,而不是自动无限充值。
- 可见性先于限制。 当花费实时可见并可讨论时,团队会自我调整(工程师找到更高效做法、Tend 用户当天降频)。
- 摩擦要被挣得。 轻护栏先行,证据表明不足才加重限制;决策门本身有成本。
- 按产出与学习判定价值,不按金额。 昂贵运行若留下可复用 skill、测试或决策规则,更接近投资;便宜运行若无限重复无学习,更接近浪费。
- 预算单位是任务边界,不是 token。 目标漂移(未定义停止条件)比高单价更能放大成本;先写清验收标准与停止条件,再谈模型选择。
Evidence across sources
| Source | Key Claim | Relevance |
|---|---|---|
| Every — Our AI Costs Jumped 230 Percent | Sol 测试致日用量约 230% spike;断路器 + 用量可见 + 挣得的摩擦 + 证据驱动调整;同额支出按产出与学习区别对待 | 参数化预算框架的原始定义与运营参数清单 |
| Every — Benchmarks Don't Know Your Job | agent token 消耗约为人类 5 倍、缓存 token 占比超 85%;成本由工作流形状决定;按需做缓存成本审计 | 参数化预算的测量层:成本结构归因到工作流参数 |
Open questions
- 什么规模之后,轻参数必须让位给正式采购与合规控制?
- 缓存命中率、迭代轮次、初始 context 这三个参数,哪个对 Jean 工作流的成本弹性最大?
- frontier 探索预算与生产推理预算应共用一套参数,还是分账管理?
Prompts for witness
- Jean 的订阅档位(Claude Max、各类 API)里,哪一档最接近"断路器触发过却从未复盘"的状态?
- 如果给 briefing 生成设一个"产出—学习"三联单,过去一个月哪次运行会通过、哪次会被降频?
Related
- AI Cost Governance — 本页概念的 hub 页与机制全集
- 参数与预算机制 — 断路器、effort 档位、硬路由的执行细节
- Model Routing Economics — 单位任务经济学
- Residual Work Eval — 预算价值判定的测量基础
Pending Jean review
- harness-engineering/parameterized-ai-budget —
ai_draft;建议:与 AI Cost Governance hub 页合并审读,确认本页作为概念入口、hub 作为机制全集的分工。