Skip to content
Back/Harness Engineering

Parameterized AI Budget

View in Graph
Updated 2026-10-25
1 min read
216 words

Parameterized AI Budget — 参数化 AI 预算

What it is

参数化 AI 预算是把 AI 支出从静态的年度/季度固定预算改写为可观察、可调整的运营参数:断路器、实时用量可见性、按证据加重的摩擦、随模型能力与任务边界调整的额度。预算不再是预先承诺的上限,而是随工作方式变化实时校正的反馈回路。

它的对立面是"参数而非政策"框架要淘汰的对象:固定 token 上限、按人分配额度、永远选择最便宜模型。这些静态政策在模型能力、价格、工具链数周内变化的环境里会双向失效。

Why it matters

Every 的实证:一次 GPT-5.6 Sol 集中测试使日均 OpenAI credits 从 11,520 升至 26,685(约 230%),并在清晨耗尽账户。响应不是设永久上限,而是参数化:额度触顶即暂停、由人决定继续多少;全员可见 usage dashboard;同额支出按"成本—产出—学习"三联单复盘(一次 480 美元权限结构运行产生基础设施与学习;一次同额高频邮件检查当天降频)。

《Benchmarks Don't Know Your Job》补上了第二层:agent 消耗的 token 约为人类的近 5 倍,超过 85% 是缓存 token;成本结构由工作流形状(迭代轮次、初始 context、路由选择)决定,而不是由单价决定。不看参数看单价,是治理看错了地方。

Key points

  • 断路器优于天花板。 触发边界后暂停并人工决定,而不是自动无限充值。
  • 可见性先于限制。 当花费实时可见并可讨论时,团队会自我调整(工程师找到更高效做法、Tend 用户当天降频)。
  • 摩擦要被挣得。 轻护栏先行,证据表明不足才加重限制;决策门本身有成本。
  • 按产出与学习判定价值,不按金额。 昂贵运行若留下可复用 skill、测试或决策规则,更接近投资;便宜运行若无限重复无学习,更接近浪费。
  • 预算单位是任务边界,不是 token。 目标漂移(未定义停止条件)比高单价更能放大成本;先写清验收标准与停止条件,再谈模型选择。

Evidence across sources

Source Key Claim Relevance
Every — Our AI Costs Jumped 230 Percent Sol 测试致日用量约 230% spike;断路器 + 用量可见 + 挣得的摩擦 + 证据驱动调整;同额支出按产出与学习区别对待 参数化预算框架的原始定义与运营参数清单
Every — Benchmarks Don't Know Your Job agent token 消耗约为人类 5 倍、缓存 token 占比超 85%;成本由工作流形状决定;按需做缓存成本审计 参数化预算的测量层:成本结构归因到工作流参数

Open questions

  • 什么规模之后,轻参数必须让位给正式采购与合规控制?
  • 缓存命中率、迭代轮次、初始 context 这三个参数,哪个对 Jean 工作流的成本弹性最大?
  • frontier 探索预算与生产推理预算应共用一套参数,还是分账管理?

Prompts for witness

  • Jean 的订阅档位(Claude Max、各类 API)里,哪一档最接近"断路器触发过却从未复盘"的状态?
  • 如果给 briefing 生成设一个"产出—学习"三联单,过去一个月哪次运行会通过、哪次会被降频?

Pending Jean review

Sources

Synthesized from 2 sources
  • Every — Our AI Costs Jumped 230 Percent. I'm Not Setting Token Budgets — Yet.Supporting source listed by this page.Whole pagemediumbody
  • Every — Benchmarks Don't Know Your JobSupporting source listed by this page.Whole pagemediumbody

Evolution

1 event
  1. absorbed

    Derived from source material

    This page is currently synthesized from 2 sources.

    From Every — Our AI Costs Jumped 230 Percent. I'm Not Setting Token Budgets — Yet., Every — Benchmarks Don't Know Your JobTo Parameterized AI Budget
    Sources: raw/newsletters/Every/2026-08-17 Our AI Costs Jumped 230 Percent I’m Not Setting Token Budgets Yet.md · raw/newsletters/Every/2026-08-27 Benchmarks Don't Know Your Job.md

Linked from