Fable 500K Context Tip
Fable 500K Context Tip 是 BWi 提出的成本提醒:Fable 的 500K 上下文窗口极大,但如果把无关上下文都塞进去,成本极高。正确做法是让上下文紧凑,并优先使用 prompt caching 降低费用。
What it is
BWi(@BWi)在 X 上(约 4 小时前)发布的提示卡片:
- Core Idea:500K context is huge but expensive if you fill it with irrelevant context. Keep it tight and leverage prompt caching.
- Prompt:Tell Claude to keep responses concise and relevant. Leverage caching for repeated prompts.
- Expected Outcome:Lower latency and costs.
- Example:Summarizing a long meeting transcript or processing multiple large documents without losing track of earlier details.
Why it matters
为 product-trends/token-optimization-economics 的成本优化杠杆提供操作级补充:大窗口不等于免费窗口,紧凑上下文 + 缓存是 500K 场景的成本前提。
Key points
- 大窗口的诱惑与陷阱:500K 能装,但装满无关内容代价高
- 紧凑优先:只放相关上下文
- 缓存杠杆:重复 prompt 走 caching 降本
- 典型场景:长会议转写摘要、多文档处理
Counterpoints & Gaps
- 单条推文级提示,无量化数据
- 与 harness-engineering/smart-zone-context-efficiency 的 150K 聪明区经验存在潜在张力:装满 500K 可能同时触发质量下降和成本上升
How to apply
- 在 fable 长任务里显式要求"保持响应紧凑相关"
- 对重复 prompt 开启/验证 caching
Related
- product-trends/token-optimization-economics — Token 优化经济学
- harness-engineering/smart-zone-context-efficiency — 聪明区(同批新增)
- harness-engineering/model-routing — 模型路由
相关实体:Claude Fable 5 系列。