上下文腐烂 — Context Rot 的四种模式
来源:Every Newsletter,2026-02-23
核心论点
上下文腐烂(Context Rot): 陈旧偏好、错误记忆、过时目标、矛盾信号的缓慢积累,会悄悄降低 AI 的输出质量。
关键洞察: 模型不会告诉你上下文已经一团糟,它只会默默变差,而你会去怪模型本身。
为什么关掉 ChatGPT 的记忆功能
作者 Mike Taylor(Every 技术咨询主管)选择关闭记忆功能,原因:
遗忘是一种超能力:
- 当你从 ChatGPT 获得建议时
- 你可以精确知道它依据的是什么
- 只有你在这次对话中粘贴进去的内容
- 而不是几周前某段可能已经过时的历史记录
上下文腐烂的四种模式
数据科学家 Drew Breunig 发布的上下文失败分类框架:
1. 上下文中毒(Context Poisoning)
定义(Google Gemini 团队): 一个幻觉或错误进入上下文后,模型开始将其当作事实反复引用。
风险:
- 如果 ChatGPT 误读了某次历史对话并存入记忆
- 这个错误信号将持续影响未来所有回答
- 而用户几乎不会察觉
2. 上下文分心(Context Distraction)
发现(Gemini 团队训练玩宝可梦的 AI):
- 当上下文超过 10 万 token 后
- 代理停止生成新策略,开始重复历史动作
- 陷入自身过去的循环
Databricks 研究:
- 模型准确率在上下文窗口填满之前就已开始下滑
- 有时早在 3.2 万 token 时便出现衰退
- 记忆功能使用户对上下文窗口的实际占用量毫无感知
3. 上下文混淆(Context Confusion)
本质: 模型被迫关注 Prompt 中的所有内容,无法区分:
- "随手一写的创意氛围"
- "必须严格执行的指令"
伯克利大学函数调用排行榜数据:
- 所有模型在获得更多工具时表现都会下降
- 都会偶尔调用与任务无关的工具
4. 上下文冲突(Context Clash)
微软与 Salesforce 联合研究发现:
- 将同一个 Prompt 拆分为多轮对话后
- 模型平均性能下降 39%
- 模型会急于在获得完整信息之前就给出答案
- 早期的错误尝试会留在上下文中,污染后续推理
长期风险: 1 月的偏好可能与 6 月的指令直接矛盾
案例:Kanye 事件
实验: 在记忆功能推出之前,Mike 在自定义指令中插入了一段 Kanye West 的名言,意图引导 ChatGPT 追求"极致"。
结果:
- ChatGPT 对这段话过度索引
- 几乎在每次对话中都引用它
- 无论是网页开发、室内装饰、营销计划,还是 Python 错误调试
- 都声称已将任务做得"尽可能 dope"
关键规律: 即便是 Prompt 中一句随手写下的话,也可能对 AI 输出产生深远影响——因为这些模型被训练成极度渴望取悦用户。
案例:烤肋排事件
实验: 为写这篇文章重新开启记忆功能,向 ChatGPT 询问如何烤猪肋排。
ChatGPT 的回应:
- 给出了一份名为"Hoboken 晚餐升级方案"的建议
- 推荐了 Trader Joe's 的玉米面包粉
- 推荐"美国老爸风"通心粉奶酪
问题: Mike 刚搬到 Hoboken,ChatGPT 显然从历史对话中调取了位置信息并嵌入建议。
疑问: 这是真正最优的烤肋排建议,还是被我的位置信息和购物习惯扭曲过的结果?
可应用要点
立即行动
第一步:关闭记忆功能
- 前往 ChatGPT 设置
- 路径:设置 → 个性化 → 记忆
- 将其切换为关闭状态
第二步:建立自己的"上下文库"
- 将常用的背景信息、偏好设定、工作风格等整理成文档
- 存于 GitHub、Notion 或 Google Drive
- 需要时手动粘贴进 Prompt
- 这样你始终知道 AI 在用什么信息做决策
第三步:养成"新建对话"的习惯
- 每次开始一个全新任务时,开启新的聊天窗口
- 而不是在旧对话中继续追加
- 这等同于给 AI 一块干净的白板
第四步:定期审查自定义指令
- 每隔一段时间回头检查其中每一句话
- 问自己:如果这句话被 AI 应用到完全不相关的场景,会产生什么奇怪的结果?
- 删除任何可能被过度索引的内容
企业级应用
将"上下文管理"视为一项独立的工程能力:
- 定期清理、版本化管理传入 AI 的上下文
- 就像维护代码库一样
应用场景:
- 构建客服 AI 时:为每个用户会话设计上下文过期机制
- 构建内容生成工具时:为每次生成任务提供精确、最小化的上下文,而非堆砌所有历史数据
2026-04-16 更新:Thariq 框架 + Ben 的 60% 警戒线
来源:2026-04-16 My cheatsheet for a clean context Anthropic Thariq Shihipar 的文章:https://claude.com/blog/using-claude-code-session-management-and-1m-context
五种上下文管理选项
| 情况 | 工具 | 原因 |
|---|---|---|
| 同一任务,上下文仍相关 | 继续 | 窗口内容仍有价值 |
| Claude 走错了方向 | Rewind(双击 Esc) | 保留有用的文件读取,丢弃失败尝试 |
| 任务进行中但 session 被调试内容撑大 | /compact <hint> |
低成本;Claude 决定什么重要 |
| 开始全新任务 | /clear |
零腐化;你控制什么延续 |
| 下一步会产生大量只需要结论的输出 | Subagent | 中间工具噪音留在子上下文 |
Ben 的 60% 警戒线
上下文窗口达到约 60% 时就应该开始管理,而不是等到满了再处理。
关键洞察:坏的自动 compact 通常发生在模型无法预测工作方向时——而此时模型恰好处于上下文腐化最严重的状态,智能最低。1M 上下文给了你更多时间主动触发 /compact。
上下文污染的隐性来源
- Agent 进行网络搜索时会悄悄引入不可信内容
- AI slop、错误信息、误导性内容会随时间复利累积
- 推荐策略:用独立 session 做上下文收集,然后生成摘要文件,而不是把所有文档直接塞进主 session
长时间运行中的 Context Rot(2026-05-02)
来源:Addy Osmani — Long-running Agents
在长时间运行 agent(数小时至数天)中,context rot 是三大核心墙之一:
即使 1M token 窗口也会满。Context rot —— 模型性能随窗口变满而稳定退化 —— 在硬限制到来之前就已经启动。
24 小时运行不可能装在任何已知上下文窗口中。
缓解策略
| 策略 | 适用场景 | 局限 |
|---|---|---|
| Summarization-as-compaction | 中等长度任务 | 对 very long jobs 不够,信息丢失 |
| Full context reset | 超长任务 | 需要结构化 handoff 文件,相当于"自动化新工程师 onboarding" |
| 状态外存(session log) | 所有长时间任务 | 追加式事件日志,agent 恢复时重新建立上下文 |
| Memory layering | 跨天/跨周任务 | 热数据在上下文、温数据在文件、冷数据在索引 |
Memory Drift(记忆漂移)
Google Memory Bank 生产环境中发现的特定失败模式:agent 从少数 atypical 交互中学到一个程序性 shortcut,开始广泛套用。
治理原则:治理记忆如治理微服务 —— Agent Identity 控制读写权限,Registry 跟踪版本,Gateway 执行策略。
关联
- harness-engineering/overview — Harness Engineering 概览
- product-trends/overview — 产品趋势
- harness-engineering/prompt-caching — Prompt Caching 作为一等约束
- Desktop Redesign — Side chat 作为上下文污染的产品级防护
Pending Jean review
- harness-engineering/context-rot — ai_draft; suggested action: keep the expanded taxonomy as a sourced framework, and verify one recurring-task handoff before adopting it as a default.
2026-10:腐化机制清单与减法重建
来源:Every 2026-10-06、Every 2026-10-17
Katie Parrott 的上下文系统腐化复盘:保存一切/连接一切/编码一切三种"优化"毁掉写作系统(单栏 style guide 从 759 词涨到 3,855 词,某篇文章累计 127 版、超 100 万词;另一转述口径称指南从 6,109 词膨胀)。她将旧材料完整归档而非删除,重建短指南(合计 513 词)。教训:证据与指令必须分层——草稿、日志、review 是任务材料,永远不是新 instructions;模型未经同意不得改指南,每个项目文件夹独立,规范写成可例外的原则;写入长期规则需要确认门(重复出现 + 跨任务有效 + 写明边界 + 用户批准)。Mike Taylor 给出七类上下文失效的可操作分类:distraction / confusion / neglect / drift / clash / poisoning / underspecification,并建议按任务而非仅按项目开新线程、用经过人工核验的 handoff 带回必要事实。纠错按阶段分流:小错原线程改;错误前提影响多产物时重开线程;长期修正验证后更新指南。
实验边界:多轮研究"拆分为多轮后平均下降 39%"来自模拟对话,不能作为所有聊天产品的固定降幅;"信息位于中间更难利用"受具体任务和模型影响;Gemini 超 100K 后重复动作属报告中的 anecdotal 观察,而非普适 cut-off;作者的写作经历是个案,不构成通用指南长度阈值。
Counterpoints & Gaps
- 新线程减少旧上下文干扰,但若 handoff 遗漏事实也会造成 underspecification;交接摘要必须核验,不应直接复制模型未证实的总结。
- 关掉所有记忆并非通用最佳选择;跨会话稳定事实仍可通过按需加载、版本化文档提供。