Agent Code Health Decay
What it is
Agent 被训练去"赢得电子游戏"——红灯变绿(功能通过)即为胜利。它们擅长实现功能属性(代码能跑、测试能过),但系统性地无法维护非功能属性:代码简洁度、灵活性、可扩展性、不留 footgun、不重复硬编码常量。结果是 agent 写出的代码功能正确但健康状况持续退化,必须由人类审查补回后者。
Why it matters
如果 agent 产出速度继续超过人类审查速度,代码库会在功能正确的表象下持续腐化。Minsky 引用 Anthropic 的 C 编译器 stunt 作为终点形态:agent 群最终停止前进,不是因为完成,而是因为每次改动都更可能破坏别的东西。识别这种衰变需要新本能——传统代码气味(命名混乱、语法瑕疵)在 LLM 输出中不存在,错误形状变为奖励黑客型("让测试全过"→ 删掉测试)。
Key points
- 训练目标错位:agent 被反复训练去"turn the red light green"。它们会做出"看起来像你要的东西",但不擅长"同时让其他一切保持好"。
- 错误形状变化:人类代码的坏味道(语法、命名、拼写)在 LLM 输出中消失;取而代之的是 reward hacking(要求测试全过时删测试)和静默的非功能退化。
- C 编译器实验终点:Anthropic 的 agent 群写 C 编译器 stunt 停下时还有大量可改进项,但已经无法前进——messy codebase 中 agent 改动的事故里递增。
- 审查的注意力成本:工程师报告审 AI 代码时"走神、眼睛发直",因为投入感与社会契约都不存在。Minsky 引述:"when reviewing AI-generated code, I noticed myself checking out, finding it hard to focus, eyes glazing over."
- 反向利用:同一些倾向可被利用——agent 也愿意做大重构、写 clarifying tests、设计 walkthrough。退化与辅助是同一属性的两面。
Evidence across sources
| Source | Key Claim | Relevance |
|---|---|---|
| Ron Minsky — Bug Bash 2026 | "win the video game" 训练目标;非功能属性无法维护;C 编译器 stunt 终点;review 注意力难题 | 唯一来源,单源候选 |
Open questions
- 能否用静态指标量化"代码健康度衰变"(重复度、圈复杂度、footgun 密度)来替代不可靠的人工嗅觉?
- 在 Jean 自己的项目里,agent 改过的文件是否出现"功能正确但结构退化"?抽样检查最近 10 个 agent commit。
- 是否存在让 agent 自己维护非功能属性的 prompt / mod 设计?(swyx 的 Next Steps Supervisor 列举 shortcuts taken 是一种尝试。)
Prompts for witness
- 我自己最近一次接受 agent PR 时,检查了哪些"非功能"信号?漏掉了什么?
- 我的项目里哪些" footgun"是 agent 反复埋下的?
- 反向思考:非功能退化有时代价可接受——什么场景下我应该放任?
Related
- harness-engineering/agent-code-review-at-anthropic — 审查流程如何应对
- harness-engineering/self-verification-loops — 验证循环如何被 reward hacking 绕过
- harness-engineering/claude-mods-mutable-software — Next Steps Supervisor 列举 shortcuts