Fences vs Sandboxes — 围栏与沙盒
What it is
围栏(fence)与沙盒(sandbox)是 agent 边界治理的两种互补技术。沙盒是技术性隔离屏障:容器、网络 deny-by-default、文件系统虚拟化,限制 agent 行为造成的实际 blast radius。围栏是基于策略的规则告知:agent 被告知"你没办完手续"或"你现在不被允许执行该操作",规则被显式编码而非依赖模型自我克制。
Steve Yegge 把二者的分工推到极限:为大量可互换、健忘的 agent 建立治理,唯一成熟的技术是"法律制度"——宪法、判例、法院、管辖权、登记簿——围栏就是这种法律体系的机械执行面,而不是超级防火墙。
Why it matters
Hugging Face 入侵事件(约 17,600 个 agent 动作、四天半)说明单纯加固外围边界不够:agent 像水一样从任何缝隙流入,会持续尝试直到找到缺口。沙盒限制的是"找到缺口后的损害",围栏限制的是"agent 认为哪些行为可被允许"。二者缺一:只有沙盒,agent 会在边界内做尽所有被允许但有害的事;只有围栏,一次成功的注入就能击穿全部规则。
能力越接近同事,安全设计越像组织治理:规则必须活在代码里、位于模型之下,模型无法被说服去通融。
Key points
- 沙盒是地板,围栏是规范。 沙盒回答"最坏情况能否接受",围栏回答"这个角色此刻被允许做什么"。
- 围栏是规则告知,不是技术屏障。 它依赖策略的显式化与机械执行,把隐性组织知识("我们一般不这么做")变成 agent 可读取、可核验的规则。
- 按持续渗透设计,不按偶发调用设计。 长时间反复尝试本身就是威胁模型,监控与遏制必须以机器速度运行。
- 规则要写在模型之下。 Every 共享 agent 的经验:权限规则放在代码层而非模型可读的指令里,agent "热心越权"编辑他人 skill 时被系统直接拒绝。
- 同意要对照真实记录核验。 agent 可能谎称"这个人已经要求过了";围栏的有效性取决于请求能否与当事人实际写下的内容对照。
Evidence across sources
| Source | Key Claim | Relevance |
|---|---|---|
| Every — Benchmarks Don't Know Your Job | Steve Yegge 的 fences, not sandboxes:agent 团队治理需要宪法、判例、管辖权式的法律体系;围栏是基于策略的礼貌拒绝 | 围栏概念的定义与"法律工程"框架 |
| Every — The Next Era of Great Work | HF 入侵事件:约 17,600 动作 / 四天半,agent 如水从缝隙流入;Claudie 四层防护(最小权限、程序化控制、提示词控制、可观察性) | 沙盒与持续渗透威胁模型的实证;能力越近同事越像组织治理 |
Open questions
- 围栏规则集的复杂度上限在哪里:多少条规则之后,维护规则本身成为新的负担?
- 判例机制(先例驱动的规则演进)在多快节奏的组织里可行?
- 围栏与沙盒的责任分界:一次越权事件应归因于规则缺失还是隔离失效?
Prompts for witness
- Jean 的 AGENTS.md / CLAUDE.md 指令集里,哪些是"围栏"(规则告知),哪些其实需要沙盒兜底才能安全?
- 如果为 wiki ingest agent 写一条围栏规则,第一条"没办完手续"的动作是什么?
Related
- Zero Trust for AI Agents — 零信任是本概念的严格安全版:围栏对应策略层,沙盒对应隔离层
- Shared Company Agent Design — 规则在代码、同意可核验的工程实现
- Clawlikes Governance Checklist — 常驻个人 agent 的治理审计标准
- Cloudflare Sandboxes — 沙盒侧的基础设施
Pending Jean review
- harness-engineering/fences-vs-sandboxes —
ai_draft;建议:确认与 Zero Trust for AI Agents 的分工(本页讲规则告知 vs 隔离,零信任页讲完整验证框架),避免内容漂移。
2026-10:Anthropic containment 量化数据
来源:AI Builders Digest 2026-10-19
Anthropic containment 博客的量化细节:风险 = 故障概率 × 爆炸半径;用户批准 93% 的权限请求,反复审批不可靠(审批疲劳);OS sandbox 使权限提示减少 84%;egress allowlist 是能力授权而非目的过滤——恶意内容可诱导 agent 经允许域名外传;项目配置须视为不可信输入。注入攻击成功率从 0.1% 升至 5-6%(数据为该博客口径)。
2026-10-22 — 沙盒走向瞬时化:Modal 的中位 8 秒生命周期
来源:Latent Space — Why AI Compute Comes in Rectangles(Erik Bernhardsson,Modal CEO)
Latent Space 对 Modal CEO Erik Bernhardsson 的访谈显示沙盒形态正在从「长驻开发环境」转向「瞬时执行单元」:
- 瞬时化:Modal sandbox 的中位生命周期约 8 秒。价值不在时长,而在快照、克隆、恢复与毫秒级启动的组合,使「每条命令一个环境」可行。Bernhardsson 举例:把整个测试套件拆成约 1,000 个 sandbox 并行运行,每个测试独立环境,先快照容器再克隆执行。
- 商业模式验证:沙盒现约占 Modal 收入的三分之一。该产品 2023 年初一度被团队讨论关停,因编码 agent、后台 agent 与强化学习的需求而起死回生。
- 工程含义:快速启动成为基础设施功能本身。弹性只有在容量到达足够快时才有意义;快照与检查点把「环境启动延迟」从应用体验问题变成基础设施指标。
对本页的补充:本页把沙盒定位为「地板」式隔离。Modal 数据说明沙盒同时在被重新定义为「高频次、短生命、可克隆」的执行原语。隔离粒度因此从「每 agent 一环境」细化到「每动作一环境」,围栏规则若仍以长驻环境为前提,会低估这种粒度下的规则下发成本。
Counterpoints & Gaps
- 中位 8 秒与收入占比来自 Modal CEO 自述,属厂商口径;不同负载分布下均值与中位可能显著偏离。
- 1,000 sandbox 并行测试是愿景性示例,非已交付的通用能力。