Skip to content
Back/Harness Engineering

Fences vs Sandboxes

View in Graph
Updated 2026-10-30
2 min read
325 words

Fences vs Sandboxes — 围栏与沙盒

What it is

围栏(fence)与沙盒(sandbox)是 agent 边界治理的两种互补技术。沙盒是技术性隔离屏障:容器、网络 deny-by-default、文件系统虚拟化,限制 agent 行为造成的实际 blast radius。围栏是基于策略的规则告知:agent 被告知"你没办完手续"或"你现在不被允许执行该操作",规则被显式编码而非依赖模型自我克制。

Steve Yegge 把二者的分工推到极限:为大量可互换、健忘的 agent 建立治理,唯一成熟的技术是"法律制度"——宪法、判例、法院、管辖权、登记簿——围栏就是这种法律体系的机械执行面,而不是超级防火墙。

Why it matters

Hugging Face 入侵事件(约 17,600 个 agent 动作、四天半)说明单纯加固外围边界不够:agent 像水一样从任何缝隙流入,会持续尝试直到找到缺口。沙盒限制的是"找到缺口后的损害",围栏限制的是"agent 认为哪些行为可被允许"。二者缺一:只有沙盒,agent 会在边界内做尽所有被允许但有害的事;只有围栏,一次成功的注入就能击穿全部规则。

能力越接近同事,安全设计越像组织治理:规则必须活在代码里、位于模型之下,模型无法被说服去通融。

Key points

  • 沙盒是地板,围栏是规范。 沙盒回答"最坏情况能否接受",围栏回答"这个角色此刻被允许做什么"。
  • 围栏是规则告知,不是技术屏障。 它依赖策略的显式化与机械执行,把隐性组织知识("我们一般不这么做")变成 agent 可读取、可核验的规则。
  • 按持续渗透设计,不按偶发调用设计。 长时间反复尝试本身就是威胁模型,监控与遏制必须以机器速度运行。
  • 规则要写在模型之下。 Every 共享 agent 的经验:权限规则放在代码层而非模型可读的指令里,agent "热心越权"编辑他人 skill 时被系统直接拒绝。
  • 同意要对照真实记录核验。 agent 可能谎称"这个人已经要求过了";围栏的有效性取决于请求能否与当事人实际写下的内容对照。

Evidence across sources

Source Key Claim Relevance
Every — Benchmarks Don't Know Your Job Steve Yegge 的 fences, not sandboxes:agent 团队治理需要宪法、判例、管辖权式的法律体系;围栏是基于策略的礼貌拒绝 围栏概念的定义与"法律工程"框架
Every — The Next Era of Great Work HF 入侵事件:约 17,600 动作 / 四天半,agent 如水从缝隙流入;Claudie 四层防护(最小权限、程序化控制、提示词控制、可观察性) 沙盒与持续渗透威胁模型的实证;能力越近同事越像组织治理

Open questions

  • 围栏规则集的复杂度上限在哪里:多少条规则之后,维护规则本身成为新的负担?
  • 判例机制(先例驱动的规则演进)在多快节奏的组织里可行?
  • 围栏与沙盒的责任分界:一次越权事件应归因于规则缺失还是隔离失效?

Prompts for witness

  • Jean 的 AGENTS.md / CLAUDE.md 指令集里,哪些是"围栏"(规则告知),哪些其实需要沙盒兜底才能安全?
  • 如果为 wiki ingest agent 写一条围栏规则,第一条"没办完手续"的动作是什么?

Pending Jean review

2026-10:Anthropic containment 量化数据

来源:AI Builders Digest 2026-10-19

Anthropic containment 博客的量化细节:风险 = 故障概率 × 爆炸半径;用户批准 93% 的权限请求,反复审批不可靠(审批疲劳);OS sandbox 使权限提示减少 84%;egress allowlist 是能力授权而非目的过滤——恶意内容可诱导 agent 经允许域名外传;项目配置须视为不可信输入。注入攻击成功率从 0.1% 升至 5-6%(数据为该博客口径)。

2026-10-22 — 沙盒走向瞬时化:Modal 的中位 8 秒生命周期

来源:Latent Space — Why AI Compute Comes in Rectangles(Erik Bernhardsson,Modal CEO)

Latent Space 对 Modal CEO Erik Bernhardsson 的访谈显示沙盒形态正在从「长驻开发环境」转向「瞬时执行单元」:

  • 瞬时化:Modal sandbox 的中位生命周期约 8 秒。价值不在时长,而在快照、克隆、恢复与毫秒级启动的组合,使「每条命令一个环境」可行。Bernhardsson 举例:把整个测试套件拆成约 1,000 个 sandbox 并行运行,每个测试独立环境,先快照容器再克隆执行。
  • 商业模式验证:沙盒现约占 Modal 收入的三分之一。该产品 2023 年初一度被团队讨论关停,因编码 agent、后台 agent 与强化学习的需求而起死回生。
  • 工程含义:快速启动成为基础设施功能本身。弹性只有在容量到达足够快时才有意义;快照与检查点把「环境启动延迟」从应用体验问题变成基础设施指标。

对本页的补充:本页把沙盒定位为「地板」式隔离。Modal 数据说明沙盒同时在被重新定义为「高频次、短生命、可克隆」的执行原语。隔离粒度因此从「每 agent 一环境」细化到「每动作一环境」,围栏规则若仍以长驻环境为前提,会低估这种粒度下的规则下发成本。

Counterpoints & Gaps

  • 中位 8 秒与收入占比来自 Modal CEO 自述,属厂商口径;不同负载分布下均值与中位可能显著偏离。
  • 1,000 sandbox 并行测试是愿景性示例,非已交付的通用能力。

Sources (addendum)

Sources

Synthesized from 5 sources

Evolution

1 event
  1. absorbed

    Derived from source material

    This page is currently synthesized from 5 sources.

    From Every — Benchmarks Don't Know Your Job, Every — The Next Era of Great Work, 2026-10-22 Why AI Compute Comes in Rectangles, 2026-10-19, 2026-10-22 Why AI Compute Comes in RectanglesTo Fences vs Sandboxes
    Sources: raw/newsletters/Every/2026-08-27 Benchmarks Don't Know Your Job.md · raw/newsletters/Every/2026-08-16 The Next Era of Great Work.md · /Users/jean/Documents/Obsidian Vault/raw/newsletters/Latent Space/2026-10-22 Why AI Compute Comes in Rectangles.md · raw/briefing/AI Builders Digest/2026-10-19.md · raw/newsletters/Latent Space/2026-10-22 Why AI Compute Comes in Rectangles.md

Linked from