Skip to content
Back/Harness Engineering

Simon Willison — 软件工程的黑暗工厂模式

View in Graph
Updated 2026-10-27
1 min read
203 words

Simon Willison — 软件工程的黑暗工厂模式

来源:Simon Willison(Django 创始人),2026-04-04

核心判断

2025年11月:范式跨越阈值

OpenAI 与 Anthropic 将训练资源全面押注代码能力后,coding agent 从「勉强可用」跃迁为「几乎总能跑通」。

结果:软件工程从「人写代码」转向「人描述、机器实现」。


疲惫的新常态

「到早上11点,我整个人就已经被榨干了!」

Simon 坦言,虽然 AI 提效不少,但管理多个 Agent 的高强度认知负荷是之前没预料到的。


未来发展方向

1. 非程序员 → Vibe Coding

用自然语言描述需求,AI 生成代码。

2. 专业开发者 → Agentic Engineering

设计验证系统、编排 Agent 工作流、管理多 Agent 协作。


颠覆性判断

Vibe Coding 的局限

只适用于低风险原型。一旦进入真实世界,责任边界反而变得更严格。

AI 放大经验差异

  • 资深工程师 → 更强
  • 新人 → 上手更快
  • 中间层工程师 → 最危险

这与传统技术扩散路径完全相反。

代码变便宜是风险源

核心问题已从「能不能写」变成「如何不制造 AI 垃圾和技术债」。


黑暗工厂模式

极端形态

  • 全程不允许人写代码
  • 甚至不允许人读代码
  • 通过模拟用户的 Agent 团队持续测试来保证质量

结果

软件工程将不可避免转向「设计验证系统」。


安全警示

提示词注入无法根治

作为提示词注入的提出者,Simon 表示这个安全问题几乎无法彻底解决。

任何试图用「更聪明的模型」修补漏洞的方法,都只能带来缓解而非根治。

偏差正常化

行业正在经历「偏差正常化」,迟早会迎来一次类似「挑战者号」的系统性事故。

OpenClaw 的安全问题

各种放开高权限的 OpenClaw,恰恰是灾难级别的设计。

创业机会:安全版本的 OpenClaw。


趣味:骑自行车的鹈鹕

Simon 发明的「骑自行车的鹈鹕」基准——让模型用 SVG 代码画一只骑车的鹈鹕,意外成为衡量模型能力的「野生标准」,甚至被 Google DeepMind 等厂商「对标优化」。


关联

2026-10:Poteto 的"留灯"版本

来源:Poteto × Matt Pocock 直播

Poteto 对 dark factory 的修正版:post-merge review + 每个 PR 一组验证 agent 做 fuzzing——自动化生产但"灯是开着的",人通过采样和模式文档保持对系统的理解。

相关主题入口

Sources

Synthesized from 2 sources
  • 软件工程会走向黑暗工厂模式!旧金山开源大神自曝Agent管理秘诀:同时跑4个Agent,上午11点整个人就已被榨干!龙虾安全上是一场灾难设计Supporting source listed by this page.Whole pagemediumbody
  • LIVE Poteto (creator of pstack) on shipping 1,000s of PRs a month at SpaceX — TranscriptSupporting source listed by this page.Whole pagemediumabsorb log

Evolution

1 event
  1. absorbed

    Derived from source material

    This page is currently synthesized from 2 sources.

    From 软件工程会走向黑暗工厂模式!旧金山开源大神自曝Agent管理秘诀:同时跑4个Agent,上午11点整个人就已被榨干!龙虾安全上是一场灾难设计, LIVE Poteto (creator of pstack) on shipping 1,000s of PRs a month at SpaceX — TranscriptTo Simon Willison — 软件工程的黑暗工厂模式
    Sources: raw/to-learn/软件工程会走向黑暗工厂模式!旧金山开源大神自曝Agent管理秘诀:同时跑4个Agent,上午11点整个人就已被榨干!龙虾安全上是一场灾难设计.md · raw/to-learn/LIVE Poteto (creator of pstack) on shipping 1,000s of PRs a month at SpaceX — Transcript.md

Linked from