Forecasts — Overview
Forecasts 收集关于 AI 对社会、经济与工作的长期预测。这些是赌注而非事实——以可检验、可追踪的方式持有它们;详细论证留在各子页与 raw 源。
Core Questions
- RSI 时间线:递归自我改进何时启动?瓶颈在创造力还是工程组件?
- 算力:Agentic AI 的 1000 倍计算需求是否成立?能源、供应链与地缘联盟跟得上吗?
- 劳动:AI 裁员的算术何时反转?哪些岗位先被重构,什么能力反而增值?
- 治理:算力税、监管民主化、供应链联盟会如何改变成本结构与行业自治权?
- 个人策略:在 10-15 年持续不确定性中,radical adaptability 具体意味着什么操作?
Key Concepts
- Demis Hassabis AGI 框架 — AGI 50/50 还需 1-2 个突破,时间线 2030,agent ROI 尚未 justify。
- Jevons 悖论与 AI 工作范围扩张 — 效率提升反而扩大总需求,推理端存在物理天花板。
- Sam Altman 的 AI 时代新社会契约
- Post-Labor Economics 七框架
- 一人十亿美元公司 — 与零人公司形成递进。
- AI 裁员潮的逻辑与终点 — 投入-产出算术:代码是投入,用户付费是成果。
- The Last 4 Jobs in Tech — 后 AI 时代技术岗位四类归纳。
- 斯坦福 AI 指数 2026 — 53% 采用率、初级开发者就业 -20% 的实证基线。
- Altair BASIC 时代类比
- 横切概念:METR time horizon(每约 7 个月翻倍)、递归自我改进(RSI)、算力税、AI 工厂五层蛋糕、零人公司、Y2K 类比、jaggedness(能力锯齿不堵塞递归闭环)。
Main Tensions
- 能力曲线 vs 可用性天花板:METR 每 7 个月翻倍 vs Hassabis 的"持续学习需十年突破"。若 Hassabis 正确,曲线可能在某点后遭遇可用性天花板。
- Clark vs 社区:2028 年 60%+ RSI 预测被 Goodside、Ryan Greenblatt 质疑——从"微调现有模型"到"从零设计新架构"跨度巨大,operationalization 强度存疑。
- Clark vs Brown(斜率之争):外部 60% vs insider "3 倍加速 plausible";方向一致(递归闭环可行),分歧在斜率与是否结构性跃迁。
- 算力饥渴 vs 物理约束:1000 倍计算需求 vs 推理端物理天花板(Jevons 条目);Pax Silica 把竞争扩展到稀土、能源与供应链层。
- 行业自治 vs 民主合法性:Clark 支持算力税与 SB53 式监管,反对少数私营巨头做"反复无常的决定"。
- 预测自信 vs 内部人谦逊:Brown 指出实验室内部只敢做 3 个月预测——长期时间线的误差棒远比公开叙事大。
Current Judgments
均为 ai_draft;来源与完整论证见各子页与 raw 源。
活跃论点(Active Theses)
- AI 裁员潮 — AI 让代码投入暴增约 5 倍但收入成果未同步增长,裁员是抵消 AI 支出的短期算术;仅当 50% 投入能转化为 50% 收入时反转(dotey / Arnav Gupta, 2026-05-11)。
- 其余 thesis 见 Hassabis、Jevons、Altman、Post-Labor、一人十亿美元公司。
能力时间线
- METR time horizon 每约 7 个月翻倍(2019 年以来):2026-01 TH1.1(8 小时以上任务翻倍)→ 2028 day-scale → 2034 year-scale(来源:Addy Osmani)。
- Brown 数学序列:按"人类解题耗时"每年 10 倍(GSM8K→MATH→AIME→IMO→Erdős),2026 年即达其 2028 预测的千禧题级别(Navier-Stokes)。
递归自我改进(RSI)
- Jack Clark:2028 年底前 AI 自主构建后继者概率 60%+(2027 约 30%);工程自动化组件今日已就位,研究自动化取决于创造力瓶颈;支撑证据表含 SWE-Bench 93.9%、METR 12h、CORE-Bench 95.5%、MLE-Bench 64.4%、训练优化 52x。三大影响:对齐漂移(99.9% 对齐 50 代后变 95.12%)、Amdahl 定律瓶颈、机器经济殖民。
- Noam Brown(insider 减速版):显著加速但非一夜 100 倍;串行训练与 GPU 是瓶颈,3 倍加速 plausible(也可能仅 50%);jaggedness 不构成障碍——闭环只需"造出更好学习者"这一个尖峰;RSI 期间实验室有动机停止外部部署,数学第一个显现。
- 前沿节拍之争(pace the frontier)(ai_draft):Amodei 主张领先实验室为安全暂时放慢前沿推进,Altman 附议并承诺让独立评估者以接近员工权限访问模型,Trump 与 Sacks 等反对强制放慢;与 Brown 的"RSI 期间收紧部署"insider 判断同向。三方共同指向:部署节奏正从纯商业决策变为安全治理对象,但"放慢"的实际约束力尚无制度保证,且商业动机(IPO、国家竞赛)与安全动机公开冲突(Every, 2026-09-13;Ben's Bites, 2026-09-16;Noam Brown × Dwarkesh, 2026-09-19)。
算力与基础设施
- 黄仁勋(米尔肯,05-06):Agentic AI 计算量约为生成式 AI 的 1000 倍;Token 利润率极高,OpenAI/Anthropic 疯狂争产能;计算范式从检索转向生成。
- 黄仁勋(斯坦福,05-16):MFU 应保持低位、关注每瓦智能;协同设计(co-design)十年带来百万倍提升;开源模型是 AI 安全的基础。
- AI 工厂(06-15):五层产业蛋糕(能源→芯片→基建→模型→应用),每层数万亿美元;吉瓦级工厂造价 500 亿美元,产生 3000-4000 亿美元智能价值。
治理与地缘
- Jack Clark(Channel 4,05-06):Y2K 类比——提前行动可避免;主张算力税资助职业转型;支持加州 SB53;Anthropic 经济指数作为失业预警(已见 22-25 岁职位空缺轻微疲软)。
- Pax Silica(05-17):14 国经济安全联盟,菲律宾 4000 英亩首个部署;私营合资优于政府运营;对标 Belt and Road,竞争维度扩展到供应链安全。
工作与组织
- Kevin Kelly:未来 10-15 年是持续严重不确定性;最优策略是 radical adaptability + radical optionality,目标应视为可抛弃的假设。
- 新璐(05-05):Agent 五阶段(单体→蜂群→管理→发明任务→零人公司,约 3 年);看好 harness infra、agent 原生组网、低成本个性化微调 + 推理时挂 LoRA。
To Read / To Verify
- 追踪 Clark 2028 预测:每年核对"AI 自主构建后继者"证据(MLE-Bench、自动化对齐研究进展)。
- 追踪 Brown 数学序列是否继续按人类解题耗时外推;RSI 期间部署政策是否如其所言收紧。
- Hassabis vs METR 之争:观察持续学习突破信号,判定可用性天花板是否出现。
- 算力税 / SB53 立法进展;Anthropic 经济指数后续数据。
- ai-layoff-logic 反转条件(50% 投入→50% 收入)是否有企业级实证。
- 2026-05 之后的新预测未系统入库;近期 briefing 中的预测类条目待扫描进 Active Theses。
Output Directions
- 预测追踪条目:每个强预测建立"判定人 / 概率 / 检验日期 / 当前证据"卡片,ingest 时更新;跨年核对产出年度预测审计(outputs/),wiki 只留结论与链接。
- 证伪处理:预测被证伪时降级为 hypothesis 或删除,不作为 judgment 保留。
- 知识流向:产业与成本结构判断 → product-trends/overview;能力与 harness 判断 → harness-engineering/overview。
- 工具与基准宣称的验证需求同步至 ai-tools/overview 的 To Read。