Skip to content
Back/Forecasts

Forecasts — Overview

View in Graph
Updated 2026-10-25
2 min read
452 words

Forecasts — Overview

Forecasts 收集关于 AI 对社会、经济与工作的长期预测。这些是赌注而非事实——以可检验、可追踪的方式持有它们;详细论证留在各子页与 raw 源。

Core Questions

  • RSI 时间线:递归自我改进何时启动?瓶颈在创造力还是工程组件?
  • 算力:Agentic AI 的 1000 倍计算需求是否成立?能源、供应链与地缘联盟跟得上吗?
  • 劳动:AI 裁员的算术何时反转?哪些岗位先被重构,什么能力反而增值?
  • 治理:算力税、监管民主化、供应链联盟会如何改变成本结构与行业自治权?
  • 个人策略:在 10-15 年持续不确定性中,radical adaptability 具体意味着什么操作?

Key Concepts

Main Tensions

  • 能力曲线 vs 可用性天花板:METR 每 7 个月翻倍 vs Hassabis 的"持续学习需十年突破"。若 Hassabis 正确,曲线可能在某点后遭遇可用性天花板。
  • Clark vs 社区:2028 年 60%+ RSI 预测被 Goodside、Ryan Greenblatt 质疑——从"微调现有模型"到"从零设计新架构"跨度巨大,operationalization 强度存疑。
  • Clark vs Brown(斜率之争):外部 60% vs insider "3 倍加速 plausible";方向一致(递归闭环可行),分歧在斜率与是否结构性跃迁。
  • 算力饥渴 vs 物理约束:1000 倍计算需求 vs 推理端物理天花板(Jevons 条目);Pax Silica 把竞争扩展到稀土、能源与供应链层。
  • 行业自治 vs 民主合法性:Clark 支持算力税与 SB53 式监管,反对少数私营巨头做"反复无常的决定"。
  • 预测自信 vs 内部人谦逊:Brown 指出实验室内部只敢做 3 个月预测——长期时间线的误差棒远比公开叙事大。

Current Judgments

均为 ai_draft;来源与完整论证见各子页与 raw 源。

活跃论点(Active Theses)

能力时间线

  • METR time horizon 每约 7 个月翻倍(2019 年以来):2026-01 TH1.1(8 小时以上任务翻倍)→ 2028 day-scale → 2034 year-scale(来源:Addy Osmani)。
  • Brown 数学序列:按"人类解题耗时"每年 10 倍(GSM8K→MATH→AIME→IMO→Erdős),2026 年即达其 2028 预测的千禧题级别(Navier-Stokes)。

递归自我改进(RSI)

  • Jack Clark:2028 年底前 AI 自主构建后继者概率 60%+(2027 约 30%);工程自动化组件今日已就位,研究自动化取决于创造力瓶颈;支撑证据表含 SWE-Bench 93.9%、METR 12h、CORE-Bench 95.5%、MLE-Bench 64.4%、训练优化 52x。三大影响:对齐漂移(99.9% 对齐 50 代后变 95.12%)、Amdahl 定律瓶颈、机器经济殖民。
  • Noam Brown(insider 减速版):显著加速但非一夜 100 倍;串行训练与 GPU 是瓶颈,3 倍加速 plausible(也可能仅 50%);jaggedness 不构成障碍——闭环只需"造出更好学习者"这一个尖峰;RSI 期间实验室有动机停止外部部署,数学第一个显现。
  • 前沿节拍之争(pace the frontier)(ai_draft):Amodei 主张领先实验室为安全暂时放慢前沿推进,Altman 附议并承诺让独立评估者以接近员工权限访问模型,Trump 与 Sacks 等反对强制放慢;与 Brown 的"RSI 期间收紧部署"insider 判断同向。三方共同指向:部署节奏正从纯商业决策变为安全治理对象,但"放慢"的实际约束力尚无制度保证,且商业动机(IPO、国家竞赛)与安全动机公开冲突(Every, 2026-09-13;Ben's Bites, 2026-09-16;Noam Brown × Dwarkesh, 2026-09-19)。

算力与基础设施

  • 黄仁勋(米尔肯,05-06):Agentic AI 计算量约为生成式 AI 的 1000 倍;Token 利润率极高,OpenAI/Anthropic 疯狂争产能;计算范式从检索转向生成。
  • 黄仁勋(斯坦福,05-16):MFU 应保持低位、关注每瓦智能;协同设计(co-design)十年带来百万倍提升;开源模型是 AI 安全的基础。
  • AI 工厂(06-15):五层产业蛋糕(能源→芯片→基建→模型→应用),每层数万亿美元;吉瓦级工厂造价 500 亿美元,产生 3000-4000 亿美元智能价值。

治理与地缘

  • Jack Clark(Channel 4,05-06):Y2K 类比——提前行动可避免;主张算力税资助职业转型;支持加州 SB53;Anthropic 经济指数作为失业预警(已见 22-25 岁职位空缺轻微疲软)。
  • Pax Silica(05-17):14 国经济安全联盟,菲律宾 4000 英亩首个部署;私营合资优于政府运营;对标 Belt and Road,竞争维度扩展到供应链安全。

工作与组织

  • Kevin Kelly:未来 10-15 年是持续严重不确定性;最优策略是 radical adaptability + radical optionality,目标应视为可抛弃的假设。
  • 新璐(05-05):Agent 五阶段(单体→蜂群→管理→发明任务→零人公司,约 3 年);看好 harness infra、agent 原生组网、低成本个性化微调 + 推理时挂 LoRA。

To Read / To Verify

  • 追踪 Clark 2028 预测:每年核对"AI 自主构建后继者"证据(MLE-Bench、自动化对齐研究进展)。
  • 追踪 Brown 数学序列是否继续按人类解题耗时外推;RSI 期间部署政策是否如其所言收紧。
  • Hassabis vs METR 之争:观察持续学习突破信号,判定可用性天花板是否出现。
  • 算力税 / SB53 立法进展;Anthropic 经济指数后续数据。
  • ai-layoff-logic 反转条件(50% 投入→50% 收入)是否有企业级实证。
  • 2026-05 之后的新预测未系统入库;近期 briefing 中的预测类条目待扫描进 Active Theses。

Output Directions

  • 预测追踪条目:每个强预测建立"判定人 / 概率 / 检验日期 / 当前证据"卡片,ingest 时更新;跨年核对产出年度预测审计(outputs/),wiki 只留结论与链接。
  • 证伪处理:预测被证伪时降级为 hypothesis 或删除,不作为 judgment 保留。
  • 知识流向:产业与成本结构判断 → product-trends/overview;能力与 harness 判断 → harness-engineering/overview。
  • 工具与基准宣称的验证需求同步至 ai-tools/overview 的 To Read。

Sources

Synthesized from 14 sources
  • Addy Osmani — Long-running AgentsSupporting source listed by this page.Whole pagemediumbody
  • Import AI 455 — Jack ClarkSupporting source listed by this page.Whole pagemediumbody
  • Jack Clark Channel 4 播客Supporting source listed by this page.Whole pagemediumbody
  • 黄仁勋米尔肯访谈Supporting source listed by this page.Whole pagemediumbody
  • 黄仁勋斯坦福播客Supporting source listed by this page.Whole pagemediumbody
  • Thorsten Ball — Joy & Curiosity #84Supporting source listed by this page.Whole pagemediumbody
  • 十字路口播客Supporting source listed by this page.Whole pagemediumbody
  • Noam Brown × Dwarkesh 源卡片Supporting source listed by this page.Whole pagemediumbody
  • outputsSupporting source listed by this page.Whole pagemediumbody
  • Pax SilicaSupporting source listed by this page.Whole pagemediumbody
  • AI 工厂Supporting source listed by this page.Whole pagemediumbody
  • 2026-08-18Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-08-18Supporting source listed by this page.Whole pagemediumabsorb log
  • 2026-05-02 Demis Hassabis - AGI 还缺什么 智能体到底行不行Supporting source listed by this page.Whole pagemediumabsorb log

Evolution

1 event
  1. absorbed

    Derived from source material

    This page is currently synthesized from 14 sources.

    From Addy Osmani — Long-running Agents, Import AI 455 — Jack Clark, Jack Clark Channel 4 播客, 黄仁勋米尔肯访谈, 黄仁勋斯坦福播客To Forecasts — Overview
    Sources: raw/to-learn/Long-running Agents - Addy Osmani.md · raw/to-learn/Import AI 455 AI systems are about to start building themselves..md · raw/to-learn/硅谷对AI过于乐观-Anthropic联合创始人-JackClark-算力税-AI监管.md · raw/to-learn/OpenAI和Anthropic正疯狂争夺产能!黄仁勋-Token利润率极高-Agentic AI所需计算量比生成式AI高出约1000倍.md · raw/to-learn/2026-05-16 - MFU仅有11%引爆焦虑.md · raw/newsletters/Register Spill/2026-05-03 Joy & Curiosity 84.md · raw/podcasts/十字路口Crossing/2026-05-05 探秘Claude Code搞懂Agent Harness.md · raw/social-triage/2026-09-19 Noam Brown Agent集群与RSI Dwarkesh.md · outputs/2026-09-19-noam-brown-multiagent-rsi-dwarkesh · raw/briefing/AI Builders Digest/2026-05-17.md · raw/briefing/AI Builders Digest/2026-06-15.md · /Users/jean/Documents/Obsidian Vault/raw/briefing/AI Builders Digest/2026-08-18.md · raw/briefing/AI Builders Digest/2026-08-18.md · raw/social-triage/2026-05-02 Demis Hassabis - AGI 还缺什么 智能体到底行不行.md

Linked from