为什么我仍未相信真正的递归自我改进

近期，前沿 AI 实验室正在把成千上万个并行智能体用于改进内部流程和产出。尤其是 OpenAI、Anthropic 这样的机构，已经让许多员工迅速上调了对 AI 进展速度及相关风险的预期。

作者的核心判断是：旧金山 AI 圈和前沿实验室的竞争文化，会放大任何关于 AI 的担忧。这种氛围有助于让公众关注 AI，因为恐惧更容易传播；但如果夸大风险时间线或严重程度，也会带来负面的二阶影响。2023 年和 2024 年曾出现过许多关于 AI 安全和开源 AI 可行性的激烈争论，但当时预测的主要风险并没有在预期时间内发生。

“奇点将至”的集体转向

在作者看来，即使一年前，OpenAI 和 Anthropic 等关键实验室内部也已经对 AI 风险和进展速度高度焦虑。到了 2026 年初，随着智能体获得更强的产品市场契合，这种焦虑进一步上升。

当一个组织真实地看到数千个智能体能够持续、相对高效地为业务工作时，原有的焦虑会被进一步放大。但作者认为，从这种焦虑以及若干行业事件，直接跳到“人类灭绝风险”的判断，带有某种宗教式的跃迁。

Richard Ngo 对这一趋势有一个概括：AI 安全社区中相当一部分人正在转向“几年内发生智能爆炸”的未来图景。他认为，这些判断可能在方向上比外部人士更接近现实，但在具体事实上仍会出错：未来 8 年内不太会出现超级智能，但变化速度会快到让主张短时间线的人“看起来像是对的”。

作者认为，这与自己此前提出的“有损自我改进”观点接近。其核心包括：

1. 可自动化研究的范围太窄，难以在面对扩展定律带来的指数级成本时，实现巨大的净加速；
2. 并行部署更多 AI 智能体存在真实的边际收益递减；
3. 构建强大大语言模型时，资源瓶颈和政治因素非常重要，而 AI 对这些因素的加速能力有限。

因此，作者目前在两个可能性之间保持平衡：一方面，当前 AI 安全担忧可能更多来自“规模化智能体已经能有效工作”带来的文化升温；另一方面，也不能排除实验室已经看到某些尚未公开、真正令人不安的具体突破。

如果出现基础性的、依赖想象力的 AI 突破，作者会更新自己对递归自我改进（RSI）的时间线判断：从“在指数成本面前维持进展的工具”，转向“更不可预测、甚至不稳定的机制”。

大规模推理能力不等于 RSI

近期关于 RSI 的讨论中，有几组访谈值得注意。作者从中得到的第一个反思是：短期内，大规模推理能力会带来显著加速。

前沿实验室会把成千上万个智能体投入到重要且可衡量的问题上。同时，它们可用的算力规模还会继续增长。不过，作者怀疑这些实验室是否能在总算力上升的同时，始终拿出固定比例用于内部研发。尤其是在计划 IPO、商业基本面受到更多审视的情况下，这一点并不显然。

这里需要区分两件事：

• 推理时扩展带来的巨大进步，这一动态相对可预测；
• 真正 RSI 的产出，这仍然高度不确定。

换句话说，实验室能够用更多智能体、更大算力解决更多问题，并不自动意味着已经进入递归自我改进。

当前技术有效，但不等于“神奇泛化”

另一组讨论涉及强化学习、蒸馏、扩展、推理时算力等技术路线。作者对其中大部分判断表示认同：

当前技术确实有效，并且能帮助我们解决那些可以明确表述的问题。但在许多只能部分验证的领域，这些技术并不会自然带来对未知、更难问题的神奇泛化。数学领域的进展更像是例外，而不是普遍规律。

访谈中，几位嘉宾还对不同 AI 能力门槛给出了时间判断：

1. 成为可替代远程员工，胜任广泛白领工作并持续一个月

• Charlie O’Neill：如果能通过程序接口访问工作工具，大约 1 年；如果必须通过浏览器操作，大约 2 年。这里指普通白领工作，不包括高度创造性的研究。
• Beren Millidge：完全通用大约 3 年；80%—90% 覆盖率会更早出现。主要不确定性在于在线学习和长尾任务。
• John Schulman：大约 1 年内出现“还可以”的版本，但能力会不均衡，并随时间改进。

2. 让 AI 研究员生产率提升 10 倍

• Charlie O’Neill：5—10 年。瓶颈在于吸收信息并决定下一步该做什么实验。
• Beren Millidge：认为 John Schulman 约 2 年的估计是可能的，但没有给出独立时间线。前提是 AI 能连续运行实验并从反馈中学习，同时其他瓶颈仍会存在。
• John Schulman：大约 2 年。

3. 在所有基于计算机的工作中超过顶级人类专家，包括多年期项目，即某种意义上的“ASI”

• Charlie O’Neill：5—10 年，并强调记忆和上下文长度的限制。
• Beren Millidge：实验室重点关注的领域约 5 年；如果指所有领域，可能更久，且没有给出确定时间。
• John Schulman：3—4 年。空间和物理领域可能更久，还需要解决上手过程和更长时间跨度的学习问题。

讨论 RSI 时，必须具体化“智能”

作者认为，讨论 RSI 时反复出现的一个问题，是“智能”定义不够具体。AI 能力具有锯齿状特征，因此必须讨论特定、可衡量任务中的门槛。

大语言模型的智能形态与人类非常不同，而我们预测的许多角色却是按人类工作形态定义的。因此，AI 不会以离散方式跨过“远程员工”或“AI 研究员”这类门槛。更可能出现的是缓慢扩散，并且始终存在长尾。

以 AI 研究员生产率为例，很多人低估了科学研究中沟通、共识和标准设定的重要性。作者相信，在不久的将来，实验设计和测试周期可能会加快 10 倍；但假设生成和直觉建立并不会同样加速。

真正的瓶颈会是“加速理解”。即便 AI 工具大幅改善，人类自身在理解能力上的提升也可能只是边际性的。科学方式的一个重要改进，或许是让人类把更多时间投入到理解上，而不是让人类在理解本身上指数级变强。

智能体群更擅长可验证问题

近期的智能体群在清晰、开放且答案可验证的问题上会很有效。就改进 AI 模型而言，RSI 对效率提升的帮助，可能大于对峰值智能扩展的帮助。

原因在于，大语言模型服务有明确、可衡量、可调整的指标。这会带来更好的推理时扩展，以及更高效的多智能体系统。

但作者仍然无法忽视一个事实：现有扩展定律显示，要获得线性的智能改进，往往需要指数级增加算力和资源。RSI 更可能让现代大语言模型变得便宜得多，而不是立刻突破所有智能上限。

在给定智能水平下，大语言模型推理价格已经呈现指数级下降趋势，这一趋势可能继续加速。对实验室而言，关键将是如何在固定智能水平价格竞争加剧的情况下提升利润率。即便单价下降，需求扩张仍可能带来强劲业务，这与杰文斯悖论的逻辑一致。

一个“AI温和派”的结论

作者并不是否认 AI 将快速进步，也不是否认大规模智能体会带来重大影响。相反，他承认：

• 实验室内部确实正在经历新的工作方式；
• 成千上万智能体的并行使用会改变研发和业务流程；
• 推理时扩展会在短期内带来显著能力提升；
• AI 在可验证任务上会变得越来越强。

但他仍未被“真正 RSI 即将到来”的说法说服。原因在于：

• 可自动化研究仍有范围限制；
• 并行智能体存在边际收益递减；
• 资源、组织、政治与经济约束仍然重要；
• 智能并非单一维度，AI 能力会以不均衡方式扩散；
• 科学理解、问题选择和直觉构建仍然难以被简单自动化。

因此，更合理的预期或许是：AI 会让很多环节显著加速，尤其是那些目标明确、反馈可验证、可以大规模并行的问题；但这不等于已经进入失控的智能爆炸。