离开 Ai2：开放 AI 研究的影响力从何而来

一次离别，也是对开放 AI 研究的回顾

作者宣布离开 Allen Institute for AI（Ai2）。在 Ai2 任职期间，他参与了 Olmo 模型相关工作，也在开放后训练、模型发布、研究传播等方面积累了经验。文章并不是单纯的告别，而是借此反思：即便模型性能并不总处在最前沿，为什么这些工作依然产生了影响力。

作者认为，Ai2 的独特之处在于它处在学术界与产业界之间：既能探索重要技术问题，也能以开放方式影响研究社区。他强调，随着 AI 越来越具备地缘政治、社会与经济意义，独立研究机构的声音会变得更加重要。

Ai2 的科研文化

作者在离职信中提到，Ai2 的科研文化让他受益很深。这种文化不仅体现在研究成果上，也体现在研究过程、团队协作和对人的重视上。

他特别感谢了研究团队之外的支持部门，包括法务、IT、传播和办公室团队。许多支持工作通常不在聚光灯下，但对研究目标的实现至关重要。

在作者看来，Ai2 的使命仍然重要：以开放方式推动 AI 技术扩散，让更多可能受益的人安全地接触和使用这些技术。

从转向 AI 到加入 Ai2

作者本科阶段学习电气工程，重点是线性系统数学与微电子方向。后来进入加州大学伯克利 EECS 博士项目，原计划研究微机电系统（MEMS）。

2017 年到伯克利后，他意识到 AI 是自己更应该投入的方向，并尝试寻求 Sergey Levine、Pieter Abbeel 等人的指导，但最初并未成功。随后，他将大量精力投入 AI 学习，并在 2018 或 2019 年获得与相关研究者合作的机会。

到 2022 年博士毕业时，他已经能够进入 Berkeley AI Research（BAIR）的研究环境，并与系内研究者展开合作。这个过程并不顺利，但为后来的工作打下了基础。

HuggingFace、RLHF 与进入 Ai2

博士毕业后，作者希望进入产业研究岗位，寻找既有较好待遇又有智力自由的工作。当时 HuggingFace 符合这一要求，因此他在 2022 年 5 月加入。

ChatGPT 发布后，他利用自己在强化学习方面的背景撰写了一篇关于 RLHF 的文章，并获得广泛关注。随后，HuggingFace 围绕这一方向组建团队。

2023 年，作者开始更深入学习 NLP 和语言模型，并建立起早期社区。但远程工作和巨大时差带来了消耗。之后，他在夏威夷 ICML 会议期间遇到 Luca Soldaini，得知 Ai2 正在招聘。

作者认为，自己获得 Ai2 工作机会，很大程度上来自对开放后训练和强化学习相关工作的热情，以及他提出的一些当时听起来有价值、但未必有人真正执行的想法。

Olmo、Tülu 与开放模型发布

作者于 2023 年 10 月加入 Ai2。最初他仍以远程方式工作，并开展常规研究。他参与了第一个奖励模型评测 RewardBench，这项工作取得了一定成功。

与此同时，Ai2 的预训练团队正在准备发布第一个 Olmo。作者也帮助 Ai2 改进模型发布方式，并参与推动 Tülu 2 项目落地。文中称，Tülu 2 是公开 70B 规模上较好应用 DPO 的模型之一。

2024 年初，第一个 Olmo 发布。作者通过协助后训练等工作参与其中。随后，他开始推动一个“大规模前沿后训练项目”，这后来成为 Tülu 3。

Tülu 3 于 2024 年秋季发布，是作者最喜欢的项目之一。其目标是使用自有基础模型，在后训练效果上追赶或超过 Llama 3 的后训练表现。团队士气很高，执行也非常及时，并在论文中提出了“Reinforcement Learning with Verifiable Rewards（RLVR）”这一表述。

作者提到，为推进 Tülu 3 和 Olmo 2 的后训练工作，他发送的 Slack 消息比公司内其他人多出约 40%，并因此获得了“The Cat Herder”的称号。

影响力不只来自模型性能

作者承认，Ai2 的模型并不总是在性能上处于最前沿，即便在同等规模模型中也未必如此。但他认为，影响力并不只由排行榜决定。

在他看来，开放发布、清晰解释、持续传播、建立社区关系，都是研究影响力的重要组成部分。

他提到，许多人曾表示，如果不是他的写作，他们可能并不了解 Ai2。作者认为这种说法有夸张成分，但也说明了一个事实：今天的技术工作不仅要做出来，也要被清楚地解释和传播。

他总结道：

• 可行的计划会塑造外界预期；
• 当人们相信一件事会发生，它发生的概率也会提高；
• 技术行业最稀缺的能力之一，是愿景和有说服力的解释；
• 很多时候，做出东西相对容易，讲清楚价值反而更难；
• 如果没有人知道你的工作，它的价值往往会接近于零。

团队成功与个人叙事

作者反复强调，Tülu 3、Olmo 2、Olmo 3 等项目都是跨团队努力的结果。许多个人突破共同构成了这些项目的成功，而这种长期持续的协作很难复制。

他也认为，媒体机制常常让个人获得比实际贡献更多的外部认可。因此，他提醒读者：公开叙事容易放大个人形象，但真正的成果往往来自团队长期积累。

职业机会与开放生态

回顾职业路径时，作者认为自己在早期职业生涯中较为线性地获得了递进式成功，但这并非所有人都能复制。大多数人在职业前十年，可能都在寻找一次类似 Ai2 这样的机会，而即便机会出现，也未必能够抓住。

他还提到，一个重要背景是：许多资深科学家进入封闭生态的同时，AI 关注度急剧上升。这在开放研究领域形成了某种空间，使他这一代部分研究者能够快速成长。

对开放 AI 的持续投入

虽然离开 Ai2，作者表示仍会继续在开放 AI 生态中工作，目标是让开放生态更加协调，也更加有用。

这篇文章的核心并不是“某个机构或个人的成功故事”，而是提醒研究社区：在 AI 快速变化的阶段，开放研究的影响力来自多种因素的组合，包括科研质量、发布方式、团队文化、社区关系和公共表达能力。