以福祉为核心，重建 AI 的积极愿景

分享到

引言：AI 的关键问题不只是“能做什么”

如果一个人从十年前直接来到今天，看到人们可以与百科全书式的 AI 自然对话，让它生成图像、编写代码、讨论哲学，很难不感到震惊。这样的技术几乎必然会改变社会，而截至目前，AI 对人类的影响已经呈现出复杂的混合状态。

因此，围绕 AI 的许多讨论都会回到一个时代性问题：我们如何确保 AI 造福人类？

但这类讨论常常滑向两个极端：要么是强烈乐观，认为 AI 会自然带来繁荣；要么是强烈悲观，认为 AI 注定造成伤害。更务实的路径，是尝试具体说明“有益 AI”到底意味着什么，并把它落实到个体福祉与社会健康之中。

“让 AI 服务人类”这样的说法很容易获得认同，但它本身并不够可执行。要把这类目标转化为技术、产品或政策，需要更清晰的概念框架。

文章提出，一个可行的落点是：人类受益最终应体现在人的生活体验之中。我们希望拥有快乐、有意义、健康、充实的人生；也希望自己的家庭、社区、国家和未来世代能够拥有更好的生活。

这并不意味着人们已经对“福祉”有了统一定义。事实上，哲学、经济学、心理学、宗教思想等领域长期讨论这一问题，但并没有形成完全共识。

不同理论强调的重点并不相同：

这些理论之间并不完全兼容，但文章认为，这种不确定性并不是发展有益 AI 的根本障碍。人类过去也并不是在拥有一个完美福祉理论之后才开始建设教育、医疗、法律、市场和文化制度的。

关键在于承认：福祉测量只是地图，不是领土本身。指标可以帮助我们行动，但不能被误当成生活本身。

文章的核心判断之一是：我们需要关于 AI 社会的、可信的积极愿景，而且这些愿景应当以福祉为基础。

原因在于，AI 与过去的重大技术一样，会冲击社会基础设施，并改变日常生活的结构。社交媒体就是一个近二十年来的例子：它改变了新闻传播、公共信息空间、人际连接方式，也让人们更容易沉迷于点赞和反馈机制。

文章认为，能力更强的 AI 对社会的影响可能超过社交媒体。因此，问题不只是如何避免伤害，还包括：

这些愿景不能只是空泛幻想，也不能脱离技术可行性。它们需要同时具备想象力、现实感和技术可信度。

文章指出，人类很多行为背后的深层目标其实都与福祉有关，但现代社会在许多方面已经偏离了这一核心。

在个体层面，作者提到的相关问题包括自杀率、孤独感、工作意义感等；在社会层面，则包括对制度的信任、共同现实感、政治分裂等。文章认为，AI 已经在某种程度上卷入这些变化之中。

因此，如果要讨论“AI 造福人类”，不能只关注单个应用是否提高效率，还要关注它对更大范围生活结构的影响。

例如，AI 产品可以尝试支持：

但这些产品和系统应当以人的长期福祉为目标，而不是只优化停留时长、点击率或短期参与度。

文章特别强调，基础模型及其未来部署路径非常关键。

即便身处 AI 领域内部，人们也很难充分体会模型能力提升的速度。GPT-2 在 2019 年发布，而按照今天的标准，它的能力已经显得相当有限。如果未来模型远比当前模型更强，并且能以更高自主性参与现实世界，那么它们与个人生活和社会系统的纠缠会显著增加。

因此，至少需要让这些模型更好地理解人类福祉，以及如何支持福祉。这可能涉及：

这并不意味着简单地把某个福祉指标写进模型目标函数就足够。相反，文章强调要谨慎对待测量与现实之间的差距，避免把代理指标误当成真正目标。

文章试图把“有益 AI”从抽象口号推进到更具体的方向。其思路可以概括为三步：

这一路径的难点在于，福祉是复杂的，技术系统也可能带来意外后果。但文章认为，正因为 AI 影响深远，现在更需要提出可行的积极愿景，并围绕它们进行研究、设计和部署。

文章的主张并不是给出一个完美的福祉理论，也不是声称 AI 一定会自然改善人类生活。它更像是在提醒：如果 AI 将深度嵌入社会，那么我们不能只讨论模型能力、市场规模或风险控制，也必须讨论我们究竟希望它把人类生活带向哪里。

“有益 AI”需要从抽象愿望变成可研究、可评估、可实践的方向。以福祉为核心，不是为了提供一个简单答案，而是为了让 AI 的发展重新对准人的真实生活，以及支撑这些生活的社会基础。