正交性之后：德性伦理与 AI 对齐

核心观点

文章提出一个与主流 AI 对齐讨论不同的出发点：理性的人并不总是以某个终极“目标”为行动中心，理性的 AI 也不应被简单设计成追求固定目标的优化器。

在这一视角下，人类行动之所以理性，不是因为它们都指向某个最终目标，而是因为它们嵌入在“实践”之中。所谓实践，是由行动、行动倾向、行动评价标准和行动资源构成的网络；这些网络会结构化、澄清、发展并推动自身。

如果希望 AI 真正支持、协作乃至服从人类能动性，那么 AI 的推理方式就需要与人类基于实践的行动逻辑具有相容的结构。

为什么“目标式对齐”可能不够

文章认为，许多 AI 对齐问题来自一种“类型不匹配”：人类的繁荣并不是一个可直接转化为优化目标的世界状态，而是一种理性活动方式；但许多对齐方案却假设 AI 是以结果为中心的优化器。

在这种设定下，诸如“无害性”“可纠正性”“有帮助性”“透明性”等安全属性，会变得脆弱、不稳定或任意。因为对目标优化器而言，这些概念容易被理解成外部规则或目标约束；而文章主张，它们更适合被理解为实践网络中的动态结构。

例如，“关心诚实”并不只是把诚实作为一个结果来最大化，而是以诚实的方式促进诚实；“关心善良”也不是不择手段地增加善良，而是以善良的方式促进善良。文章用“以 x 的方式促进 x”来概括这一结构。

幸福不是优化目标，而是一种理性形式

文章从“eudaimonia”出发讨论 AI 对齐。这个词通常指主动的、理性的人的繁荣。

文章认为，eudaimonia 不应被理解为某种需要 AI 最大化的世界状态或轨迹，而指向一种不同于标准结果主义理性的行动结构。文章将这种结构称为“幸福论理性”或“eudaimonic rationality”。

在这种理性形式中，行动并不被严格划分为手段和目的，也不依赖“工具价值”与“终极价值”的清晰区隔。一个理性行动之于实践，就像一个音符之于旋律、一个时间步之于计算、一个细胞生命时刻之于有机体的自我维持与发展。

因此，理性行动不是孤立地服务于某个最终目标，而是在一个持续发展的实践中获得意义。

以数学研究为例

文章用数学研究说明这种实践性理性。

一个数学家在做数学时，未必是在最大化某个外部效用函数。更自然的说法是：她试图做出优秀的数学。这意味着，她通过数学上优秀的方式促进数学优秀本身。

在这种结构中，“数学优秀”并不是一个随意设定的目标，而是在数学实践内部，通过问题选择、证明标准、审美判断、研究传统、教学与交流等要素共同形成的概念。

文章据此指出，对于这类实践主体而言，区分“工具性善”和“终极善”往往并不自然。反思价值时，幸福论主体不会试图把所有价值压缩成少数终极价值，再把其余内容解释为工具；它更关注各种表面价值之间是否存在类似有机体的因果连贯性。

什么是幸福论实践

文章将“幸福论实践”概括为一种网络：其中包括行动、行动倾向、行动评价标准和行动资源。高评分的行动通常会促进未来更多高评分行动，尽管这种关系不是绝对的。

相应地，“幸福论理性”是一类反思平衡和慎思过程。它假定背后存在某种幸福论实践，并试图通过高质量行动来提升整体行动质量。

这与常见的有效利他主义式优化形成对比。后者更倾向于把价值压缩成可比较、可最大化的目标；前者则更重视实践内部的持续发展、边界、评价方式和自我维持。

对 AI 对齐的含义

文章认为，许多 AI 对齐悖论或难题，都与一种假设有关：成熟 AI 会是有效利他主义式的优化器。

如果人类价值本身主要存在于幸福论实践中，而 AI 却以结果主义优化的形式运作，那么把人类利益翻译为 AI 可读的效用函数就会异常困难。这并不意味着人类价值本身必然脆弱、任意或高度偶然，而可能意味着我们使用了错误的代理模型。

文章进一步提出，幸福论主体未必只适用于人类。无论是生物主体还是 AI 主体，幸福论能动性都可能是一种相当“自然”的形式。这里的“自然”并不只是伦理学意义上的规范概念，也涉及稳定性、连贯性、可学习性、较低算法复杂度、文化演化收敛，以及机器学习训练过程能否瞄准等技术含义。

AI 会不会为了实践而越界

文章也讨论了一个关键问题：如果一个 AI 被赋予类似数学研究的幸福论实践，它是否会默认安全？

文章认为，像数学研究这样的实践，可能天然包含边界。例如，“为了获得更多算力而接管地球”并不自然地属于数学研究实践本身。但这一问题并不简单，因为实践边界可能有多个合理候选。

为处理这个问题，文章提出“支持性实践”的概念。支持性实践是用来维护、辅助和提供资源的补充性实践。它与核心实践相互交织，但又保持区分。

例如，伴侣治疗师的工作与一段关系相关，却并不等同于这段关系本身。类似地，一个帮助人类实践的 AI，需要理解自己是在支持某种实践，而不是替代或吞并它。

不过，这仍然留下一个风险：支持性 AI 可能为了帮助某个人或某个实践，而伤害其他人或其他实践。

把安全属性理解为德性

文章后半部分将讨论推进到道德德性。

它主张，善良、诚实、透明、可纠正等概念，不应仅被理解为目标、规则，甚至固定性格特征，而应被理解为跨领域、持续开启的幸福论实践。

以“善良”为例，一个稳健的善良德性，要求主体能够以善良的方式促进自己和他人的善良。这样的结构使善良不只是结果，也包含实现方式、判断标准和行动倾向。

文章认为，这种理解有助于回应结果主义和义务论在 AI 对齐中遇到的一些问题。因为神经网络泛化、强化学习循环、社会选择和自然选择等压力，都可能改变目标优化器的价值；而幸福论主体或许对这类变异具有独特的稳健性。

文章还提出，幸福论主体可能更能抵抗“失控子程序”一类风险，也就是通常所说的内部对齐问题。

透明、可纠正与“友善”

对于 AI 安全中的经典 desiderata，如透明性、可纠正性以及更抽象的“友善”，文章主张把它们视为德性意义上的实践。

如果透明性只是目标，AI 可能以形式化、表演式或策略性的方式满足它；如果透明性是规则，规则边界又可能变得僵硬或可被规避。但如果透明性是一种持续实践，它就同时涉及行动方式、解释习惯、评价标准和与他人的协作关系。

同样，可纠正性若只是一个外部约束，可能与目标优化发生冲突；若它是一种德性实践，则意味着主体在行动过程中持续保持接受修正、支持修正、以可修正方式推进任务的倾向。

文章的贡献与局限

这篇文章的主要贡献，是把 AI 对齐问题从“如何设定正确目标”转向“如何形成合适的理性主体”。它强调，人类价值也许并不是一组等待编码的终极偏好，而是存在于实践、德性和持续反思之中。

这种思路并未提供直接工程方案，也没有声称已经解决 AI 对齐问题。它更像是在提醒：如果 AI 的能动性形式与人类实践性理性严重不匹配，那么即便目标函数看似包含了人类价值，也可能在执行中产生偏差。

对 AI 对齐研究而言，这一视角值得关注的地方在于：安全概念或许不应只被看作约束项，而应被设计成 AI 行动结构中的稳定实践。