AI治理进入AGI时代
AI治理进入AGI时代：前沿模型发布正在变成政治问题
美国行政部门要求 Anthropic 暂停其最新 Claude 5 Mythos/Fable 模型的内部与外部访问，被视为 AI 治理进入新阶段的一个标志性事件。围绕这一模型的争议仍在发展中，但它已经揭示出一个趋势：当前沿 AI 模型从“回答问题的工具”转向“能补充人类工作的智能代理”时，治理压力会迅速上升。
这些模型将继续快速进步，并可能解锁新的工作方式和应用场景。与此同时，政府、企业和公众对其风险的理解也会发生变化，带来更复杂、更不稳定的政策反应。
前沿模型治理的“不稳定均衡”
据报道，美国政府在市场收盘后联系 Anthropic，要求其暂停向外国公民或境外用户开放相关模型访问。虽然这一事件可能最终通过 Anthropic 与政府达成某种协议而缓和，但它已经暴露出一种新的治理模式：模型发布可能不再只是技术评估和企业决策，而会受到国家安全、政治判断和产业政策的共同影响。
事件中还出现了一个重要细节：Anthropic 的重要金融和技术合作伙伴 Amazon 向白宫提示了相关风险。这使得事件不只是“政府与 AI 公司”的关系问题，也涉及大型科技公司之间、企业与政府之间的复杂互动。
几个关键争议
围绕此次事件，有几个值得关注的争议点。
1. 模型权重出口禁令可能带来长期负面影响
一种观点认为，针对任何模型权重实施出口禁令，无论是开源模型还是闭源模型，都会成为美国 AI 产业的长期负面政策。开源模型未来可能更容易遭遇进口限制，但闭源前沿模型同样会受到跨境访问和使用限制的影响。
如果外国研究者、工程师和企业无法在美国使用前沿 AI，那么美国本土 AI 生态也会受到削弱。尤其是在 AI 行业高度依赖全球人才的情况下，过度限制可能与维持国内领先优势的目标相冲突。
2. 网络安全担忧并非完全不存在
围绕 Fable 模型，确实存在与越狱相关的网络安全担忧，即使这种风险可能非常狭窄。问题在于，没有任何模型能够完全免疫越狱攻击。与其假设可以通过限制访问来消除风险，不如为一个现实世界做准备：未来几年内，全球多个主体都可能获得类似能力水平的模型。
这意味着基础设施、组织安全和网络防御能力需要适应更强 AI 普及的环境，而不是只依赖对单一模型发布的临时阻断。
3. AI 风险叙事正在反噬企业自身
过去几年，部分领先 AI 实验室持续使用非常强烈的风险叙事，将 AI 与核武器等高风险技术相类比。这种表述在推动监管关注的同时，也可能加速了政府采取强硬措施的时间点。
当企业长期强调模型极具风险时，政府一旦认为模型能力出现跃迁，就更容易以国家安全为由迅速干预。问题在于，很多实验室此前在措辞上没有为未来更强模型留下足够空间，导致当模型真正进步时，风险语言与现实风险之间的差距缩小，进而触发更高层级的权力结构介入。
4. 对领先 AI 公司遭遇政治化干预不应幸灾乐祸
部分开源社区人士将此次事件视为对闭源前沿公司的打击，并因此庆祝。但这种态度可能低估了政策工具的外溢性。
如果政府可以对一家领先 AI 公司采取强硬限制，那么类似措施未来也可能指向开源模型。对于整个 AI 产业而言，反复受到政治化攻击会增加经济不确定性，削弱市场信心，甚至可能影响 AI 投资周期。
5. 政府行动显得强硬，但政策目标存在矛盾
此次白宫要求暂停模型访问的做法被认为相当强硬，并可能受到对 Anthropic 的政治倾向影响。更深层的问题是：政府既希望保持美国 AI 产业领先，又可能限制外国人才和海外用户接触前沿模型。
但现实是，美国 AI 行业高度依赖全球人才和国际合作。如果外国公民无法在美国使用或开发前沿 AI，那么“建设强大的国内 AI 产业”这一目标本身就会受到挑战。
6. 企业与政府的危机沟通机制值得关注
Amazon 为什么需要直接把风险信息带到白宫？模型发布前是否存在充分沟通？领先科技公司与政府之间的危机管理通常应如何运作？这些问题目前仍不清晰。
这反映出 Anthropic 与政府互动中可能存在异常动态，也可能是企业在感到被政治化针对后形成的应激反应。无论原因如何，这种互动模式都不健康：如果私人企业试图影响政府决策，政府可能会以更强硬方式回应；如果政府缺乏技术能力却快速干预模型发布，也会制造新的治理风险。
从“ChatGPT 时代”到“智能代理时代”
美国政府上任时，AI 治理仍处于“ChatGPT 时代”：模型主要被视为回答问题的系统。早期政策也更多关注开放模型、产业追赶和对前期安全讨论的修正。在这一阶段，强调开源模型的重要性、避免过度监管，对行业而言总体具有积极作用。
但现在，AI 正在从“回答式推理”进入“智能代理式推理”。模型不只是生成文本，而是可能执行任务、调用工具、辅助工作流，甚至在某些领域替代一部分人类操作。
这种变化使治理难度显著上升。即使认为 AI 风险此前被夸大，也必须承认：最新系统的真实风险与过去用来描述风险的语言之间，距离正在缩小。领先实验室之外的权力结构因此开始感到不安。
主权 AI 与开源模型的压力将上升
进入所谓“AGI 时代”的 AI 治理，意味着更多国家和地区会认真对待前沿 AI 能力的控制权。欧洲、中东以及中国等地区，都可能意识到自己存在被排除在前沿 AI 之外的风险。
这将推动“主权 AI”需求增长：政府和企业会希望掌握自己的模型、算力和智能基础设施，而不是完全依赖少数美国平台。开源社区可能会把这种趋势视为机会，因为当政府能够任意限制领先平台时，企业会更想控制自己的智能能力。
但开源模型并不天然安全。当前针对闭源模型的快速政策反应，未来也可能转向开源模型。激进的模型发布、权重开放和全球传播，同样可能成为国家安全审查对象。只是这种行动会在三个月后发生，还是两年后发生，目前无法判断。
新常态：AI 发布将被权力结构重新审视
此次 Anthropic 与美国政府之间的事件，可能只是未来 AI 政策冲突的起点。随着前沿模型能力提升，既有权力结构会越来越强烈地试图重新assert控制权。
这意味着模型发布可能受到更模糊的判断影响：
- 技术风险评估；
- 网络安全担忧；
- 出口管制逻辑；
- 国内政治倾向；
- 产业竞争；
- 主权 AI 战略；
- 企业间竞争与告警机制。
如果行政部门缺乏足够技术能力，却需要在极短时间内对前沿模型做出判断，政策结果就可能变得不稳定。模型发布不再只是“是否安全”这一单一问题，而会成为政治、经济和安全目标交织的综合决策。
需要的是降温路径，而不是升级循环
前沿 AI 的目标不应是让少数主体垄断能力，也不应是让恐慌驱动政策。更可取的路径，是在安全、低成本、广泛扩散的强大 AI 能力之间寻找平衡。
但这一过程不会轻松。未来的 AI 治理很可能更加混乱、紧张，甚至在某些时刻充满危险。政府会试图追赶技术进步，企业会维护自身发布节奏，开源社区会推动能力扩散，其他国家则会加强主权 AI 投入。
此次事件的意义在于，它提醒人们：AI 治理已经从围绕聊天机器人的内容安全，进入围绕智能代理、国家能力和技术主权的复杂阶段。真正的挑战才刚刚开始。