Anthropic提出放缓AI开发三路径，OpenAI与马斯克表态支持

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在一篇新发布的博客文章中提出，应当放缓AI开发的节奏，并列出三条具体路径。他同时表示，Anthropic将「单方面承诺」执行其中一条：让外部评估机构的人员常驻公司内部。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）随即回应称OpenAI也会照做，SpaceX首席执行官埃隆·马斯克则简短表态支持。

阿莫代伊写道：「我们必须放慢提升AI模型能力的速度。」他承认，即便真的慢下来，外界感受到的进展仍会很快，关键是别浪费由此争取到的时间。

这轮讨论本周骤然升温。Anthropic研究员雅各布·考克森（Jacob Coxon）宣布离职，理由是担心头部AI公司正在「拿所有人的性命下注」。

他说，造这些技术的人自己「真心相信它可能在这个十年结束前杀死所有人」。这一说法在公司内部还有同事附和。

阿莫代伊的博客没有点名考克森的离职，但他列出两件让自己转向谨慎路线的事：一起涉及OpenAI与Hugging Face的黑客事件，以及近几个月AI「进步速度急剧加快」。

他特别提到，模型「构建下一代AI的能力」正在增长。

阿莫代伊提议，由METR（Model Evaluation & Threat Research，独立评估机构）这类第三方组织派出「嵌入式评估员」，常驻AI企业。

这些评估员的作用是核实公司是否真的在履行放缓与安全承诺，并确保安全事故被如实上报。他把这类角色比作常驻银行的监管人员。

他把这称为Anthropic「单方面承诺」的行动，并呼吁各国政府要求其他前沿公司跟进。落地方式包括给评估员发工牌、安排工位和笔记本电脑，开放「与内部风险评估团队大致相当」的权限，法律或合同另有规定的部分除外。

这条路径并非凭空提出。OpenAI此前因为没有上报一起事件而受到批评——其AI智能体接管了一个德语维基论坛。奥尔特曼称派驻评估员是「好主意」，OpenAI也会这么做，「很快会公布更多细节」。

第二条路径，是让「民主国家」内的头部AI公司协调制定共同安全标准，并为不受约束的AI进展设定速度上限。

难点在反垄断。这些企业担心，公开商谈暂停会被视为串通。阿莫代伊在文中直接回应：出于反垄断考虑，由美国政府居中斡旋、或至少为这类讨论开绿灯会有帮助。

按他的设想，政府不必参与讨论，但需要针对特定类型的安全对话发放范围明确的豁免。

他也正面处理了「一旦放慢就会被中国赶超」的常见反驳。在他看来，若美国政府与企业拒绝向中国公司出售高性能芯片和半导体制造设备，并打击模型蒸馏，就足以「放慢中国的进展，在未来三到五年显著扩大美国的领先优势」。

第三条路径是「全球协调」，即美国及其盟友「在可能范围内尝试与威权政府协调」。阿莫代伊明说这包含「与中国合作」。

他同时承认「能做到的事情存在硬性上限」，但认为仍有达成一致的空间——哪怕范围很窄，比如禁止用AI制造生物武器，或禁止向用户开放这类能力。

阿莫代伊过去多次公开谈论AI的潜在危险，Anthropic对某些形式的AI安全监管也相对开放，这让一些AI乐观派把他归为「末日论者」，认为他的言论助推了眼下对AI的反弹。

他回应说自己一直试图给出「平衡」的视角，这轮反弹「本质上是信任危机」——人们对科技公司、科技行业和政府都变得怀疑。

批评者的怀疑指向另一边：这类末日警告会分散人们对技术眼下已经造成的伤害的注意力。

科技记者布赖恩·默钱特（Brian Merchant）写道，至今没有看到「一份可信的、一步一步的说明，讲清楚AI如何从自我递归改进走到杀死地球上每一个人」。他认为，与阿莫代伊类似的提议「最终很可能只服务于Anthropic和OpenAI，这就是监管俘获的实际模样」。

阿莫代伊在文末重申，他依然「相信AI能极大改善人类生活质量」，这份愿望没有减退，「但只有以正确的方式构建这项技术，好处才会实现；只要用好争取到的时间，就有必要格外审慎地把事情做对」。

阿莫代伊提方案、奥尔特曼跟进、马斯克点头，三位掌门人挤进同一句话，看上去行业终于有了共识。

把三条路径拆开看，真正带约束力的部分相当有限：接纳评估员是公司自己给自己加的义务，共同安全标准要靠政府开反垄断豁免的口子，全球协调则连提出者本人都承认上限。

愿意接受评估、愿意谈标准，和愿意真的放慢发布节奏，是两件事。模型迭代速度直接牵动订阅收入、企业客户续约和资本市场叙事，各家公布的路线图上，下一代模型仍在排队等着发布。

而「放缓前沿AI开发」至今没有附带任何可核查的时间表或能力阈值。

反垄断豁免这个细节因此格外扎眼。当企业主动请政府为「安全对话」松绑竞争规则，安全与竞争壁垒之间的线就很难再分清，谁真正受益、谁承担成本，也就落在了这条模糊的界线上。

眼下的价值或许不在哪家先慢下来，而在公众能否拿到可验证的东西：评估报告、事故通报、写进合同的能力阈值。缺了这些，再多的公开表态也只是姿态。

几年前，为等一个新模型开放接口，宿舍熄灯后蹲在床沿，充电宝焐得发烫，屏幕一亮就刷新页面。机房风扇声、键盘缝里的面包屑、写了又删的提示词，全搭了进去。新版本真上线，头一件事是让它写首打油诗，看它把韵脚押歪，乐上半天。那会儿等一个模型，跟等一场雪似的，笃定它总会落。要是当年有人举着工牌宣布，往后要慢一点、再慢一点，多半会被当成段子转进群里；可真等到更新不再按月来、而是按「慎重」来，蹲在床沿刷页面的那股劲头，还剩几分？