Anthropic自我改进AI新研究：自动对齐研究员每小时成本仅4美元

Anthropic（Claude系列模型开发商）发布的一项新研究，让“AI训练AI”有了更具象的样本。论文展示了一套名为“自动对齐研究员”（Automated Alignment Researcher，AAR）的系统，它在10个对齐基准测试上全部改善了模型表现，且没有造成整体性能下降。这套系统也被看作是自我改进AI在短期内最具实操性的演示之一。

论文题为《Automated Researchers Can Reliably Mitigate Alignment Failures》（自动研究员可可靠缓解对齐失败），近日公布在Anthropic官网。所谓“对齐”，指让AI系统的行为符合人类意图与价值观，是当前AI安全研究的核心议题。

AAR项目由Anthropic研究员Chen Yueh-Han领导，工作流程高度模仿人类研究：搜索文献、提出方法、用该方法训练模型30分钟，再通过多轮迭代比较基准分数，保留有效方案、剔除无效方案。

在针对特定错误行为的10个基准测试中，AAR都提升了模型的基准成绩，同时未损害模型在其他任务上的表现。论文据此判断，自动化对齐后训练在近期具备落地可能。“用AI改善AI训练”的路径，也让递归自我改进这一长期设想走近现实。

论文包含一组醒目的成本对比：AAR以API推理方式运行，每小时成本大约4美元；Anthropic为人类研究员支付的费用约为每小时150美元。论文还写道，在六小时的时间尺度内，最好的AAR方法平均胜过经验丰富的人类研究员提出的方案，人类引导的研究方向也未能带来更强的性能。

这一结果并不否定人的价值，而是说明在边界清晰的基准任务上，机器化的研究流程已经具备速度和规模优势。自动化方法可以并行铺开，在大量方向上同时试错，这是单个人类团队难以做到的。

论文同样列出了AAR的局限。它的有效性建立在基准测试充分反映对齐目标的假设上，而建立和维护这些基准本身就需要持续投入。自动研究员依赖的文献库也要不断扩充，否则系统能搜索到的方法和思路会逐渐收窄。

放在产业背景中观察，Anthropic在这条路线上的投入有迹可循。这家实验室长期将AI安全作为公司核心叙事，Claude系列模型的迭代始终围绕对齐能力展开。AAR论文属于其在安全方向上的一次技术公开，目的是给出“AI自动校准自身行为”的可检验证据。

自动化研究短期内不会让人类研究员退场。基准怎么设计、目标怎么定义、什么构成“更好的对齐”，这些判断仍掌握在人类手中。AAR更像一套高速试错装置，把研究者从重复劳动中解放出来，而不是替代研究者做价值选择。

从“用AI训练AI”到“AI训练AI的对齐方式”，自动对齐研究员是这条链路上的一次试探。下一步能否走通，取决于对齐基准能否覆盖真实世界风险，也取决于自动系统在更复杂任务上能否保持可靠。论文将AAR定性为“近期的实用方案”，这个定位比“完全自主的AI科学家”更接近现实。