Anthropic 早期员工与前 METR 高管创业，给 AI 智能体做安全认证

给企业 AI 智能体做第三方安全认证的初创公司 AIUC 周二宣布，已完成 4000 万美元 A 轮融资，由 Ribbit Capital 领投，First Harmonic 参投。

加上此前由 Nat Friedman 旗下 NFDG 基金、Emergence、Terrain 等参与的 1500 万美元种子轮，公司累计融资 5500 万美元。

AIUC 由 Rune Kvist 和 Rajiv Dattani 共同创办，两人是姻亲兄弟。Kvist 是 Anthropic 的早期员工，Dattani 则在 2024 年至 2025 年担任 AI 安全评估机构 METR 的首席运营官，目前仍在 METR 董事会任职。

在 Kvist 的描述里，能力提升并不自动带来可部署性。“AI 变聪明的速度越来越快。奇怪的地方在于，它越聪明，企业采用起来越难、控制起来也越难。”他说。

他把原因归结为承诺。银行、医院、政府和军方不再拒绝部署 AI，理由不是模型不够聪明，而是它们已经向自己的客户承诺过系统会做什么、不会做什么，眼下没人能保证这一点。

这场创业发生在一个紧绷的时刻。就在与投资人见面的前一天，Anthropic 研究员 Jacob Coxon 辞去工作，理由是他担心 AI 可能在本十年结束前造成人类灭绝。

Kvist 和 Dattani 给出的答案务实得多：与其争论 AI 会不会失控，不如先让企业知道自己买到的智能体会在哪些场景里出问题。

AIUC 的核心产品是一层独立的第三方审计与认证。公司参照企业安全领域广泛使用的 SOC 2（由美国注册会计师协会制定的服务组织控制审计标准），推出了自己的 AIUC-1 标准，并配套测试服务。

标准的制定带上了采购方的视角。AIUC 组织了一个约 250 名安全与风险负责人参与的联盟，这些人正是企业里负责买智能体的人。

Dattani 说，团队每月与他们碰面，反复问同一个问题：向别人采购智能体时，你会看什么、想问什么、希望对方交代清楚什么。这些反馈最终变成具体的测试项。

一个智能体要跑完约 5000 项测试，覆盖越狱、幻觉、数据泄露等场景。结果汇成一份约 100 页的报告，写明它在哪些环节表现可靠，在哪些环节存在隐患。

测试过程本身也交给了 AI：跑测试的是智能体，分析数据的也是 AI，只有最终审计由人工核验。

这种安排带着一点自我指涉的味道——用来判断 AI 是否可控的工具，本身也是 AI。人类留在链条末端签字，说明信任的最后一步目前还交不出去。

Dattani 的老东家 METR 做的是类似的事，但侧重不同。METR 长期为前沿实验室评估模型能力，主要回答智能体能否稳定完成任务，近年才开始更多触及风险维度。它此前也受托参与调查一起与 Hugging Face 相关的事件。

Anthropic 首席执行官 Dario Amodei 近期呼吁行业放慢前沿开发节奏，理由是模型的不良行为事件在快速增加。他提出，可以考虑要求前沿实验室引入内嵌的第三方评估方来观察和验证安全性，并点名 METR 是一种可能。

AIUC 不打算把团队派驻到客户公司，但思路相近：让企业先拿到一份独立判断，知道智能体哪里可以信任、哪里需要警惕，再决定要不要买。

AIUC 列出的客户包括 Cursor、Lovable、Harvey 和 ElevenLabs。投资方名单里坐着 Anthropic 联合创始人 Ben Mann，以及 Nat Friedman、Emergence、Terrain、Ribbit Capital 和 First Harmonic。

把安全做成认证生意，在网络安全领域早有先例。企业采购软件时被安全问卷反复盘问的人都清楚，一张第三方审计报告能省掉几周来回拉扯。AI 智能体正卡在同一道门槛上：演示环节很漂亮，但采购签字的人要问权限边界、日志留存、数据流向、出事之后谁负责。

模型排行榜回答不了这些问题。AIUC 押注的正是这块空白——能力评测已经拥挤，采购决策的信任缺口还空着。

标准本身也是一种权力。谁定义测试项，谁就在定义什么算“安全”。AIUC 的联盟里坐着买方，客户名单里是卖方，投资人中又有模型公司的创始人，这种位置关系需要时间证明它的中立性能否立住。

公司名称里的“Underwriting”也值得琢磨。承保的逻辑是给风险定价，认证的逻辑是把风险摊开给人看。AIUC 眼下做的是后者，卖的是透明度，不是保险单。

上电脑课的年代，机房进门要套鞋套，坐下第一件事是等老师把杀毒软件更新完。老师翻来覆去地叮嘱：软盘别乱插，弹窗别乱点，看到警告就举手喊人。那会儿的“安全”意思很朴素，机器老实待着，病毒就进不来。二十来年过去，要给一个会自己开浏览器、自己调接口、自己发邮件的智能体做体检，跑五千项测试，出一百页报告，告诉企业它能信到哪一步。当年那台连上网都要拨号的笨机器，如今换成了看不见摸不着的家伙，反倒要给它发合格证。唉，电脑课算是白上了。