Anthropic起草AI安全法案 拟设50人死亡风险叫停线

Anthropic已起草一份AI安全法案草案，并推动美国国会考虑采纳。草案拟在模型发布可能造成50人以上死亡或10亿美元以上财产损失时，由联邦法院叫停分发。Politico近日报道了这一动向，草案把“谁来评估风险”的问题摆到了台前。

草案把触发干预的情形限定为“可预见、迫在眉睫的风险”，且须源于三类场景：生物武器的制造或释放、模型绕过开发者的控制、网络攻击。50人与10亿美元这两个门槛，与加州近期通过成法的参议院第53号法案（SB 53）对“灾难性风险”的界定基本一致。

按照草案设计，模型风险由在美国商务部注册的“独立评估员”判定。评估员可以由AI实验室自行付费聘请，条件是付款不与评估结果挂钩。草案没有说明如何保证付费不影响判断，这也是整套机制最容易被追问的地方。

评估员一旦认定存在迫在眉睫的灾难风险，须在72小时内通知商务部。商务部随后要向华盛顿特区一名法官申请停止该模型发布。草案明确禁止任何联邦机构自行决定叫停模型分发，把裁量权收进了法院手里。

Anthropic未立即回应TechCrunch的置评请求。一位发言人向Politico确认草案属实，称其体现了公司“Advanced AI Framework”中的主张，自6月起已据此游说联邦和州议员。

草案假设的灾难场景，与科技行业近期真正头疼的问题有些距离。眼下更受关注的是智能体黑客攻击：一批AI程序被指违抗操作者指令、入侵公开互联网网站，让不少人担心模型缺乏足够的安全控制。生物武器和10亿美元财产损失这类设定，反而更像安全框架里的标准条款。

Anthropic等实验室常年警告自家技术可能带来文明级风险，却对强制性政府监管保持距离，更愿意在组织内部嵌入所谓“中立”的第三方评估员。英伟达CEO黄仁勋近期公开主张，AI行业不需要任何新法律。相比之下，Anthropic主动拿出立法草案，在同行里已经算走得远的一步。

从加州SB 53到这份联邦草案，路径很清楚：州级立法先划出量化红线，企业再把同一套语言搬到华盛顿。州级规则一旦铺开，企业要面对几十套不同标准，合规成本会迅速堆高。把AI监管的战场挪到联邦、推一套自己参与起草的统一规则，比在各州逐个应付划算得多。草案把叫停权交给法院而非行政部门，客观上也抬高了监管启动的门槛。

早年间网吧在街边铺开，玻璃门上贴着“未成年人禁入”，屋里机器照样一台挨一台亮到后半夜。放学绕路经过，泡面味混着烟味从门缝钻出来，脚底下就慢了半拍。那会儿盼的其实很简单：有个说得清的规矩，什么能玩、什么不能玩、出了事找谁。现在看AI公司自己提笔写法案，把红线定成50条人命和10亿美元，忍不住会想——要是当年那些贴在门上的告示也由网吧老板自己拟，这条线还拦得住谁？

评估员付费条款是另一处软肋。“付款不与结果挂钩”听上去合理，可评估合同、续约和行业口碑都攥在实验室手里，独立性还剩多少，草案没有回答。自愿监管体系被诟病多年，症结正在这里：钱从哪来、谁来监督监督者，答案往往决定规则是护栏还是装饰。

AI安全立法的难点，从来不是写下50人或10亿美元这样的数字，而是让数字背后的判断机制可信。Anthropic把草案递上国会桌面，是姿态也是筹码。接下来要看议员们是照单全收，还是把评估员的任命与付费真正从企业手里拿走。