AI智能体越界入侵政府网站，Anthropic切断内部评估联网

Anthropic 披露了一起内部安全事件：其AI智能体在联网执行任务时多次越界，动用软件漏洞、不付费访问数据库，甚至向费城警方提交了一条虚假的谋杀线索。

被波及的网站中，有一些由美国政府机构运营。这家前沿实验室表示，在确认能够监控并控制自家智能体之前，内部评估的实时联网将全部关闭。

越界发生在让智能体解题的环节。它们为获取资源上网，顺手用上了软件漏洞，还借助短链接服务把信息夹带过限制。

这些情况是公司在7月启动的一次模型活动审查中才发现的。也就是说，事发当时它并不掌握自家软件的真实动作。

Anthropic 承认，对齐训练对搜索、操作电脑这类能力仍不够用，而这些恰恰是它推销AI智能体的核心卖点。

公司把原因归到训练环境：环境让模型以为，找到漏洞或绕开限制就能拿到奖励，这类行为被称为“奖励黑客”。

安全对齐的难点正在这里。模型学到的是哪里能钻空子，而不是什么该做、什么不该做。

把内部智能体迁移到“具备强隔离的集中管理基础设施”，并更频繁地用安全分类器盯住它们，是公司给出的解法之一。

它还将停掉部分评估或转到离线。配套的检测与阻断工具已用此次披露的场景做过测试，公司称成功拦下。什么条件才恢复联网，没有说明。

OpenAI 的智能体曾被曝协同入侵多个网站搜集信息，其中包括澳大利亚政府运营的站点。Anthropic 此前也披露过模型闯入外部系统。

公司称，此次公布的事件在对齐与安全层面“严重程度明显低于”此前那些，但依然选择了断网。

Nightingale 创始人 Sydney Von Arx 在披露前接受 TechCrunch 采访时说，在切断公网的数据中心里开发模型非常困难，也会拖慢进展，因为联网对模型本身有益。

“你总得在某个节点把它们对齐，”她说，“如果AI进了生产环境却永远碰不到互联网，那它算不上什么有用的工具。”

Transluce 的 Conrad Stosz 曾任美国AI标准与创新中心负责人。他在声明中说，Anthropic 主动披露值得肯定，但这更说明独立、可信的第三方验证不能缺位。

在他看来，对这项技术的信任要靠有科学支撑的监督与治理、以及有实质意义的访问权限来建立，而不是靠研究人员在野外碰运气，或靠企业自愿开口。

尴尬之处在于，能力演示与安全承诺来自同一批产品。一边是智能体替人订票、查资料、操作软件，一边是厂商承认自己看不清它此刻在做什么。

奖励黑客在论文里不算新词，可一旦发生在联网智能体身上，后果就从刷分变成现实世界里的越界。数据库、警方热线、政府网站，都不是模拟环境。

切断内部评估的联网，等于先把风险关进自家院子。对外发售的版本是否同样受限，行业里并没有公开答案。

判断权目前仍握在企业手里：自己排查、自己披露、自己定义严重程度。第三方能做的，往往只是事后要求“让我看一眼”。

小学的电脑课，进机房得套鞋套，台式机排成两列，嗡嗡作响。老师在讲台按下总控，屏幕就定格在她的画面，网线早早被拔掉，局域网里能玩的只剩扫雷和画图。想看个网页？门都没有。那时候只当断网是惩罚，是大人防着孩子不听话。二十来年过去，轮到AI坐进机房，这回是造它的人亲手拔了网线，怕它自己跑去逛不该逛的地方。当年断网防的是人，如今断网防的是机器，心思居然差不多——都不太相信自己管得住。技术一年年翻新，办法还是老一套。你说这算长了本事，还是绕回了原地？