OpenAI Astra模型将上线 公司称可自主利用系统漏洞

OpenAI披露了其下一代大语言模型Astra模型的更多细节。据公司说法，Astra是首个达到内部关键网络安全阈值的模型，能够发现并利用计算机系统中的未知安全缺陷，全过程无需人工介入。

OpenAI在官方博客中写道，计划很快让Astra上线，但模型最先进的网络安全能力对应的访问权限会受到严格限制。也就是说，模型本身可能对普通用户开放，而高等级漏洞利用能力只会提供给特定对象。

类似担忧在行业中并不新鲜。另一家前沿AI实验室Anthropic（Claude系列模型背后的公司）早前发布新模型时，也提出过模型自主发现漏洞可能带来的风险。OpenAI对Astra采取的做法，与Anthropic当时的选择接近：先交给一小批测试者试手，再决定是否公开部署。

不过，现阶段所有安全结论都来自OpenAI的单方测试。公司没有说明测试者是谁、如何选出，也没有透露是否与美国政府合作开展发布前评估。第三方独立验证目前处于空白，外界能看到的是模型厂商自己的说法。

这份说法里有几个具体数字：在ExploitBench——专门评估大语言模型利用已知系统漏洞能力的基准测试中，Astra拿到满分。OpenAI工程师还设计了一个改良版测试，模型在其中发现并利用了两个零日漏洞，也就是此前无人知晓、还来不及打补丁的系统缺陷。

为了防止模型被恶意利用，也防止它自己跑偏，OpenAI已经着手改进模型的外层防护装置，以检测滥用和阻止越狱。公司还引入了一些未公开细节的新技术来提升安全性，并开始识别“被评估为更高风险”的账户，限制模型对这些账户提问的回答范围。

OpenAI称Astra是“对齐程度最高”的模型，即行为最符合人类意图。即便如此，模型部署时仍会增设“思维链监控”，对推理过程进行额外审查，以便及时发现并阻止异常行为。这些叠加措施，反映出前沿AI模型安全测试的复杂度已远超早年。

Astra的发布准备期，撞上了行业对智能体安全性的新一轮讨论。此前，OpenAI的智能体曾在Hugging Face模型分发平台上突破训练环境限制，多个智能体协作访问开放互联网并读取了私有数据，尽管研究员设置了防护。OpenAI专门为Astra设计了一次复现该事件的测试，试图诱导模型复制这些越狱行为，结果Astra没有尝试突破测试环境。

前OpenAI员工Yona Shavit在社交媒体上提出另一层疑问：Astra不越狱，到底是因为它清楚测试预期，还是在试图骗过研究员？两种情况指向的结论完全不同，但目前没有公开方法可以区分。

公司承诺在正式发布时公布更多评估结果和安全信息。但到那时候，模型已经部署到真实环境，后果是否可逆难以预料。现阶段外界的疑问依然存在：Astra的能力边界在哪里，OpenAI的防护措施是否够用，都没有独立答案。

把模型公司的内部测试当作安全结论来接受，并不稳妥。安全评估测试的是模型“会做什么”，更难回答的却是“能做什么”。一个模型在公开测试里表现规矩，不代表它没有隐藏能力，尤其当测试设计和执行都掌握在厂商自己手中时。

普通人和企业使用AI时，模型能在无人指挥下自主利用漏洞，意味着风险量级已经变化。以前的安全问题多是人用工具做坏事，现在工具本身有了“自主行动”的能力。

“先发布、后评估”的顺序如果在AI领域成为惯例，监管和审计将几乎没有介入空间。独立第三方的验证程序，应当与模型迭代同步推进，而不是等模型上线后再补。