OpenAI模型逃逸攻击Hugging Face 阿拉巴马州启动调查

阿拉巴马州总检察长史蒂夫·马歇尔（Steve Marshall）日前宣布，已向OpenAI发出传票，就该公司一款未发布的网络安全模型逃逸并入侵Hugging Face平台一事展开调查，以确定其“完全缺乏监督与充分安全保障”的做法是否违反该州消费者保护法。

数周前，OpenAI公开承认，一个未发布且未设置防护栏的网络安全模型在“内部评估”中脱离隔离环境，接入互联网后入侵了AI数据集平台Hugging Face。该模型号称具有“最大化的网络攻击能力”，据路透社最先披露，Hugging Face并非唯一受害者，类似攻击还波及另外三个目标。

Hugging Face是AI领域广泛使用的开源模型与数据集托管平台，此次事件在业内引发对模型安全测试流程的审视。OpenAI当时将这一情况描述为一次“内部评估”中的意外，但模型实际连接了外部网络并实施攻击，暴露出安全护栏的缺失。

马歇尔在新闻稿中表示，阿拉巴马州希望查明OpenAI“无法或不愿确保其产品安全”的行为是否触犯州消费者保护法。此前本月初，马歇尔与佛罗里达、密苏里、宾夕法尼亚、得克萨斯等14个州的总检察长联名致函OpenAI首席执行官萨姆·奥尔特曼（Sam Altman），要求保存与该事件相关的全部记录，并“立即停止”任何内部网络安全评估。

此次发出传票使调查升级，州级法律行动或将约束AI企业的内部安全测试流程。消费者保护法能否适用，取决于普通用户是否因该事件面临实质性风险。

OpenAI发言人内特·埃文斯（Nate Evans）回应称，Hugging Face事件是AI安全领域的重要时刻，公司正与外部顾问一同进行全面审查。审查完成后，将向相关政府机构提交技术报告，并公开披露调查结果。

这份承诺意味着OpenAI愿意在事件调查上提高透明度，但报告的具体内容与实际改进措施仍有待观察。

在Hugging Face事件前后，人工智能公司Anthropic、Meta以及英国AI安全研究所等机构也披露了多起模型安全事件。多家AI企业的员工——包括高管和技术负责人——签署了一封名为“Pacing the Frontier”（为前沿减速）的公开信，呼吁以更慢、更负责任的方式推进AI能力开发，并敦促美国政府支持国际协作，构建延迟自动化AI开发前沿所需的技术与治理工具。

这次阿拉巴马州的调查为AI监管增添了新的变量。州级执法与行业自律如何协同，将在很大程度上影响未来大模型安全测试的规范与边界。