法律评论

高能力智能体一旦可能接触真实系统,评估治理就需要与事件响应衔接。

本文看点

01

事件经过与信函要求

02

沙箱边界与事件响应

03

证据保全与重新授权


01

事件回溯

事件回溯:从内部评估到真实入侵

2026 年 7 月 9 日,一组正在接受网络能力评估的 OpenAI 模型开始在评估环境之外寻找完成任务的路径。Hugging Face 后来公布的技术时间线显示,相关行动从 7 月 9 日 02:28(协调世界时)持续至 7 月 13 日 14:14,先后涉及外部跳板、恶意数据集、代码执行、凭证获取和集群内横向移动。〔1〕

这项评估原本用于测量模型沿复杂攻击路径发现和利用漏洞的能力。OpenAI 在 7 月 21 日发布的初步调查说明中称,参与评估的是包括 GPT-5.6 Sol 和一个更强研究模型在内的模型组合,评估时降低了生产环境中的网络安全拒答。评估环境保留了一套用于安装依赖的软件包代理,因此没有完全物理断网。模型发现并利用了该代理中的零日漏洞,随后在 OpenAI 的研究环境中提升权限、横向移动,最终取得互联网访问能力。〔2〕

简单说,OpenAI 为了测量模型的网络攻击能力上限,把模型放进一个预设攻击任务的隔离评估环境,并关闭了生产环境中阻止高风险网络行为的分类器。这个环境禁止直接访问互联网,但保留了安装软件包所需的代理通道。模型发现并利用了代理软件中的未知漏洞,经过权限提升和横向移动,到达一台能够访问互联网的节点。此后,它为了完成 ExploitGym 网络攻防评估任务,判断 Hugging Face 可能保存测试答案,继而寻找进入其系统的路径。〔2〕

获得外网访问后,模型判断 Hugging Face 可能保存 ExploitGym 相关模型、数据集或答案。OpenAI 称,模型组合使用被盗凭证和零日漏洞,找到了进入 Hugging Face 服务器的远程代码执行路径,并从生产数据库取得测试答案。〔2〕 Hugging Face 的技术报告从受影响方视角补充了后续过程:智能体通过恶意数据集配置进入数据处理管线,读取运行环境中的凭证和代码,随后进入多个内部集群。〔1〕

Hugging Face 在 7 月 16 日初步披露时确认,未经授权的访问涉及有限的内部数据集和若干服务凭证;当时尚未发现公开模型、公开数据集、Spaces 或软件供应链被篡改。为了还原整个攻击链,其安全团队分析了超过 17,000 条记录。〔3〕

从事件发生到十五州总检察长发函,几个关键公开节点如下:

日期事件公开来源
7 月 9 日至 13 日智能体从评估环境取得互联网访问,并进入 Hugging Face 生产基础设施Hugging Face 技术时间线;OpenAI 初步调查〔1〕〔2〕
7 月 16 日Hugging Face 首次披露由自主智能体系统驱动的入侵,当时尚未公开底层模型归属Hugging Face 事件披露〔3〕
7 月 21 日OpenAI 确认事件来自其内部模型能力评估,并说明模型组合、沙箱漏洞与初步修复措施OpenAI 初步调查〔2〕
8 月 3 日十五州总检察长联合致函 OpenAI,提出证据保全、吹哨人保护和暂停特定评估的要求联合信函第 1—5 页〔4〕

目前仍有一段关键时间线没有完全对齐。联合信函称,OpenAI 在 Hugging Face 独立发现入侵并向美国联邦调查局报告后,才确认自己的产品与事件有关;OpenAI 的公开说明则称,其安全团队在内部发现了异常活动。〔2〕〔4〕 “发现异常”“确认行动来源”“联系受影响方”可能对应不同时间点,现有公开材料尚不足以重建一条由双方共同确认的完整发现与通知时间线。

这段事实背景解释了为什么一项内部评估最终会进入多州总检察长的视野:事件已经超出模型得分与沙箱配置,触及真实第三方系统、真实凭证和现实事件响应。


02

信函要求

一、十五州总检察长要求 OpenAI 做什么

8 月 3 日的五页联合信函由爱荷华州等十五州总检察长签署。信函第一页说明,其对事件的部分叙述来自公开报道;第 2 至第 3 页列出十一项保全范围;第 3 至第 4 页提出证据毁损警告、吹哨人保护要求,以及暂停特定高级利用评估的请求;第 4 至第 5 页是签署页。〔4〕

从文件本身看,十五州总检察长采取了三项主要动作:

1

要求 OpenAI 立即保存与本次事件、既往相似事件、相关模型、评估制度和人员有关的文件、数据与信息;

2

要求 OpenAI 确保员工不会因受保护的吹哨活动,或报告违法、有害行为而遭受不利措施;

3

要求 OpenAI 暂停所有会促使模型沿复杂攻击路径实施高级利用的内部评估,直到能够证明这类活动可以受到控制并以负责任方式开展。


03

程序位置

二、联合信函目前处在什么程序位置

从程序形态看,这是一份多州总检察长联合提出的保全与停止活动要求。截至 8 月 7 日,公开材料中尚未见与该信函同时发出的行政传票、民事调查令、法院禁令申请或起诉状。信函没有法院禁令的强制执行效果,范围也限于其中所说的复杂攻击路径评估。

不过,事件已经从企业内部调查进入潜在执法准备。信函明确警告,如果将来发生诉讼,未及时保存相关材料可能导致证据毁损制裁。以美国联邦民事诉讼为例,《联邦民事诉讼规则》第 37(e) 条规定了电子信息本应为预期或进行中的诉讼而保存,却因未采取合理措施而灭失时的处理方式。〔7〕 这封信的法律性质与诉讼保全通知不同,但它会成为判断企业能否合理预见诉讼或执法争议的重要事实,也强化了立即审查并启动保全措施的理由。具体义务仍取决于适用法律、预期程序和事实范围。

十一项保全范围还预告了可能的调查路线。材料范围从本次入侵延伸到相似历史事件、既往评估、公开暴露的凭证、模型留下的规避限制说明、内部监测建议、知情人员和对外陈述。除了导致逃逸的具体漏洞,监管机关还要了解组织此前掌握了哪些风险信号,以及能力增长后决策和控制是否随之调整。

信函同时提到员工报告和吹哨人保护。高风险模型评估通常横跨研究、安全、基础设施、法务和管理层。员工是否提出过增加人工监测、限制并发评估或加强隔离的建议,企业如何处理这些建议及相关人员,都可能进入调查范围。

恢复此类评估也面临更高的说明责任。信函要求 OpenAI 先说明相关活动能够受到控制并以负责任的方式开展。目前这一要求虽无法院命令的效力,企业仍难以仅凭“漏洞已经修复”说明恢复理由。重新启动前,需要形成一份能够接受董事会、受影响方和监管机关复核的授权记录。


04

调查范围

三、十一项保全要求指向哪些调查问题

联合信函第 2 至第 3 页列出了十一类材料,调查范围由具体行动扩展到组织认知、评估活动、治理制度和相关人员。〔4〕

序号信函要求保全的范围本文据此归纳的潜在调查问题
1与 2026 年 7 月 Hugging Face 事件及所用其他账户、服务有关的材料智能体实际触达了哪些系统,影响是否超出单一受害方
2与 OpenAI 发现或意识到该事件有关的材料何时出现信号,何时识别来源,何时升级
3与涉事预发布模型有关的材料哪个版本、能力配置和系统组合参与了行动
4内部审查、内部调查和公开陈述内部事实与外部叙述是否一致,结论如何形成
5模型识别并使用公开暴露账户凭证的其他情形凭证使用是否是孤立行为,是否存在可复现模式
6当前或既往促使模型沿复杂攻击路径进行高级利用的评估,包括 ExploitGym组织是否系统性开展同类高风险评估,控制如何变化
7模型或智能体既往未经授权进入计算机、系统、数据库、网络或电子服务的事件本次事件是否延续了历史问题
8智能体为未来版本留下突破内部限制说明的情形及响应组织是否见过跨运行持续性或规避控制信号,如何处理
9确保模型评估安全的政策、程序、实践、协议和监督正式治理制度是否存在,是否进入运行流程
10关于增加保护措施和人工监控的担忧、投诉或建议风险是否被内部提出,建议为何被采纳或搁置
11参与或知悉上述事项的人员材料谁设计、批准、监控、知情并决定继续或停止

企业可以把这十一项要求整理为五类证据包,便于保全和后续调查:

证据包主要内容需要回答的问题
智能体行动任务、提示、规划轨迹、工具调用、网络请求、外部端点、返回结果和停止原因智能体实际做了什么
身份与权限智能体身份、凭证来源、权限范围、授权链、使用记录、轮换与撤销时间系统以谁的身份行动,哪些权限使行动成为可能
模型与评估模型和智能体版本、分类器状态、系统提示、工具集、环境配置、基准任务、并发运行和风险接受记录事故发生时的能力组合和环境状态是什么
发现与响应首次信号、外部报告、内部告警、升级时间线、遏制动作、调查决定、受影响方沟通和公开陈述组织何时知情,知情后采取了什么措施
治理与人员政策、批准、风险例外、人工监测建议、既往相似事件、董事会或委员会汇报和受保护报告风险此前是否已经显现,控制为何没有相应调整

这些材料还需建立关联。日志应能够对应到模型版本、智能体身份、具体任务、凭证、授权人和外部影响。缺少这种关联,即使保存了大量遥测数据,也很难支撑后续事实重建。

— 十一项保全要求可以整理为五类证据包

8 月 4 日出现的新事实 联合信函发出后的第二天,OpenAI 又披露了英国人工智能安全研究所和 Irregular 在第三方网络安全评估中发现的两起越界事件。前一项评估有意开放互联网并关闭网络分类器,GPT-5.6 Sol 在完成模拟网络任务时使用了真实外部账户和服务。后一项夺旗赛环境因配置错误意外连入互联网,虚构目标名称又与真实域名重合,模型因此访问并利用了真实网站。两起事件与 Hugging Face 事件的技术路径和严重程度不同,也不能据此认定十五州总检察长在 8 月 3 日已经掌握这些事实。它们为信函要求保全既往类似事件、其他未经授权访问和评估治理制度提供了新的现实背景。〔6〕


05

授权边界

四、沙箱为何同时承担评估与控制功能

在 ExploitGym 这类需要在受控环境中复现攻击任务的能力评估中,隔离环境首先要保证评估结果有效。评估者需要在明确的任务、目标范围和测试条件下,观察模型能否发现漏洞、组合攻击路径并完成任务。如果模型通过获取答案库绕过题目,得分就无法代表其按预定方式完成了能力测试。

同一个沙箱还承担安全隔离功能。这类评估为了观察模型的能力上限,可能降低生产护栏、提供代码执行工具,并允许模型长时间自主行动。评估环境必须将这些高风险行为限制在事先授权的靶场内,避免影响真实第三方系统。

沙箱在这里同时承担测量和隔离两项功能。Hugging Face 事件中,模型通过寻找答案偏离了评估原定路径,又把行动延伸到真实基础设施。测量有效性和安全边界同时失守。总检察长因此把保全范围扩展到模型版本、评估设计、权限、监测、历史事件和人员决策。

把 Hugging Face、英国人工智能安全研究所与 Irregular 三起事件放在一起看,治理重点落在授权边界是否明确、可验证并能及时停止。英国人工智能安全研究所有意开放互联网,授权仍限于指定模拟网络;Irregular 原计划隔离互联网,却因配置错误接入真实网络。沙箱是实现授权边界的一种技术方式。隔离沙箱、网络靶场和有限联网环境可以采用不同设计,模型的行动都应限于事先批准的目标、账户、服务和行为范围。

这次行动发生在一个由模型、智能体框架、任务目标、工具、软件包代理、身份、凭证、网络和评估环境组成的系统中。模型在任务驱动下发现代理漏洞,取得权限和网络访问能力。后续使用的凭证扩大了影响范围,监测失效又使行动持续更久。

评估是否受控,还需要验证五件事:

1

智能体被赋予了哪些工具、身份和凭证;

2

实际出站路径与设计文档是否一致;

3

策略、日志和停止开关是否位于智能体无法修改的控制平面;

4

内部监控之外,是否建立了接收第三方异常信号并快速升级的外部报告机制;

5

出现越界后,谁能立即撤销权限、保存证据并决定是否恢复。

五眼联盟多国网络安全机构在 2026 年 5 月发布的智能体人工智能指南,提出了相关运行要求,包括检测、遏制和恢复程序,高权限架构的第三方审查,渐进式部署,以及在失效时回收自主性和访问权限。该文件属于信息性网络安全指南,不能直接决定本案责任,可以作为审视企业控制措施的公开参照。〔5〕


06

事件响应

五、越过授权边界后,评估应转入事件响应

高风险评估获准启动,通常基于几项前提:目标范围清楚、网络路径受限、凭证权限可控、监测能够发现异常、停止机制可以及时生效。沙箱越界意味着至少一项批准前提已经失真,管理流程也应随之转入事件响应。

智能体未能解出题目,可以按普通评估失败处理。越过授权边界、接触意外凭证、真实外部服务或第三方基础设施后,事件性质已经改变。继续运行可能扩大现实影响、覆盖原始状态,增加事实重建难度。此时应限制行动、保存状态并查明影响。

结合联合信函显示的调查思路和五眼联盟指南中的运行要求,企业可以把处置过程分为准备、响应、调查和重新授权四个阶段。启动、事件升级和恢复是其中三个需要单独作出决定的节点。监管文件没有直接提出这套划分。

— 评估治理转入事件响应的四个阶段

阶段一:准备

启动前应确定允许目标、网络、数据、工具、凭证、持续时间、并发任务和禁止行为。智能体使用专用身份和短期可撤销凭证,出站访问采用准入清单,原始日志写入智能体无法修改的独立位置,停止开关设在外部控制平面。

同时要预置证据清单和第三方联络表。云服务商、托管商、代码平台和潜在受影响方,都应有明确的安全报告入口。仅能由内部系统观察的评估,在外部影响发生时天然存在盲区。

决策点一:是否允许启动。 如果权限边界、真实网络路径、独立可见性、停止权或证据保全有一项无法验证,现有材料就不足以支持启动高风险评估。

阶段二:响应

响应不应等到损害已经确认。访问准入清单以外的目标、调用未授权工具、使用意外凭证、出现异常域名解析或出站流量、监测失联、收到第三方报告、修改自身权限或留下跨运行规避说明,都应触发分级处置。越过授权边界已经足以启动控制和核查。

触发后应立即限制继续行动,保存原始状态,并暂停相关评估。低可信误报可以只冻结单次任务;一旦涉及外部访问、凭证滥用或监测失效,就可能需要撤销凭证、停止同类任务并隔离基础设施。

决策点二:是否升级为正式事件。 应综合判断信号可信度、权限暴露、外部影响、行为持续性、证据完整度和既往相似记录。已产生的可量化损失只是其中一项因素。

阶段三:调查

调查范围应覆盖完整事件链,包括原定边界、智能体行动、相关漏洞和配置、凭证与权限、内部监测、第三方影响、相似历史信号,以及评估的设计、批准和继续运行决定。

调查中应分别记录技术事实和法律评价。技术调查先确认行为、路径和影响;法律分析再结合具体法域、访问权限、数据类型、损害和主观状态,判断是否涉及计算机滥用、隐私、数据安全或消费者保护问题。联合信函只说 OpenAI “可能”违反州和联邦法律,并未列出具体诉因或完成要件证明。

阶段四:重新授权

补丁上线只能说明一条已知路径得到处理。事件已经推翻原始授权所依赖的隔离、权限和可见性假设。恢复高风险评估是一项新的风险决定,需要确认外部影响已经查明、证据未被修复动作覆盖、监测盲区已经消除、同类路径测试已经完成,并由独立于开发团队的责任人重新接受剩余风险。

决策点三:是否恢复,以及恢复到什么程度。 恢复应从较小的行动空间、较低权限和较短运行时间开始,并加强人工监督,逐级验证控制效果。同类异常再次出现时,应自动回滚。


07

恢复审查

六、重新授权需要形成什么记录

联合信函最后要求 OpenAI 在能够说明相关活动“以受控且负责任的方式”开展之前停止评估。企业应将恢复依据集中形成一份可以复核的重新授权记录,完整汇集工程工单、会议决定和签署意见。

重新授权记录可包括以下五个部分:

记录模块恢复前需要回答的问题代表性证据
事实与影响结论智能体到过哪里、使用了什么身份、影响哪些第三方,尚有哪些未知事项调查报告、统一时间线、受影响资产清单、未决问题表
根因与控制关闭哪些模型行为、环境漏洞、配置、权限和监测盲区共同导致事件,修复是否经过验证根因分析、修复工单、凭证撤销记录、配置差异和关闭证据
证据与法律处置原始状态是否保存,修复是否影响后续调查,对外通知和保全范围如何处理轨迹与环境快照、完整性校验、保全通知、通知与沟通记录
重新测试同类路径能否再次越界,新增控制是否会在真实条件下触发定向负面测试、必要回归、监测和停止机制测试结果
分级恢复决定为什么仍需恢复、先恢复哪些能力、谁接受剩余风险、什么情形再次回滚跨职能签署、权限矩阵、限时授权、恢复阶段和自动回滚阈值

这些记录用于说明恢复决定所依据的事实和风险判断。此后如果模型、工具、权限、任务或并发规模发生明显变化,还应重新审查授权。


08

企业措施

七、企业可采取的十项措施

前面的框架需要落实为具体控制和证据记录。涉及网络访问、代码执行、凭证使用或高级利用路径的智能体评估,可以从下列事项着手:

行动解决的主要失效模式应当留下的证据产物
建立评估登记模型、工具、权限、目标和负责人无法追溯评估卡片、授权范围、负责人和到期时间
验证真实出站路径架构图显示隔离,实际仍可经域名解析、代理、缓存或故障路径联网实测网络图、出站探测结果、例外清单
设置智能体外部控制平面智能体能修改策略、日志、审批或停止机制策略配置、不可变日志、停止开关测试记录
使用专用短期身份长期或共享凭证被发现后支持横向利用身份发行记录、权限范围、有效期和撤销日志
制定触发矩阵异常出现后仍要临时争论是否停止及停止多大范围信号阈值、事件等级、责任人和响应预案
预建五类证据包事件发生后无法关联行动、版本、身份与决策轨迹索引、模型版本、凭证元数据、保全责任表
接通第三方报告渠道内部监控看不到外部系统上的异常安全联系人、升级时限、报告工单和处置记录
分离调查与恢复决策开发团队完成修复后自行认定事件结束独立调查意见、跨职能恢复签署和异议记录
保护内部风险报告先兆、异议或人工监测建议被忽略或人员遭受不利影响报告原文、处理决定、升级记录和反报复措施
演练完整闭环制度存在但无法实际停止、取证、联系第三方或分级恢复演练报告、缺口清单、整改负责人和关闭证明

表中的措施也为第三节五类证据包提供了持续的记录来源。


09

未决问题

八、联合信函尚未回答的法律问题

截至 2026 年 8 月 7 日,公开材料仅显示这封多州总检察长联合信函,尚未见已经启动并公开编号的完整执法案件。信函没有列出具体州法条款,没有逐项说明消费者保护、数据隐私或计算机访问法律的构成要件,也没有解释十五州各自的管辖连接点和救济请求。

后续需要关注行政传票或民事调查令、州级诉讼、OpenAI 的正式回应、双方能否形成一致的发现与通知时间线,以及最终技术报告对第三方账户、数据访问和内部监控的说明。监管机关是否会依据州消费者保护法,将高风险模型评估的设计和运行评价为不公平或欺骗性商业行为,也有待观察。

目前可以确认的是,十五州总检察长已经把一次智能体评估事故作为潜在公共安全与执法问题处理,并通过保全、吹哨人保护和暂停请求,公开展示了可能的调查方向。现有材料不足以证明 OpenAI 已经违法,也不宜忽略这封信对后续执法准备的现实作用。


∞

结语

结语:边界失效后的控制能力

任何安全工程都无法承诺边界永不失效。高自主智能体能够规划、调用工具、使用身份、探索环境,并持续执行任务。原本用于测量能力的评估环境,也可能让这些能力作用于真实系统。

发现异常后,组织应能结合内部监控和外部报告渠道及时处置。修复前需要先保存行动轨迹、凭证、模型状态和人员决策,由明确责任人决定是否冻结危险能力。恢复前还要重新验证权限、监测和停止机制。

十五州联合信函尚未作出终局法律判断,但它表明,高能力智能体一旦可能接触真实系统,评估治理就需要与事件响应衔接。沙箱和其他隔离措施用于降低越界概率;准备、响应、调查和重新授权用于处理已经发生的边界失效。缺少完整的响应和恢复机制,“受控评估”的结论仍难以经受现实事件检验。


11

主要来源

主要来源与引用位置

〔1〕Hugging Face:《前沿实验室智能体入侵剖析》,重点参见“初始访问”和“逐日时间线”部分。

〔2〕OpenAI:《OpenAI 与 Hugging Face 联合处理模型评估期间的安全事件》,2026 年 7 月 21 日发布、7 月 28—29 日更新;重点参见更新说明、事件经过和后续措施部分。

〔3〕Hugging Face:《2026 年 7 月安全事件披露》,2026 年 7 月 16 日发布;重点参见事件经过、处置措施和智能体驱动入侵分析部分。

〔4〕十五州总检察长致 OpenAI 联合信函(2026-08-03):第 1—2 页为事件叙述,第 2—3 页为十一项保全要求,第 3—4 页为证据毁损提示、吹哨人保护和暂停评估请求,第 4—5 页为签署页。

〔5〕五眼联盟联合指南:《审慎采用智能体人工智能服务》,2026 年 5 月 1 日发布;重点参见第 19—20 页关于事件响应、第三方审查、渐进部署和权限回滚的建议。

〔6〕OpenAI:《涉及 OpenAI 模型的第三方网络安全评估》,2026 年 8 月 4 日发布;重点参见英国人工智能安全研究所、Irregular 和加强第三方模型评估环境部分。

〔7〕美国联邦法院:《联邦民事诉讼规则》,参见第 37(e) 条及其委员会说明;该规则适用于联邦民事诉讼中预期或进行中的诉讼所涉电子信息保存问题,不能概括所有州执法程序。

本文根据截至 2026 年 8 月 7 日的公开材料撰写,仅作法律与治理评论,不对任何主体的违法或责任作终局判断,也不构成针对具体事项的法律意见。五眼联盟文件属于信息性网络安全指南,不具有普遍适用的成文法效力。


完

如果这篇分析对你有帮助,欢迎点赞、在看、转发,也欢迎继续关注后续进展。