INTERVIEW

西蒙长期治理研究所于2026年10月26日发布了与克里斯托夫·温特(Christoph Winter)的访谈。他是剑桥大学法律与人工智能助理教授,曾为欧盟《通用目的人工智能行为准则》的起草担任法律顾问。本次对话围绕该法的出台背景、合规义务、准则地位及未来执法展开。本文经授权刊载中文译文。

本文看点

01

立法背景与监管路径

02

模型义务与行为准则

03

国际影响与实施能力

01

INTRODUCTION

引言

西蒙长期治理研究所(SI)定期发布与顶尖法律和政策专家的对话,探讨不同国家和地区如何推进人工智能治理,以及各国正在形成的国内实践如何为国际人工智能合作提供借鉴。我们的首场对话采访了张凌寒教授〔资料01〕,讨论中国的人工智能治理路径。

在本系列的第二场对话中,SI采访了克里斯托夫·温特(Christoph Winter)教授,探讨欧盟《人工智能法》和《通用目的人工智能行为准则》,以及二者对欧盟以外人工智能提供者的意义。温特是剑桥大学法律与人工智能助理教授,并在该校领导剑桥人工智能科学与政策项目(CASP)。他还是法律与人工智能研究所(LawAI)的联合创始人和主任。

在《通用目的人工智能行为准则》的起草过程中,他曾为准则各位主席及欧洲人工智能办公室担任法律顾问。该准则规定了最先进人工智能模型的提供者可以如何遵守《人工智能法》。


02

KEY TAKEAWAYS

要点摘要


要点

《人工智能法》的执法工作已经启动,预计未来将采取更强有力的干预措施。欧盟委员会已向30多家提供者发出信息索取函(Request for Information),并在近期发生多起人工智能模型据报逃离测试环境的事件后,收到了严重事件报告。温特认为,根据提供者的回应情况,欧盟委员会很可能会处以罚款,在某些情况下还可能要求相关模型退出欧盟市场。


要点

无论提供者位于何处,只要将通用目的人工智能模型投放欧盟市场,《人工智能法》就适用于该提供者。欧盟以外的提供者通常必须在欧盟境内指定一名授权代表。能力最强模型的提供者还承担额外义务,包括评估和缓解系统性风险,以及报告严重事件。这些义务是否涵盖内部部署的模型,在法律上尚无定论,但温特建议提供者假定其涵盖此类模型。


要点

《行为准则》从法律性质上看属于自愿性文件,但实际上是判断合规情况的关键基准。尽管提供者可以通过其他方式证明合规,但未签署准则的提供者仍可能被要求说明其措施与准则相比如何。由于协调标准还需数年才能出台,温特预计,未来几年《行为准则》仍将是主要合规路径;他还指出,准则可以随技术发展不断调整。


要点

监管能力有限和政治压力可能会对执法构成考验。温特认为,尽管近期开展了招聘工作,人工智能办公室仍需要大幅充实技术和法律专业人才。执法可能遭遇试图保护本国企业的外国政府的阻力;但温特指出,相关义务由企业承担,而其中许多企业有强烈动机继续在欧盟提供其模型。


要点

《人工智能法》只是欧洲人工智能主权的一个组成部分。温特认为,该法为应对前沿人工智能风险奠定了坚实基础,但欧洲还需要可靠地获取先进人工智能能力和防御工具,并建设更具韧性的基础设施。欧盟迟迟未能获得Anthropic的Mythos,其网络安全机构在模型发布数月后才获准使用一个较早版本,这凸显了依赖外国提供者评估和应对新出现的威胁所面临的挑战。

本访谈经过篇幅和清晰度方面的编辑。文中所表达的观点均为受访者本人观点,不代表SI的官方政策或立场。本出版物仅供一般参考,不构成法律意见。


03

CONTENTS

目录

欧盟《人工智能法》的起源

1.

欧盟数字监管的发展轨迹

2.

欧盟为何进行监管,以及该法如何演变

该法的设计

3.

通用目的人工智能提供者的义务

4.

优势与不足

5.

算力门槛

6.

《通用目的人工智能行为准则》

7.

执法

国际影响与背景

8.

该法在欧盟以外的适用范围

9.

先进的网络能力

10.

围绕前沿风险开展合作的空间

未来方向

11.

实施工作与人工智能办公室面临的限制


04

ORIGINS

欧盟《人工智能法》的起源

1.您如何描述欧盟数字监管路径的发展轨迹?《人工智能法》如何融入这一传统?

过去十年,欧盟的数字监管路径逐渐从分散执法转向欧盟层面的集中执法。

《通用数据保护条例》〔资料02〕(GDPR)等早期法律工具,主要将执法工作交由成员国主管部门负责。2022年《数字市场法》〔资料03〕(DMA)和《数字服务法》〔资料04〕(DSA)通过时,向集中执法转变的趋势已十分明确。《数字服务法》尤其值得注意,因为它区分了一般的在线中介服务提供者与超大型在线平台或搜索引擎提供者,并规定仅对后者在欧盟层面实行集中执法。《数字服务法》还采用了“系统性风险”这一概念;此前,该概念通常用于金融监管。因此,《数字服务法》明确承认:如果欧盟希望确保某些数字服务产生的系统性风险在欧盟层面得到有效控制,执法也必须在欧盟层面进行。

欧盟《人工智能法》〔资料05〕延续了这一路径:有关人工智能系统的规则主要由成员国国家主管部门执行,而有关通用目的人工智能(GPAI)模型的规定,包括涉及具有系统性风险的通用目的人工智能模型的规定,则由欧盟层面集中执行。简而言之,根据《人工智能法》,通用目的人工智能模型类似于基础模型:它们具备广泛能力,可用于多种多样的任务。具有系统性风险的通用目的人工智能模型可以理解为最先进模型,也就是前沿模型;换言之,它们是能力最强或最强大的模型,会带来大规模风险。

《人工智能法》通过在欧盟委员会内部设立欧洲人工智能办公室〔资料06〕(下称“人工智能办公室”),进一步落实了在欧盟层面监管最强大人工智能模型的路径。人工智能办公室的职责之一,是监测、监督、调查和执行有关通用目的人工智能模型的规定。

2.欧盟为何决定就人工智能立法?该法在起草过程中如何演变?

最初推动欧盟层面监管,似乎主要基于两方面考虑。第一,人工智能系统固有的不透明性、复杂性和自主性意味着,现有规则难以直接适用,尤其是在人工智能危及基本权利和公共安全的情况下。第二,一些成员国当时正在考虑制定本国人工智能监管规则。如果它们真的这样做,很可能导致欧盟内部监管路径碎片化,甚至彼此不兼容,因此在欧盟层面实现协调十分可取。

就这一框架的形成过程而言,《人工智能法》起草过程中最重要的进展之一,是在相对较晚的阶段才纳入通用目的人工智能模型和具有系统性风险的通用目的人工智能模型。

值得注意的是,欧盟委员会2021年提出的《人工智能法》初始提案只涉及“狭义”人工智能系统。然而,在立法过程中,共同立法机构——欧洲议会和欧盟理事会——认识到,在通用目的人工智能模型及其提供者层面对人工智能进行监管,已经或将会变得十分重要。2022年12月,也就是ChatGPT首次发布后不久,欧盟理事会率先提出“通用目的人工智能系统”的概念。随后,欧洲议会提出引入“基础模型”概念的提案,对上述提案作了补充。在2023年底三个机构之间的立法辩论中,这些概念逐渐演变为今天《人工智能法》中使用的“通用目的人工智能模型”术语。通用目的人工智能模型的纳入,直接促使该法成为西方世界第一部、而且截至目前可能仍然是最有能力应对前沿人工智能日益显现的各类风险和事件的监管工具。

在立法过程中,对人工智能风险的总体认识也发生了显著变化。ChatGPT发布后引发的公众讨论,使立法者更加关注通用目的人工智能,也让某些系统性风险在立法者眼中变得尤为突出。这一点在最终通过的《人工智能法》部分鉴于条款中清晰可见。〔原注1〕 例如,第110项鉴于条款明确提到化学、生物、放射性和核风险以及攻击性网络能力,而这些内容并未出现在欧盟委员会的原始提案中。

最终形成的《人工智能法》第五章,尤其是关于具有系统性风险的通用目的人工智能模型提供者义务的第55条,奠定了坚实的立法基础,要求提供者严肃对待系统性风险,并根据现有最佳技术水平建立适当的安全与保障框架(safety and security frameworks)。随后,依据第56条制定的行为准则提供了一种机制,用以具体说明企业如何遵守通用目的人工智能条款中往往较为宽泛的要求。重要的是,这一机制还确保欧盟不会被僵化的法律框架束缚,以致无法应对人工智能领域的快速变化。


05

DESIGN AND COMPLIANCE

该法的设计:通用目的人工智能与《行为准则》

3.对于希望进入欧盟市场的通用目的人工智能开发者来说,他们最需要了解哪些义务?

《人工智能法》规定的通用目的人工智能义务自2025年8月起适用,执法权力则自2026年8月2日起生效。至关重要的是,无论提供者位于何处、模型在何处开发,只要通用目的人工智能模型被投放欧盟市场,就会纳入《人工智能法》的适用范围。〔原注2〕对通用目的人工智能模型提供者而言,最重要的条款是《人工智能法》第53至55条。

第53条规定了适用于所有通用目的人工智能模型的义务,包括提供者为配合人工智能办公室监督而必须编制的技术文档,其中须详细说明模型的规模和能力,以及针对模型开展的评估。该条还涉及通用模型提供者必须向下游提供者提供的文档,后者会将其模型集成到自己的人工智能系统中;此外,还包括提供者必须遵守的版权义务。

除第53条外,第55条专门适用于被归类为具有系统性风险的通用目的人工智能模型的提供者。再次说明,这是欧盟对“前沿人工智能”和“前沿人工智能风险”的表述方式。该条规定,这些模型的提供者必须委托开展和/或自行开展评估,以适当评估并缓解系统性风险。第55条还要求提供者记录涉及其模型的严重事件,并向人工智能办公室报告。

近期发生了多起事件〔资料07〕,人工智能模型据报逃离测试环境,并未经授权访问外部系统。这些事件表明,此类信息披露对人工智能办公室履行监督职能至关重要。这不仅是因为披露的信息可能揭示违反《人工智能法》义务的情况,也是因为它们能够帮助人工智能办公室更好地理解这些模型在现实场景中带来的风险。

第54条也与在欧盟以外设立的通用目的人工智能模型提供者有关。这些提供者在将通用目的人工智能模型投放欧盟市场之前,必须通过“书面授权”指定一名在欧盟境内设立的授权代表〔资料08〕。该授权应使代表能够执行第54条第3款列举的某些合规相关任务。

LawAI的欧盟团队与剑桥人工智能科学与政策项目(CASP)共同为《剑桥欧盟通用目的人工智能法评注》的编写发挥了重要作用。该评注以严谨深入的法律分析,研究了上述条款以及《人工智能法》中其他与通用目的人工智能模型及其提供者相关的规则,并对该法规则可能存在的解释作出了平衡评估。《剑桥评注》可在https://cambridge-commentary.ai〔资料09〕 免费在线查阅,并会定期更新,以反映相关法律发展。新的章节也在持续发布。

开源模型适用《人工智能法》义务的方式有何不同?这种安排背后的理由是什么?

根据自由和开源许可证发布的通用目的人工智能模型,可免于履行第53条第1款(a)至(b)项规定的文档义务,这些义务涉及向人工智能办公室提供技术文档以及向下游提供者提供信息;同时,也可免于履行第54条规定的指定授权代表义务。但是,如果开源模型被归类为具有系统性风险的通用目的人工智能模型,这些豁免就不适用。

能否获得豁免,取决于许可证和实际公开的信息,而不是提供者是否简单地将其模型称为“开放”模型。要享受豁免,通用目的人工智能模型的许可证必须允许“访问、使用、修改和分发该模型”。此外,还必须公开其“参数,包括权重、模型架构信息以及模型使用信息”。

其背后的理由是,开放式发布本身已经提供了一定程度的透明度,因此降低了对上述特定文档要求的需求。不过,豁免并不延伸至版权政策和训练内容公开摘要,这两项要求适用于所有提供者。

对于具有系统性风险的模型,监管关注点并不止于信息获取。提供者必须评估模型,评估并缓解系统性风险,报告严重事件,并确保充分的网络安全。公开模型本身并不能证明这些义务已经得到履行。因此,该法在承认开放性益处的同时,并不将开放视为足以应对能力最强模型所带来风险的条件。

4.您认为《人工智能法》的主要优势和不足是什么?

无论您如何看待《人工智能法》的其他部分,其通用目的人工智能章节和《通用目的人工智能行为准则》〔资料10〕都是全球首批前沿人工智能规则。我认为这些部分做得很好,不过我需要说明,我也曾在《行为准则》起草过程中为准则各位主席和人工智能办公室担任法律顾问。

现行《人工智能法》的一项突出优势,特别是第55条为具有系统性风险的通用目的人工智能模型设定的义务框架,是其在系统性风险评估和缓解方面具有适应性(见问题6)。这使该法能够随着模型本身的演进,以及识别、评估和缓解系统性风险技术的进步而自然发展。

过去已经有人讨论过、近几个月又变得尤为突出的一项不足,是《人工智能法》如何监管内部部署模型的问题。《人工智能法》本来旨在以风险为基础,而可以说,一些最大的风险恰恰来自内部部署;但内部部署是否确实属于该法的适用范围,在法律上仍不确定。

随着欧盟委员会实践的发展,这个问题的答案可能会变得更加清晰。但与此同时,在我看来,鉴于《人工智能法》强调在通用目的人工智能模型的整个生命周期内开展风险评估和缓解,提供者假定内部部署属于该法的适用范围,符合其自身利益。这样也可以确保,如果这些模型日后被纳入《人工智能法》的适用范围,提供者不会因此违反相关义务。

5.算力门槛是《人工智能法》的核心。为什么选择这些具体门槛?它们在实践中如何运作?

算力门槛是衡量人工智能模型能力和风险的有用替代指标。这是因为训练算力相对容易测量,而且迄今为止,它往往与新兴能力具有相关性。

最重要的门槛是10²⁵次浮点运算(FLOP)。根据《人工智能法》第51条第2款,训练所使用的累计算力超过10²⁵ FLOP的模型,被推定为具有高影响能力。这意味着,这些模型会根据第51条第1款被归类为具有系统性风险的通用目的人工智能模型。之所以选定这一数值,是因为人们认为它大致标志着模型开始形成可能引发系统性风险的能力。欧盟委员会《通用目的人工智能指南》〔资料11〕的附件更详细地说明了委员会将哪些算力计入累计算力,以及应如何计算。

需要强调的是,这一门槛产生的是一种推定,而且这种推定是双向的。模型算力超过10²⁵ FLOP的提供者,可以主张该模型实际上并不具备高影响能力。同样,根据第51条第1款,即使模型训练所使用的算力低于这一门槛,只要它确实具备此类能力,仍可能被归类为具有系统性风险的通用目的人工智能模型。随着技术发展,欧盟委员会可以更新这一门槛。

另外还有两个值得讨论的算力门槛。欧盟委员会在《通用目的人工智能指南》中将其用作所谓的“指示性标准”。

第一个门槛是10²³ FLOP,用于帮助判断一个模型是否属于通用目的人工智能模型。超过这一水平的模型很可能符合条件,但委员会也会考虑其他因素,例如模型处理的输入和输出类型(文本、图像、音频),以及它能够执行的任务范围。

第二个算力门槛涉及一个在实践中非常重要的问题:修改现有模型的人,例如对模型进行微调的人,何时会成为新模型的提供者,并承担随之而来的全部义务?对此,欧盟委员会设立了相对门槛,依据是修改模型所使用的算力与最初训练模型所使用算力之间的比例。作为一般经验法则,如果修改所使用的算力超过最初训练模型所使用算力的三分之一,修改后的结果就会被视为新模型。其思路是,这种规模的修改很可能使模型获得新能力,并可能带来新的系统性风险。

同样,这只是指示性标准,而非严格要求。如果有人使用极少量算力微调现有模型,但却使模型能力或系统性风险发生非常显著的变化,欧盟委员会仍可能将修改后的结果视为新模型。

6.非欧盟提供者应如何理解《通用目的人工智能行为准则》(下称“《准则》”)的法律地位?它如何与《人工智能法》共同发挥作用?签署《准则》在实践中意味着什么?

正如我前面提到的,《人工智能法》有意借助共同监管工具,更具体地规定在实践中应如何履行该法规定的义务。〔原注3〕

《准则》的法律地位相当复杂。从法律性质上看,它是一份自愿性文件,但其实际效力异常强,原因有以下几点。

首先,协调标准能使提供者获得律师所称的“推定符合”效力,而遵守《准则》本身并不能保证提供者符合《人工智能法》。不过,欧盟委员会和由成员国代表组成的人工智能委员会已经表示,它们认为《准则》足以涵盖第53条和第55条规定的义务。因此,提供者可以有较强把握认为,人工智能办公室会把遵守《准则》视为证明遵守《人工智能法》相关规定的一种方式。

提供者并非必须签署《准则》。它们可以通过该法所称的“适当的替代合规方式”证明合规。但是,《准则》内容十分全面,而且是在产业界、其他利益相关方和专家共同参与下起草的,旨在确定落实《人工智能法》义务的最佳方式。因此,许多领先的前沿人工智能公司都签署了《准则》,并不令人意外。

其次,欧盟委员会表示,未签署者可能需要解释其自身措施如何确保合规,例如通过差距分析,将这些措施与《准则》中的措施进行比较。这意味着,即使通用目的人工智能模型提供者没有签署《准则》,《准则》仍会被用作基准。签署《准则》还有一项实际好处:人工智能办公室提出,在《准则》实施的第一年,将与遵守《准则》的提供者开展更密切的合作,帮助它们实现全面合规,同时避免其模型投放欧盟市场的时间受到延误。

如果协调标准出台,《准则》的作用将如何演变?

《人工智能法》第53条第4款和第55条第2款规定,提供者可以依靠行为准则证明合规,“直至协调标准公布”。相比之下,遵守协调标准可使提供者被推定符合相关义务,至少在这些标准涵盖相关义务的范围内是如此。因此,此类标准公布后,很可能取代行为准则,成为证明合规的主要路径。不过,即使协调标准已经存在,适当的替代合规方式仍然可用。

但就目前而言,这在一定程度上还是一个理论问题。通用目的人工智能模型的协调标准似乎仍需很长时间才能出台。在可预见的未来,我认为《准则》仍将是提供者用来指导和组织合规工作的主要工具。

如果需要,有哪些机制可以推动《准则》演变?

《准则》主要通过两种机制演变。第一种是正式审查,人工智能办公室在其中发挥核心作用。根据第56条第8款,人工智能办公室负责鼓励和促进行为准则的审查和调整,“特别是根据新出现的标准”进行审查和调整。如果人们认为现行《准则》已不能准确反映应如何具体落实第53条和第55条,特别是考虑到技术发展,那么修订《准则》就完全有可能。

为此,《准则》安全与保障(Safety and Security)章节的各位主席和副主席建议,欧盟委员会应建立《准则》更新机制,按照固定周期开展审查,例如每两年一次,以增强提供者的可预期性。他们还建议,应当允许进行立即生效的紧急更新,但仅限于极为罕见和特殊的情况。这些都是很好的建议。

第二种机制内置于《准则》本身。《准则》的起草方式保留了相当大的灵活性,使其无需修订即可涵盖新的发展,例如通过纳入动态援引。各项要求中对“现有最佳技术水平”的援引,就是这种动态援引的典型例子。随着技术和风险缓解机制的发展,人工智能办公室还可以就如何解释这些援引发布指南。

7.我们已经看到了哪些执法行动?您认为未来6至12个月可能出现哪些情形?

自2026年8月2日《人工智能法》的执法权力生效以来,欧盟委员会已经开始行使这些权力。委员会最近确认〔资料12〕,已向30多家提供者发出信息索取函。在近期事件发生后,人工智能办公室也要求相关方提交严重事件报告,并已收到这些报告。目前,办公室正在准备进一步的信息索取函,以调查这些事件,《人工智能法》科学小组〔资料13〕也将为调查提供支持。

未来六至十二个月很难预测,部分原因在于,我们不知道会发生多少事件、事件会有多严重,也不知道各方会作出何种政治反应。默认情形是,欧盟委员会将升级执法行动。

根据相关提供者的反应,委员会可能要求其将模型撤出市场,和/或处以罚款。考虑到当前的发展速度,以及许多地方缺乏安全机制,我认为至少在某些情况下,这很可能会发生。尽管一些政治因素会使采取其中部分措施变得更加复杂,但如果模型对欧洲民众构成严重风险,而委员会不采取适当执法行动,就会失去公信力。


06

INTERNATIONAL CONTEXT

国际影响与背景

8.《人工智能法》适用于欧盟以外提供者的法律依据是什么?

根据第2条第1款(a)项,该法适用于投放欧盟市场的通用目的人工智能模型,无论提供者设立在欧盟境内还是其他地区。一家公司不必是欧洲公司,欧盟也可以对其向欧洲民众提供的产品设定条件。这是欧盟和其他法域在产品监管中常见的做法。

我认为,区分“将规则适用于外国提供者”和“监管欧盟境外的行为”十分重要。前者并不罕见。当然,遵守这些规则可能会影响后者。一家在加利福尼亚开发模型的公司,如果希望在欧洲提供该模型,可能就需要调整其开发过程中的某些环节。

您认为欧盟以外的政府会抵制人工智能办公室采取的执法行动吗?

有这种可能,尤其是在执法行动要求一家领先提供者将模型撤出欧盟市场的情况下。该提供者所在国政府可能将此视为针对本国具有战略重要性的企业所采取的措施,并向欧盟委员会施压,要求其重新考虑。

但政府抵制并不一定能阻止执法。《人工智能法》的义务由企业承担,而许多企业有强烈动机继续在欧洲提供其模型,并遵守相应的准入条件。因此,即使本国政府表示反对,提供者仍可能设法解决欧盟委员会关注的问题。

政治压力会在多大程度上制约委员会,很难预测,这将很大程度上取决于委员会是否认为相关模型构成严重风险。如果委员会确实严肃对待失控风险或化学、生物、放射性和核(CBRN)风险,那么它迫于压力而搁置有助于保护欧洲民众的实质性执法行动的可能性就会小得多。

9.Anthropic的Mythos等前沿模型已经展现出先进的网络能力。欧盟对此作出了何种回应?现行监管制度对具备此类能力的模型准备得如何?

欧盟已经采取了有意义的措施来获取访问权限和信息,但我会谨慎对待将这些措施视为欧盟已做好充分准备的证据。9月,欧盟委员会确认,欧盟网络安全局(ENISA)已获得Mythos 5的访问权限,并正在对其进行测试。委员会还表示,已经开始通过信息索取函核查提供者的合规情况。这些都是有益且重要的措施,但关键问题在于,相关机构能够利用这些访问权限和信息做什么。

《人工智能法》和《准则》已经为合理应对先进网络能力引发的系统性风险提供了基础。不过,更大的挑战是如何有效实施这些制度,尤其是在能力加速提升的情况下。

在先进网络能力方面,欧盟确实面临许多挑战。许多相关公共机构和企业最初并未被纳入“玻璃翼项目”(Project Glasswing)〔资料14〕。这是Anthropic开展的一项计划,让部分行为体提前获得Mythos,以修复其网络漏洞。ENISA在模型发布数月后才获得访问权限,而且获得的并非最新版本。如果无法参与此类计划,随着网络能力扩散,欧盟机构可能会处于脆弱状态。

这引发了有关欧洲主权和对外国技术依赖的更广泛问题。《人工智能法》是应对措施的重要组成部分,但还需要以可靠获取防御工具、专业技术知识和更具韧性的基础设施作为补充。近期发布的《欧洲变革性人工智能战略》〔资料15〕报告所讨论的正是这些需求,我和LawAI的其他同事也参与了该报告的工作。报告建议,利用欧洲在人工智能供应链中的地位,确保获得前沿能力;将人工智能专业知识引入公共机构;并推动关键基础设施为人工智能赋能的攻击做好准备。这些措施将同时增强欧洲评估新出现威胁和应对这些威胁的能力。

10.国际社会日益关注非国家行为体的CBRN滥用等前沿风险。这是否有助于推动监测或事件报告方面的合作?

世界各地对应对前沿风险或系统性风险的兴趣无疑正在增长,这为合作创造了良好机会。例如,人工智能办公室已经利用英国人工智能安全研究所等机构提供的独立第三方评估,为自身监测活动提供参考。《准则》也要求签署方在向人工智能办公室提交的《模型报告》中,纳入独立外部评估机构提供的所有可用报告。

有趣的是,该法确实为与欧盟以外的监管机构交换某些机密信息提供了明确路径。第78条第5款允许欧盟委员会和成员国在符合特定条件且确有必要的情况下交换此类信息。因此,探索务实合作具有法律基础。尽管如此,对于共同关切是否一定会转化为广泛的信息共享,我会保持谨慎,尤其是在涉及商业利益或国家安全利益的情况下。


07

FUTURE DIRECTIONS

未来方向

11.展望未来,未来两年《人工智能法》和《行为准则》会如何发展?成功的实施应当是什么样子?

我预计,随着人工智能办公室评估提供者的合规情况,并在特定风险出现时作出回应,《人工智能法》和《准则》的实际含义将变得更加清晰。很难预测哪些模型或事件会推动这一进程。该法的灵活性是一项优势,但只有提供者和监管机构能够认识到自身路径何时需要调整,并根据这种认识采取行动,这种灵活性才能发挥作用。

我认为,如果出现以下情况,就说明实施工作进展顺利:

•

风险得到适当识别,并足够早地得到缓解,从而防止严重损害。这可能发生在模型广泛提供之前;其中一部分可能取决于欧盟委员会是否将通用目的人工智能系统性风险条款解释为涵盖内部部署;

•

提供者以负责任、主动和透明的方式,就风险与人工智能办公室沟通;

•

事件发生时,能够迅速得到识别和报告,并被纳入提供者的安全与保障框架;

•

人工智能办公室具备足够能力评估这些信息,并在必要时促使提供者改变其行为。

人工智能办公室面临的实际限制将发挥什么作用?它是否拥有开展有意义评估所需的技术人员、预算和模型访问安排?

人工智能办公室目前面临的限制,可能会对《人工智能法》的执法成效产生重大影响。人工智能办公室需要评估提供者开展的评估是否充分,识别这些评估可能遗漏的风险,并判断拟议的缓解措施是否足够。要完成这些工作并确保质量,人工智能办公室必须具备相当深厚的技术和法律专业知识。

人工智能办公室拥有一支优秀的团队,并仍在继续招聘,尤其是招聘愿意放弃私营部门职业机会、转而在欧盟委员会研究这些至关重要问题的技术和法律人才。该办公室最近宣布将再招聘40名员工,这是朝着正确方向迈出的一步。但考虑到当前任务的规模和重要性,我认为这仍然不够,还需要大幅增加投入。

人才非常重要,而各国政府目前需要与能够提供更高薪酬、通常也更具吸引力工作条件的企业竞争。在投入资源提高薪酬竞争力的同时,还需加快招聘程序,并更好地借助外部专业知识。

这也是我与查理·布洛克(Charlie Bullock)合著的《激进可选性》(Radical Optionality)〔资料16〕的核心论点。我们无法确切知道各国政府随着时间推移需要采取哪些行动,但我们知道,培养在各种情形下胜任行动所需的专业能力需要时间,而且这项工作十分紧迫。

「更广泛地说,我认为世界各国政府都应大幅加大投入,提升自身妥善理解和监管前沿人工智能的能力。考虑到潜在收益和风险的规模,即使最具重大影响的能力出现所需时间,比人们根据过去几个月的情况所预期的更长,这项投资也依然具有合理性。各国政府本应早就开始建设这种能力,但今天行动仍好过明天。」


08

ORIGINAL EDITORIAL NOTES

原文编者注

〔原注1〕编者按:在欧盟法律中,“鉴于条款”(recitals)构成了法律文件的非约束性序言部分;它们阐明了法律正文各条款出台的背景、立法意图与目标。

〔原注2〕编者按:根据《人工智能法》第3条第9项,“投放市场”(“placing on the market”)是指人工智能系统或通用目的人工智能模型在欧盟市场上的首次提供。“提供”(“making available”,第3条第10项)则涵盖在商业活动过程中为分销或使用而供应,无论有偿还是免费。

〔原注3〕编者按:共同监管工具,如《通用目的人工智能行为准则》,是指吸纳了行业及其他利益相关方意见制定、并获得公共机构认可的治理机制。


09

SOURCES

原文与参考链接

原文发布机构:西蒙长期治理研究所。英文原文发布日期:2026年10月26日。

英文访谈网页 https://simoninstitute.ch/blog/post/the-eu-ai-act-explained-a-conversation-with-professor-christoph-winter

英文完整访谈PDF https://simoninstitute.ch/wp-content/uploads/2026/10/EU-AI-Act-Explained_Interview_Winter.pdf

〔资料01〕 https://simoninstitute.ch/blog/post/chinas-ai-governance-professor-zhang-linghan

〔资料02〕 https://commission.europa.eu/law/law-topic/data-protection/legal-framework-eu-data-protection_en

〔资料03〕 https://digital-markets-act.ec.europa.eu/index_en

〔资料04〕 https://digital-strategy.ec.europa.eu/en/policies/digital-services-act

〔资料05〕 https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

〔资料06〕 https://digital-strategy.ec.europa.eu/en/policies/ai-office

〔资料07〕 https://metr.org/hugging-face-incident-report-aug-2026.pdf

〔资料08〕 https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-54

〔资料09〕 https://cambridge-commentary.ai/

〔资料10〕 https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

〔资料11〕 https://digital-strategy.ec.europa.eu/en/library/guidelines-scope-obligations-providers-general-purpose-ai-models-under-ai-act

〔资料12〕 https://www.euronews.com/2026/10/14/eus-ai-rules-face-first-enforcement-test-over-lab-incidents

〔资料13〕 https://digital-strategy.ec.europa.eu/en/policies/ai-scientific-panel

〔资料14〕 https://www.anthropic.com/project/glasswing

〔资料15〕 https://transformative-ai.eu/part-a

〔资料16〕 https://radical-optionality.ai/


END

原文:西蒙长期治理研究所|受访者:Christoph Winter