专业导读与译者评论

一、这份指南真正解决的，不只是“要不要标AI”

《人工智能法》第50条经常被概括为“人工智能内容标注条款”，但这种概括过于狭窄。第50条实际上建立了一套横跨产品设计、模型输出、内容发布和特定识别系统使用的透明度制度。它要处理的核心风险是：自然人无法判断自己是否正在与人工智能系统互动，无法识别内容是否由人工智能生成或操纵，或者不知道自己正受到情绪识别、生物特征分类等系统的分析。

本指南的主要价值，在于把第50条拆解为一套可以实际执行的判断方法：先识别责任主体是提供者还是部署者，再判断系统或输出是否属于相应条款范围，继而审查例外是否成立，最后确定应采取机器可读标记、检测手段、可见或可听披露、系统运行告知等何种措施。第50条第5款则为上述义务提供共同的呈现标准和时间要求。

因此，企业不能仅通过在隐私政策、用户协议或网站页脚加入一句“本服务可能使用人工智能”来解决第50条问题。指南多次强调，披露必须与具体互动或内容相联系，并最迟在首次互动或接触时以清晰、可辨识且符合无障碍要求的方式提供。隐藏在多层菜单、说明手册或通常无人阅读的条款中的信息，原则上不足以满足要求。

还应注意本指南的规范地位。指南本身不具有法律约束力，对《人工智能法》的权威解释最终属于欧盟法院。但是，指南代表委员会现阶段对第50条的系统性解释，并明确说明市场监督机构如何看待实践守则、替代合规措施、技术方案和执法证据。对即将受到监督的企业而言，它虽然不是法律条文本身，却很可能成为设计合规方案、解释监管期待和准备执法沟通的重要参照。

二、四类义务不是并列标签，而是一张“主体—对象—措施”矩阵

这张矩阵至少揭示三点。

第一，同一系统可能同时触发多项义务。例如，直接与自然人互动并在互动中生成图像的系统，提供者可能同时受到第50条第1款和第2款约束；如果部署者又使用该系统生成深度伪造内容，第50条第4款还会叠加适用。

第二，同一企业可能同时是提供者和部署者。企业内部开发生成式系统并将其投入自身使用，同时又利用该系统发布内容时，不能只选择其中一个身份进行合规。员工在法人指示和控制下使用系统，通常不会因此成为独立部署者；但法人可能因决定系统的用途和使用方式而承担部署者责任。

第三，内容传播平台、广播机构或其他中间主体并不当然是部署者。如果其仅传播第三方制作的人工智能内容，且不能决定是否以及如何使用生成或操纵该内容的人工智能系统，通常不因此承担第50条的部署者义务。但是，《数字服务法》或其他法律可能另行规定标识、风险评估或内容治理义务；指南也鼓励价值链上的传播主体保留上游标记和标注。

三、适用范围判断应先于披露设计

1. 域外适用不能只看企业注册地

第50条的适用可能延伸至欧盟以外的提供者和部署者。对提供者而言，如果人工智能系统在欧盟投放市场、投入使用，或者系统输出在欧盟使用，可能受到《人工智能法》约束。对第三国部署者而言，如果其预见并指示或授权内容在欧盟传播，包括将内容发布到全球可访问的互联网，相关义务也可能适用。相反，偶然、不可预见或未经授权的下游使用，不应当然使第三国主体承担第50条责任。

企业据此不应以“我们在欧盟没有法人”为由直接排除适用，而应审查产品提供地域、合同地域、语言、目标受众、分发渠道、广告投放和对欧盟传播的可预见性。

2. “个人非职业使用”只排除部署者义务，不排除产品本身

自然人在纯粹个人、非职业活动中使用人工智能系统，可以不承担部署者义务。但提供该系统的企业仍可能承担第50条第1款或第2款义务。例如，个人使用图像生成系统制作家庭贺卡，不意味着系统提供者可以不对输出实施机器可读标记。

3. 两类研究开发排除必须分别判断，开源也不是一般性豁免

指南沿用《人工智能法》的一般适用范围规则，但这里需要区分两项不同的排除。第一，第2条第6款针对专门为科学研究与开发而开发并投入使用的人工智能系统或模型及其输出；仅仅因为系统已经投入使用，并不会自动使该排除失效，但系统必须始终专门用于科学研究与开发，一旦还用于其他目的，就应就相应用途重新判断义务。第二，第2条第8款针对系统投放市场或投入使用之前开展的研究、测试和开发活动；真实条件下测试不属于该排除，而系统一旦投放市场或投入使用，该阶段性排除即不再适用。

因此，“处于研发阶段”不能作为笼统标签使用，企业应先说明援引的是哪一款排除、系统是否已经投放市场或投入使用、是否专门用于科学研究与开发，以及是否涉及真实条件下测试。自由开源许可证也不是对第50条义务的一般豁免；仍须结合系统是否投放市场、投入使用以及相关主体在价值链中的角色进行判断。

四、第50条第1款：交互告知的难点在于“显而易见”不是主观判断

指南对“交互的人工智能性质显而易见”例外采取限制性解释。提供者不能仅凭“大家都知道聊天机器人存在”而假设用户已经知情。判断至少包括两个层次：先确定目标受众和可合理预见的更广泛受众，再判断其中合理知情、注意且审慎的自然人在具体场景中是否几乎不可能误认为自己正在与人类互动。

受众构成会显著改变结论。面向经过培训的专业人员、且使用语境明确的内部代码助手，可能更容易适用显而易见例外；面向公众、儿童、老年人、残障人士或人工智能素养较低群体的系统，则更难援引。拟人化头像、逼真人声、情感陪伴、沉浸式环境和高度个性化回应，也会降低交互的人工智能性质的显而易见程度。

从产品设计角度看，第50条第1款要求的是“情境内披露”，而不是把信息埋在隐私政策或服务条款中。对普通、风险较低的交互，在首次互动前或最迟首次互动时提供一次清晰、醒目的通知，通常即可满足时间要求；指南并不要求所有系统持续、反复弹出相同提示。持续可见标识或适度重复提示更适合长时间、高风险、沉浸式或容易发生身份误解的场景。如果用户询问系统身份，或者从对话可以合理推断用户已经误解互动对象，系统还应能够再次明确披露其人工智能性质。

企业若要援引显而易见例外，建议形成书面评估，而不是把结论埋在产品需求文档的一句判断中。评估至少应记录受众、交互界面、声音和形象设计、拟人化程度、使用环境、弱势人群可接触性、用户研究结果及重新评估条件。

五、第50条第2款：合规对象是“标记＋检测”的完整技术链

1. 机器可读标记和检测手段缺一不可

第50条第2款规定的是两项内在关联但彼此独立的要求：输出须以机器可读格式标记，并且须能够被检测为人工智能生成或操纵的内容。只有水印或元数据，却没有可供相关人员使用的检测手段，不足以符合指南对该条的解释；仅提供一个声称能够识别人工智能内容的检测器，但输出本身没有相应标记，也同样不完整。

指南并未指定唯一技术。水印、元数据标识、加密来源证明、日志、指纹或多种技术组合均可能使用。提供者可以依赖底层模型提供者、开放标准或第三方专业服务，但这不会转移其自身证明合规的责任。也就是说，采购合同中写明“由模型厂商负责水印”并不能替代系统提供者对实际输出、检测可用性和技术性能的验证。

第50条第5款所称“首次接触”在第2款场景下还有一层特殊含义：自然人希望核验某项特定内容的来源时，应当能够访问相应检测方案并取得检测结果。它并不意味着所有受第2款约束的内容在首次呈现时都必须自动显示一个肉眼可见的标签；面向机器的标记与检测机制，不能与第4款面向自然人的可见或可听披露混为一谈。

2. 四项技术质量要求可以进一步转化为测试方案

指南提出技术方案应具备以下四项质量：

• 有效性：能否检测提供者实施的标记，并帮助自然人区分人工智能生成或操纵内容；
• 可靠性：在正常条件和系统各种输出中，能否准确识别并区分相关内容；
• 稳健性：在压缩、裁剪、转码等常见改动以及对抗性攻击下，能否继续准确工作；
• 可互操作性：不同提供者、系统、场景和技术实现之间，能否无缝检测，而不取决于某一种专有标记技术。

指南并未规定统一的测试指标。本文认为，为证明上述四项质量要求，企业可将其进一步转化为可测量、可复核的测试方案。合规证据不宜止于架构图或供应商白皮书，而可包括模态覆盖、真阳性和误报表现、内容变换测试、对抗测试、跨平台保留情况、第三方检测结果、本地检测可执行性、隐私和安全评估，以及版本更新后的回归测试。

3. “技术上可行”和“现有技术水平”不是预算抗辩

指南明确把技术可行性界定为客观概念，不取决于个别提供者的资源和能力。提供者无须采用尚未开发、尚未上市或技术上无法实施的方案，但必须实施当前可用、符合普遍公认的现有技术水平的方案，并随着技术发展及时、适度更新。

成本可以纳入比例评估，但不能被简单理解为“成本高即可不做”。除条文明示的例外外，指南还基于比例原则、透明度目标和技术可行性，为严格限定的封闭工业或企业对企业应用以及实时、短暂内容提出解释性豁免或特殊处理，并设置技术性、专业受众、封闭传播和防止外部使用等条件。这类处理并非法条中概括规定的独立安全港，其适用边界仍取决于指南所列条件，并可能有待主管机关或法院进一步确认。企业如拟依赖这些条件，宜形成逐项论证和防外泄控制证据。

4. 并非所有机器输出都在范围内

指南排除了若干与欺骗和信息生态风险关联较弱的输出，例如单纯复制或排序既有内容、简单数据处理、机器之间专用通信、自然人不可感知或并非意在由自然人解释的输出，以及源代码、API、JSON、YAML等特定机器可读内容。工业或制作闭环中的中间输出通常只需在最终输出阶段考虑标记。

但这些不是基于文件后缀自动适用的安全港。判断重点仍是输出是否属于音频、图像、视频或文本，是否由人工智能生成或操纵，是否可能被自然人感知、解释或据以行动，以及是否落入指南明确的排除或例外。

六、第50条第3款：告知并不会使情绪识别或生物特征分类合法化

第50条第3款要求部署者告知自然人，相关情绪识别或生物特征分类系统正在运行。告知方式可根据实体场所、虚拟平台、受众、接触时长和既有沟通渠道调整，例如入口通知、弹窗、图标或语音提示，但仍须满足清晰、可辨识和无障碍要求。

除在工作场所和教育领域根据《人工智能法》第5条第1款(f)项受到禁止的情形外，情绪识别系统还会被归类为高风险人工智能系统。因此，第50条第3款告知义务通常只是高风险系统合规的一部分，不能替代风险管理、数据治理、技术文档、记录保存、透明度、人类监督等其他适用要求。生物特征分类系统的范围则更广：除第5条第1款(g)项禁止的情形外，第50条第3款可以适用于任何此类系统，包括基于生物特征数据进行年龄或性别分类的系统，而不取决于其是否另行构成高风险系统。

更重要的是，履行告知义务本身并不能使系统的使用合法。企业还须分别审查《人工智能法》第5条的禁止性实践、高风险系统要求，以及欧盟数据保护法下的处理依据、透明度、目的限制、数据最小化、数据主体权利和数据保护影响评估等问题。第50条第3款回答的是“是否已经告知有关人员相关系统正在运行”，而不是“是否已经完成全部数据处理告知”，更不是“是否可以合法使用”。

七、第50条第4款：深度伪造内容与公共利益文本是两套不同判断

1. 深度伪造内容需要满足四项累积标准

指南不是以“是否使用生成式人工智能”或“是否照片写实”单独判断深度伪造内容，而是要求审查：内容是否与现实存在的对象相似；对象是否存在、可能合理存在或原本可能合理存在；对象是否属于人员、物体、地点、实体或事件；内容是否会使人误以为真实或属实。

这里值得特别注意的是，委员会采用了较宽的解释：深度伪造内容并不以存在一个可指认的现实原型为必要条件。即使人物、商品、场景或事件完全虚构，只要其本来可能合理存在或发生，并以高度现实的方式呈现，也可能进入该定义。由于指南本身不具法律约束力，这一边界仍可能有待法院确认；但企业不宜仅以“没有现实原型”为由排除深度伪造内容风险。

最后一项是客观评估，不要求部署者具有欺骗故意。评估还须结合内容传递的实质信息、部署情境、呈现环境、传播渠道以及可合理预见的受众。儿童、老年人或人工智能素养较低群体可能接触内容时，只要内容足以误导该部分可预见受众，就可能满足标准。

艺术性、创作性、讽刺性、虚构性或类似作品并非完全豁免。只有当作品性质对受众而言明显时，才适用较轻的披露制度；部署者仍须以不妨碍作品正常展示或欣赏的适当方式披露人工智能来源。广告、纪录片或兼具信息性与创作性的内容需要逐案判断；当内容兼具信息性和创作性时，指南要求信息性优先，适用标准标注要求。

2. 公共利益文本须依次审查“发布—告知公众—公共利益”

人工智能生成或操纵的文本只有在同时满足三个条件时，才进入第50条第4款第二分段的核心范围：文本已经向数量不确定且相当多的潜在读者发布；目的在于向公众传达知识、意见或事实；内容涉及值得公共讨论或监督的公共利益事项。政治、公共行政、司法执法、基本权利、公共安全、公共卫生、环境、消费者安全以及重要经济、金融、科学或文化发展均可能属于公共利益事项。

私人往来、封闭小群组、企业内部通信或只向单一聊天机器人用户提供的回答，通常不构成这里所称发布。纯粹广告和产品说明可能不在范围内，但其中涉及健康、消费者安全或可持续性等公共利益主张时，不能仅凭“广告”形式直接排除。

3. 人工审查例外的门槛高于一般“human-in-the-loop”

公共利益文本可以在同时满足两项条件时适用例外：文本经过实质性人工审查或编辑控制，并且有自然人或法人对发布承担编辑责任。指南把事实核查视为人工审查应包含的最低要求。仅进行拼写、语法或格式检查，只有编辑政策而无实际介入，使用另一人工智能系统审稿，或者人工编辑草率批准，均不够。

时间顺序同样关键。如果人工审查或编辑审核确认完成后，又使用人工智能对文本作出实质性修改，例外即告失效。因此，企业必须控制“审查后的人工智能再加工”，并通过版本管理证明最终发布版本与人工批准版本一致。

编辑责任也不只是内部岗位名称。指南要求相应自然人、法人或职能对发布承担最终法律责任，并建议在易于找到的位置公开其身份和联系方式。媒体机构可以依赖既有编辑流程和专业标准，但非媒体企业发布投资者报告、可持续性报告、公共安全信息或健康内容时，也需要建立功能上等效的责任机制。

八、跨法衔接：透明度合规不等于内容和处理活动合法

第50条与多套欧盟法律累积适用，不能相互替代。

• 数据保护法：标记和检测关注内容的人工来源，不应不必要地处理创作者身份。任何个人数据处理仍须符合数据最小化、通过设计和默认设置实现数据保护、安全和保密等要求；检测目的实现后，无继续保存必要的个人数据应及时删除。
• 《数字服务法》：机器可读标记可能帮助超大型在线平台和超大型在线搜索引擎识别、评估和缓解人工内容传播产生的系统性风险，但标记本身不会决定内容是否违法，也不会替代托管服务提供者处理违法内容通知的义务。
• 消费者保护法：即使交互的人工智能性质在第50条第1款意义上显而易见，人工智能功能仍可能构成消费者合同前必须披露的服务主要特征。消费者法的告知义务与第50条义务具有不同目的。
• 知识产权和人格权：给深度伪造内容加标签，不会使未经授权使用受保护作品、商标、个人形象或声音变得合法，也不决定相关内容能否获得著作权保护。
• 媒体法：公共利益文本例外中的编辑责任应结合《欧洲媒体自由法》和现有媒体专业标准理解，但也可能扩展至承担文本发布责任的非媒体部署者。
• 刑法和其他内容规则：标注不能改变儿童性虐待材料、未经同意的私密图像、误导性广告或其他违法内容的性质。

企业进行第50条评估时，最好避免单一法域、单一团队作业。一个被认定需要第50条标注的场景，往往还会同时触发数据保护、消费者、知识产权、平台治理、广告或行业监管问题。

九、实践守则不是免责港，但会改变监督成本

指南认为，遵守经第50条第7款评估认定为适当的实践守则，是证明第50条第2款、第4款和第5款合规的一种直接、可预见且具有法律确定性的路径。签署方仍须真正落实守则措施，而不是仅完成形式签署；选择退出守则部分内容，也会失去相应的合规证明便利。

未签署守则并不当然违法，企业仍可使用其他适当手段证明合规。但指南预期，此类提供者和部署者需要解释其措施如何达到《人工智能法》要求，并建议以经认可实践守则为基准开展差距分析。由于主管机关对替代方案的了解较少，未签署方可能面对更详细的信息和访问请求，尤其是关于标记和检测方案有效性、可互操作性、稳健性和可靠性的证据。

这意味着企业对实践守则的决策不应只由公共政策或法律团队处理，还需要计算两类成本：一是实施守则本身的工程和运营成本，二是选择替代路径后持续解释、测试、文档化和接受监管核验的成本。

十、执法、罚款与时间安排

成员国指定的市场监督机构、人工智能办公室和欧洲数据保护监督员在各自职权范围内负责监督第50条。执法既可由主管机关主动发起，也可源于受影响人员或其他有理由认为存在违法行为的自然人、法人投诉。

未遵守适用透明度义务的提供者和部署者，可能面临最高1,500万欧元罚款；违法者为企业时，最高为上一财政年度全球年营业总额的3%，两者取其高。中小企业适用较低上限，但罚款仍须有效、适度且具有劝阻性。主管机关还会考虑违法性质、严重程度、持续时间、后果、故意或过失、合作程度及其他加重或减轻因素。

据本指南说明，第50条原则上自2026年8月2日起适用，覆盖届时在欧盟投放市场或投入使用的范围内系统，而不论其最初投放或投入使用的日期。指南同时说明，近期修法仅为2026年8月2日前投放市场或投入使用的生成式人工智能系统，就第50条第2款标记和检测义务提供至2026年12月2日的过渡期。部分交互、部分生成的系统只能就标记义务利用该过渡期，直接交互告知义务仍自2026年8月2日起适用。

2026年8月2日前已经生成或操纵的相关输出原则上无须追溯标记或标注；但在该日前已经生成或操纵、到该日或其后才发布的公共利益文本，仍须标注。企业因此需要区分“生成时间”和“发布时间”，不能仅以内容文件创建日期判断。

十一、建议企业建立的第50条合规操作系统

以下是基于指南形成的实务建议，并非指南逐字规定的固定模板。

1. 建立场景级适用矩阵

不要只按模型名称登记。应以具体用例为单位记录：系统提供者、部署者、底层模型、输出模态、专业或个人用途、目标受众和可预见受众、使用地域、分发渠道、是否直接互动、是否涉及情绪或生物特征、是否生成深度伪造内容或公共利益文本、适用条款、例外依据及控制措施。

同一模型用于客服、广告制作、内部报告和公共安全通知时，可能得出完全不同的第50条结论。

2. 把透明度要求写进产品和内容发布关口

产品侧应形成交互告知组件、持续标识规则、弱势人群和无障碍设计规范，以及身份误解时的再次披露机制。生成式系统侧应建立标记、检测、跨格式保留、第三方验证和版本回归测试。内容侧应设置深度伪造内容判断、公共利益文本分类、标注样式、人工审查、编辑责任确认和发布后修改控制。

3. 建立“最终输出”控制

第50条关注最终由自然人接触的互动和内容。企业应明确由哪个系统或工作流阶段形成最终输出，防止上游标记在压缩、转码、剪辑、截图、平台上传或内容管理系统处理过程中丢失。对于公共利益文本，还应锁定经人工批准的最终版本，避免发布工具在审批后再次调用人工智能改写。

4. 将价值链责任写入合同

与模型提供者、标记和检测服务商、内容制作方、广告代理机构、媒体分发商及在线平台的合同，宜覆盖：角色认定、标记技术和性能要求、检测接口、标记保留、变更通知、测试和审计权、缺陷修复、投诉协作、执法信息请求、数据保护、安全、知识产权和责任分配。

合同不能改变《人工智能法》对外确定的责任主体，但可以降低证据断裂和执行失败风险。

5. 为例外建立单独证据包

以下结论不宜只用下拉框记录“适用／不适用”，而应形成可复核理由：交互的人工智能性质显而易见；编辑仅属标准编辑；输入数据未被实质改变；输出仅供机器使用；属于封闭工业或企业对企业应用；实时短暂内容技术上无法标记；作品明显具有艺术性、讽刺性或虚构性；公共利益文本已经实质性人工审查并具有编辑责任。

例外证据应包括事实背景、逐项标准、技术和组织保障、受众评估、审批人、有效期限，以及触发重新评估的产品或场景变化。

6. 准备监管可读的技术档案

第50条合规档案可至少包括：角色和适用性分析、系统与输出清单、通知和标签样式、用户界面截图、无障碍测试、技术方案架构、供应商证明、检测工具访问方式、四项质量要求测试、内容变换和对抗测试、标记丢失监测、人工审查记录、编辑责任信息、培训记录、投诉和事件记录、版本变更及持续改进计划。

7. 明确跨职能责任

法律和合规团队负责适用性、例外和跨法分析；产品团队负责交互与披露设计；工程和安全团队负责标记、检测、稳健性和日志；内容或编辑团队负责深度伪造内容及公共利益文本关口；数据保护和无障碍负责人分别审查个人数据处理与信息可访问性；采购和供应商管理团队则保证上游证据及合同权利。若没有统一责任人，上述控制很容易分别“局部合规”却在最终用户界面或内容发布环节失效。

十二、管理层在生效前应能回答的十个问题

1. 我们的每个用例中，谁是提供者，谁是部署者，是否存在双重身份？
2. 哪些交互或输出会被欧盟境内自然人接触，第三国业务为何适用或不适用？
3. 直接交互系统在哪里、以何种方式、在什么时间告知用户？
4. 如果援引“显而易见”例外，受众和界面证据是什么？
5. 哪些输出须机器可读标记，相应检测手段由谁提供、谁可以使用？
6. 标记和检测方案是否已对四项质量要求进行测试，并覆盖常见改动和对抗场景？
7. 哪些内容可能构成深度伪造内容，谁在发布前完成判断并决定标注方式？
8. 哪些文本属于公共利益文本，人工审查是否包括事实核查，谁承担最终编辑责任？
9. 内容经过转码、剪辑、平台上传或审批后人工智能再加工时，标记、标签和审查结论是否仍然有效？
10. 面对市场监督机构的信息或访问请求，企业能否在短时间内提交完整、前后一致的证据？

结语

第50条的合规重点不是在内容末尾机械加上“AI生成”四个字，而是建立可持续运行的透明度控制链：正确识别责任主体，准确判断系统和输出范围，在产品与发布流程中实施适当告知、标记、检测和标注，并保留足以证明例外和技术性能的证据。

对企业而言，最容易低估的并不是标签设计，而是角色错判、价值链标记丢失、人工审查流于形式、审批后再次使用人工智能修改，以及把第50条告知误认为足以解决数据保护、消费者、知识产权或内容合法性问题。真正成熟的第50条方案，应当同时进入产品架构、内容治理、供应商合同、无障碍设计、测试验证和监管应对体系。

本评论旨在帮助理解本指南并支持企业内部合规规划。涉及具体系统、内容、成员国法律或执法风险时，仍应结合完整事实和适用法律进行专项评估。

---

全文译文

欧盟委员会致委员会通信附件｜C(2026) 5054 final

• 发布机构：欧盟委员会
• 地点与日期：布鲁塞尔，2026年7月20日
• 文件编号：C(2026) 5054 final
• 文件状态：欧盟委员会《关于批准欧盟委员会通信草案内容的通信》的附件

目录

• 1. 背景与目标
• 2. 透明度义务概述与横向议题
  • 2.1. 《人工智能法》第50条规定的透明度义务概述
  • 2.2. 理由与目标
  • 2.3. 《人工智能法》第50条下的责任主体
  • 2.4. 排除在《人工智能法》适用范围之外的情形
    • 2.4.1. 在纯粹个人、非职业活动中行事的部署者
    • 2.4.2. 研究与开发
    • 2.4.3. 依据自由开源许可证发布的人工智能
  • 2.5. 与禁止性实践、高风险人工智能系统要求及人工智能素养的衔接
  • 2.6. 与适用于通用目的人工智能模型和/或系统的规则的衔接
• 3. 《人工智能法》第50条第1款：交互式人工智能系统的透明度
  • 3.1. 主要构成要素、概念及相关透明度义务
    • 3.1.1. 旨在与自然人直接交互的人工智能系统
    • 3.1.2. 《人工智能法》第50条第1款规定的信息告知义务
  • 3.2. 《人工智能法》第50条第1款信息告知义务的例外
    • 3.2.1. 与人工智能系统交互显而易见的例外
    • 3.2.2. 经法律授权用于执法目的的人工智能系统例外
  • 3.3. 与欧盟其他法律文件的衔接
• 4. 《人工智能法》第50条第2款：人工智能生成或操纵内容的标记与检测
  • 4.1. 《人工智能法》第50条第2款的主要构成要素和概念
    • 4.1.1. 生成或操纵合成内容的人工智能系统
    • 4.1.2. 适用范围内的合成内容模态
    • 4.1.3. 不属于《人工智能法》第50条第2款适用范围的内容
  • 4.2. 《人工智能法》第50条第2款规定的标记与检测义务
    • 4.2.1. 标记义务
    • 4.2.2. 检测义务
    • 4.2.3. 符合技术解决方案要求：有效、可互操作、稳健且可靠
  • 4.3. 《人工智能法》第50条第2款规定义务的例外
  • 4.4. 与欧盟其他法律文件的衔接
• 5. 《人工智能法》第50条第3款：情绪识别系统和生物特征分类系统
  • 5.1. 《人工智能法》第50条第3款下的主要构成要素、概念及相关透明度义务
    • 5.1.1. 情绪识别系统的概念
    • 5.1.2. 生物特征分类系统的概念
    • 5.1.3. 《人工智能法》第50条第3款规定的信息告知义务
  • 5.2. 执法目的例外
  • 5.3. 与欧盟其他法律文件的衔接
• 6. 第50条第4款：深度伪造内容和特定公开发布文本的标注
  • 6.1. 《人工智能法》第50条第4款下有关深度伪造内容的主要构成要素、概念及相关透明度义务
    • 6.1.1. “深度伪造内容”的概念
    • 6.1.2. 《人工智能法》第50条第4款第一分段规定的披露义务
    • 6.1.3. 艺术性、创作性、讽刺性、虚构性或类似深度伪造内容的透明度
    • 6.1.4. 执法例外
    • 6.1.5. 与欧盟其他法律文件的衔接
  • 6.2. 《人工智能法》第50条第4款下有关人工智能生成或操纵文本的主要构成要素、概念及相关透明度义务
    • 6.2.1. 以向公众通报公共利益事项为目的而发布的文本
    • 6.2.2. 《人工智能法》第50条第4款第二分段规定的披露义务
    • 6.2.3. 经人工审查或编辑控制并由有关主体承担编辑责任的文本所适用的透明度义务例外
    • 6.2.4. 执法例外
    • 6.2.5. 与欧盟其他法律文件的衔接
• 7. 适用于根据《人工智能法》第50条第5款提供信息的横向要求
  • 7.1. 以清晰且可辨识的方式提供信息
  • 7.2. 首次交互或接触
  • 7.3. 遵守适用的无障碍要求
• 8. 《人工智能法》第50条的执行
  • 8.1. 遵守经评估认定为适当的实践守则所产生的效果
  • 8.2. 市场监督机构
  • 8.3. 处罚
  • 8.4. 开始适用
• 9. 指南的审查与更新

1. 背景与目标

(1) 欧洲议会和理事会于2024年6月13日通过的关于制定人工智能统一规则并修订若干条例的《条例（EU）2024/1689》（以下简称“《人工智能法》”）已于2024年8月1日生效〔注1〕。《人工智能法》就人工智能（以下简称“AI”）在欧盟境内的市场投放、投入使用和使用制定了统一规则〔注2〕。其目标是在促进可信人工智能创新和应用的同时，确保对欧盟境内的健康、安全和基本权利（包括民主和法治）提供高水平保护。

(2) 《人工智能法》采取基于风险的方法，将人工智能系统划分为四种不同的风险类别，其中一类是产生透明度风险、须履行《人工智能法》第50条规定义务的人工智能系统。这些透明度义务自《人工智能法》生效两年后适用，即自2026年8月2日起适用。

(3) 根据《人工智能法》第96条第1款(d)项，欧盟委员会发布本指南，旨在提供实践指导，协助主管机构以及人工智能系统的提供者和部署者以一致、有效、合乎比例且统一的方式，确保遵守《人工智能法》第50条规定的透明度义务。

(4) 在起草本指南时，欧盟委员会参考了通过其组织的广泛咨询从各类利益相关方处收集的意见、成员国在人工智能委员会中提出的意见，以及利益相关方针对已公布征求意见的指南草案所提交的意见。

(5) 本指南不具有约束力。《人工智能法》的最终权威解释只能由欧盟法院（CJEU）作出。

2. 透明度义务概述与横向议题

2.1. 《人工智能法》第50条规定的透明度义务概述

(6) 《人工智能法》第50条规定了四项透明度义务，每项义务分别适用于不同类型的人工智能系统或其输出。

(7) 本指南第3至第6节分别分析上述四项义务。此外，《人工智能法》第50条第5款规定，该条第1至第4款所述信息必须最迟在首次交互或接触时，以清晰且可辨识的方式提供给有关自然人，并符合适用的无障碍要求。第7节对这些要求作出说明。

(8) 《人工智能法》第50条规定的多项透明度义务可以累积适用于单一人工智能系统（的输出），并可能使不同主体（提供者或部署者）分别承担责任。例如，人工智能系统在与自然人直接交互的过程中生成图像时，该系统的提供者可能同时需要遵守《人工智能法》第50条第1款和第2款。如果该系统还能够生成构成深度伪造内容的图像，或者生成就公共利益事项发布的文本，则部署者还可能需要遵守《人工智能法》第50条第4款。

2.2. 理由与目标

(9) 正如《人工智能法》第132至136项鉴于条款所说明，透明度义务旨在降低冒充、欺骗、错误信息、大规模操纵和欺诈风险，并减轻由人工智能生成或操纵的内容以及由人工智能促成的交互可能对民主进程和社会信任造成的不利影响。告知个人有关交互或内容是否源自人工智能，有助于其作出知情决定，也有助于维护社会信任和信息生态系统的完整性。透明度不仅是一项技术合规要求，也是使自然人能够辨明有关交互或内容是否由人工智能生成、操纵或参与促成，以及是否使用了情绪识别或生物特征分类系统的前提。确保以透明且可信的方式使用交互式和生成式人工智能系统，还有助于维护个人自主、欧洲价值观、人格尊严和其他基本权利（例如思想自由、隐私、平等与不歧视、消费者保护和知识产权等），同时维护表达自由和媒体内容的可信度。

2.3. 《人工智能法》第50条下的责任主体

(10) 根据《人工智能法》第3条第3项，提供者是指开发人工智能系统或者委托他人开发人工智能系统，并以自己的名称或商标将该系统投放欧盟市场或投入使用的自然人或法人、公共机构、机关或其他组织，无论是否收费。无论提供者设立或位于欧盟境内还是第三国，其均必须遵守《人工智能法》第50条第1款和第2款中对其适用的相关透明度义务〔注3〕。如果人工智能系统的输出在欧盟境内使用，设立或位于欧盟境外的提供者同样受《人工智能法》约束〔注4〕。但是，如果交互式或生成式人工智能系统并未在欧盟境内投放市场或投入使用，则偶然、不可预见或未经授权的下游使用本身不应导致相关义务对该第三国提供者适用；但这不影响主管市场监督机构认定其输出不符合《人工智能法》要求的权限。

(11) 提供者必须确保透明度内嵌于其交互式或生成式人工智能系统的设计和运行，并确保最迟在这些系统投放市场或投入使用时，履行《人工智能法》第50条第1款、第2款和第5款规定的所有相关透明度义务。在提供者投放市场或投入使用的人工智能系统的整个生命周期内，所有与该系统交互或者接触其适用范围内输出的自然人，都必须得到有效且一致的告知（无论该系统的部署者或其他用户是谁）。

(12) 部署者是指在其自身责任范围内使用人工智能系统的自然人或法人、公共机构、机关或其他组织，但在个人非职业活动中使用该系统的除外〔注5〕。这里所称“在其自身责任范围内使用”，是指对是否部署该系统的决定，以及实际如何使用该系统（包括如何使用其输出）承担责任。只要部署者决定为了何种目的、以何种方式使用该人工智能系统（包括在分散式工作流程和企业集团架构中使用），就不要求其必须在技术上控制人工智能系统的运行。参与复杂内容制作和分发价值链的部署者，应当采取合乎比例的措施，确保其依据《人工智能法》第50条第4款实施的内容标注，依照《人工智能法》第50条第5款，在首次接触时以清晰且可辨识的方式向目标受众和可预见受众展示（例如通过与分发合作伙伴约定合同条件，以及设置应当展示的用户体验（UX）配置和界面）。

(13) 部署者的设立地或所在地位于欧盟境内，或者部署者设立或位于第三国但人工智能系统的输出在欧盟境内使用时，该部署者属于《人工智能法》第50条第3款和第4款透明度义务的适用范围〔注6〕。在后一种情况下，如果部署者自身预见人工智能输出将在欧盟境内传播和使用（即指示或授权在欧盟境内分发，包括在全球均可访问的互联网上发布深度伪造内容），透明度义务即适用于位于或设立在欧盟境外的实体。但是，如果人工智能系统的内容通过部署者无法预见且无法控制的渠道触达欧盟受众，则第三国部署者不受相关透明度义务约束。

(14) 如果人工智能系统由作为部署者的法人（例如广告公司）在其自身责任范围内使用，则依照该法人指示并受其控制的个人雇员（例如数字动画师、网页设计师、内容创作者和记者），不应被视为该系统的独立部署者。即使法人安排第三方（例如承包商或自由职业者）代表其并在其责任和控制下运行该系统，该法人仍然属于部署者。

(15) 运营者（例如提供者和部署者）可以就同一人工智能系统同时承担多个角色。例如，一家公司可能开发内部生成式人工智能系统，并使用该系统生成深度伪造内容。在这种情况下，该公司同时属于提供者和部署者，必须确保遵守《人工智能法》第50条第2款规定的机器可读标记义务，以及第50条第4款规定的对深度伪造内容进行清晰、可感知标注的要求。

(16) 相比之下，其他主体（例如包括在线平台在内的托管服务提供者或广播机构），如果其作用仅限于传播或传输第三方制作的人工智能生成或操纵内容，或者其仅接收或接触此类内容，但不能决定是否以及如何使用人工智能系统生成或操纵这些内容，则不属于《人工智能法》意义上的部署者。尽管这些主体不依据《人工智能法》承担相关责任和法律责任，其仍可能在维护信息生态系统信任与完整性的价值链中发挥重要作用。因此，强烈鼓励其保留依据《人工智能法》第50条实施的标记和标注，并采取合乎比例且技术上可行的措施，使自然人能够检测人工智能生成或操纵的内容；但这不影响生成式人工智能系统提供者和部署者的责任，也不影响《条例（EU）2022/2065》（《数字服务法》，简称“DSA”）〔注7〕或欧盟及成员国其他适用法律规定的任何义务或法律责任。

(17) 对于以职业身份行事并传播内容的其他主体（即使其并不直接承担《人工智能法》第50条规定的义务），同样鼓励其采取合乎比例且适当的措施，使最终接触到相关内容的自然人得到有效告知，并能够识别相关内容由人工智能生成或操纵这一来源属性。此外，其他适用的法律或职业道德规则可能要求这些主体对相应的深度伪造内容或有关公共利益事项的公开发布文本进行标注（例如，广播机构在电视节目中展示私人制作的深度伪造内容时对其加以标注）。但是，某一主体仅仅标注内容或者使用已经标注的内容，并不意味着该主体因此成为《人工智能法》意义上的“部署者”。如果这些主体并不同时属于人工智能系统的提供者或部署者，《人工智能法》不会扩张或影响其在适用法律框架下承担的法律责任。

2.4. 排除在《人工智能法》适用范围之外的情形

(18) 《人工智能法》第2条规定了若干一般性适用范围排除情形，欧盟委员会《关于〈人工智能法〉所禁止人工智能实践的指南》已经对这些情形作出说明〔注8〕。因此，本节仅讨论与《人工智能法》第50条透明度义务有关的方面。

2.4.1. 在纯粹个人、非职业活动中行事的部署者

(19) 根据《人工智能法》第2条第10款，该条例“不适用于作为自然人的部署者在纯粹个人、非职业活动中使用人工智能系统时所承担的义务”〔注9〕。自然人经常从中获得经济利益，或者以其他方式参与职业、商业、贸易、工作或自由职业活动的任何活动，都应视为“职业”活动。“纯粹个人”是对“非职业”的进一步限定，这意味着只有同时以个人和非职业身份行事，才能属于该例外的适用范围。自然人代表以职业身份行事的部署者，或者在该部署者的指示和责任范围内使用人工智能系统的，均属于该职业部署者依据《人工智能法》第50条第3款和第4款承担的透明度义务范围。

(20) 《人工智能法》第2条第10款规定的排除情形，仅适用于部署者将系统用于纯粹个人、非职业活动时所承担的义务。就将系统投放市场或投入使用的提供者义务以及将系统用于职业用途的部署者义务而言，该系统本身仍然属于《人工智能法》的适用范围。该例外也不影响欧盟和成员国其他相关法律的适用。

2.4.2. 研究与开发

(21) 《人工智能法》第2条第6款规定，专门为科学研究与开发这一唯一目的而开发并投入使用的人工智能系统或人工智能模型（包括其输出）不适用《人工智能法》。该排除不影响适用的研究伦理标准、欧盟数据保护法律和其他法律。在《人工智能法》第50条的语境下，该排除不仅涵盖交互式人工智能系统，也涵盖在科学研究中使用的生成式人工智能系统输出（包括深度伪造内容）。但是，如果这些系统被投入使用，或者其输出被用于科学研究与开发这一唯一目的以外的其他目的，仍然需要遵守《人工智能法》第50条规定的相关透明度义务。

(22) 《人工智能法》第2条第8款还排除了人工智能系统或人工智能模型投放市场或投入使用之前的相关研究、测试或开发活动。在真实世界条件下开展的测试（无论在人工智能监管沙盒内还是沙盒外）不属于该排除情形。此外，一旦人工智能系统因相关研究和测试活动而被投放市场或投入使用，仍应遵守《人工智能法》第50条规定的相关透明度义务〔注10〕。

2.4.3. 依据自由开源许可证发布的人工智能

(23) 根据《人工智能法》第2条第12款，依据自由开源许可证发布的人工智能系统，只有在其不属于《人工智能法》第5条规定的禁止情形、不承担第50条规定的透明度义务且未被归类为高风险系统时，才不属于《人工智能法》的适用范围〔注11〕。这意味着，属于《人工智能法》第50条适用范围的开源人工智能系统的提供者和部署者，仍须确保履行各自的透明度义务。

(24) 相比之下，自由开源人工智能组件的提供者，如果其提供的软件、数据、模型、工具、服务或流程用于人工智能系统的定制和集成，并且这些组件本身（无论部分还是全部）并不构成人工智能系统，则不承担《人工智能法》第50条规定的透明度义务。但在合乎比例且可行的范围内，仍鼓励这些组件的提供者按照下文第27段所述方式设计相关模型、组件和服务。

2.5. 与禁止性实践、高风险人工智能系统要求及人工智能素养的衔接

(25) 《人工智能法》第137项鉴于条款澄清，就特定人工智能系统履行《人工智能法》第50条规定的透明度义务，不得被解释为表明该人工智能系统的使用或其输出依据《人工智能法》属于合法。特别是，承担《人工智能法》第50条义务的人工智能系统可能属于第5条的适用范围并因此被禁止（例如在工作场所或教育机构领域使用情绪识别系统）〔注12〕。此外，属于《人工智能法》第50条适用范围的人工智能系统还可能被归类为高风险系统〔注13〕，并须履行适用于此类系统的相关要求和义务。因此，遵守《人工智能法》第50条并不取代、限制或影响该法其他规定产生的义务〔注14〕。与此同时，人工智能系统即使未依据《人工智能法》第6条被归类为高风险系统，也可能属于第50条的适用范围。《人工智能法》第4条规定的人工智能素养要求，同样适用于第50条适用范围内人工智能系统的提供者和部署者。

2.6. 与适用于通用目的人工智能模型和/或系统的规则的衔接

(26) 《人工智能法》第50条适用于特定人工智能系统，其中包括通用目的人工智能系统（以下简称“GPAI系统”）〔注15〕，例如支持与自然人直接交互的聊天机器人，或者能够生成或操纵合成内容（包括深度伪造内容）的人工智能系统〔注16〕。

(27) 《人工智能法》第50条并未明确适用于通用目的人工智能模型。但是，如果属于《人工智能法》第50条第1款或第2款范围的交互式或生成式人工智能系统，建立在由同一提供者提供的通用目的人工智能模型之上，则本指南所述透明度措施也可以在模型层面实施（另见下文第4节）。此外，虽然其他通用目的人工智能模型和其他生成式人工智能模型的提供者不属于《人工智能法》第50条的适用范围，仍鼓励其在模型层面采取适当的透明度措施，用于识别人工智能交互以及标记人工智能生成或操纵的内容。这尤其有助于下游人工智能系统提供者履行《人工智能法》第50条第1款和第2款规定的义务〔注17〕，并有助于维护信息生态系统的信任与完整性。对于具有系统性风险的通用目的人工智能模型，在适当情况下，用于识别人工智能交互和标记人工智能生成或操纵内容的模型层面安全措施，可以构成提供者依据《人工智能法》第55条第1款(b)项履行系统性风险缓解义务时所采取的更广泛缓解措施的一部分。

3. 《人工智能法》第50条第1款：交互式人工智能系统的透明度

(28) 《人工智能法》第50条第1款适用于直接与自然人交互的人工智能系统的提供者；提供者必须以使有关自然人知悉其正在与人工智能系统交互的方式设计和开发其系统。正如《人工智能法》第132项鉴于条款所说明，这项信息告知义务旨在使这些自然人能够就系统输出作出知情决定，避免过度依赖此类系统，并使其能够相应调整对相关内容和交互的信任程度。

3.1. 主要构成要素、概念及相关透明度义务

(29) 《人工智能法》第50条第1款规定的透明度义务适用于符合下列条件的人工智能系统提供者：该系统旨在与自然人直接交互，且该交互不属于以下任何例外情形：（1）从合理知情、注意且审慎的自然人的角度看，该交互的人工智能性质显而易见；或（2）该系统经法律授权用于侦查、预防、调查或起诉刑事犯罪，但系统向公众开放用于举报刑事犯罪的除外。

3.1.1. 旨在与自然人直接交互的人工智能系统

(30) 人工智能系统属于《人工智能法》第50条第1款的适用范围，必须同时具备四个要素：（i）该系统必须属于人工智能系统；（ii）旨在进行交互；（iii）直接进行交互；（iv）与自然人交互。

• i. 人工智能系统： 该系统必须符合人工智能系统定义的构成要素〔注18〕；简单的非人工智能自动应答机制（例如传统的外出自动回复邮件、基于规则的快捷消息回复）不属于人工智能系统。
• ii. 旨在进行交互： 人工智能系统必须旨在与自然人交互。交互意味着自然人与人工智能系统之间具备以真正对话或响应为特征、双向交换信息或行动的能力。交互可以采取多种形式（例如听觉、视觉和物理形式）。自然人应当能够向人工智能系统提供输入（例如书面文本或其他形式的内容、语音或物理动作；可以通过包括在线界面、电话或电子邮件在内的技术通信手段，或者直接提供），人工智能系统则应当能够以符合语境的输出（包括任何类型的内容或行动）作出回应，反之亦然。交互可以涵盖人类能够感知和理解的任何类型的输出或格式。交互不必由人类发起，也可以包括由人工智能内容或行动引发人类回应的情形。交互可以是一次性交换（例如单次提示后作出单次回复），也可以持续一定时间（多轮交互）。仅被动收集数据、不能与自然人进行交换的系统（例如自动人脸识别门禁），或者仅收集一次性反馈的系统（例如垃圾邮件过滤器），不属于与自然人交互的系统。
• iii. 直接交互： 人工智能系统与自然人之间的交互必须是直接的。直接交互通常涉及实时或近实时交互，包括系统能够向自然人撰写和发送消息，或者以自然人能够感知的方式与物理或虚拟环境交互。直接交互不包括间接交互或有人员居间的交互，即自然人接触人工智能输出但并未与系统直接交互的情形（例如客户服务人员使用人工智能辅助工具帮助其与自然人沟通，或者人工智能输出并非由人工智能系统本身提供给该自然人，而是由另一个人传播给该自然人）。但是，不能仅以人类有可能干预或审查人工智能系统输出为由，规避《人工智能法》第50条第1款披露要求的适用。产品或服务将人工智能生成的回复与由人员策划的内容相结合的，属于《人工智能法》第50条第1款的适用范围，并须针对交互中由人工智能生成的具体输出进行披露；但人工智能输出已经过适当审查，并由作为自然人主要交互对象的人类发送的除外。
• iv. 与自然人交互： 《人工智能法》第50条第1款要求人工智能系统与自然人交互。这些自然人可以是职业部署者、其他用户（包括将系统用于纯粹个人活动的用户），或者代表这些人员使用系统的其他人员。在封闭物理环境中运行的人工智能系统（例如作为工业机械装置的一部分）、人工智能系统（包括人工智能智能体）之间输出并非旨在触达自然人的后台机器对机器调用，以及与自然人没有任何直接接触的虚拟环境，不属于该项义务的适用范围。

(31) 人工智能智能体能够在执行任务时与向其发出指令的人或其他自然人交互的，属于《人工智能法》第50条第1款的适用范围（例如进行预订、管理通信、谈判或订立合同、执行购买等）。考虑到来源透明、授权关系以及行动后果的责任归属，人工智能智能体必须以能够同时披露其作为人工智能的性质和其代表何人行事的方式进行设计和开发。这包括人工智能智能体能够在复杂的多智能体架构中与其他人工智能智能体交互，而其他智能体在执行任务时直接与自然人交互的情形。但是，人工智能智能体部署在不同语境后，其提供者未必总能事先识别该智能体与其他自然人直接交互的具体实例。如果提供者在将人工智能智能体投放市场或投入使用之前，无法可靠判断该智能体是否会与自然人直接交互，则应当在架构层面对该智能体作出相应设计和指示，使其在有合理可能与自然人交互的每一种情况下披露其智能体身份，包括自然人可能代表法人或者为法人行事的情形。此外，人工智能智能体还应当在关键步骤（例如授权、报告、验证等环节，包括已部署的智能体接收、处理或依赖由其他人工智能系统而非自然人直接生成的输出时）以及每一次新的交互中，向其发出指令的人披露自身身份。

3.1.2. 《人工智能法》第50条第1款规定的信息告知义务

(32) 《人工智能法》第50条第1款要求直接与自然人交互的人工智能系统的提供者，确保其人工智能系统（包括人工智能智能体和GPAI系统）以使有关自然人知悉其正在与人工智能系统交互的方式进行设计和开发。

(33) 虽然告知机制应当内嵌于系统的设计和开发以及系统与自然人的交互方式之中，但通知应当在人工智能系统运行期间提供，并应按照《人工智能法》第50条第5款的要求，最迟在与自然人首次交互时提供（见下文第7节）。人工智能系统投放市场或投入使用后，提供者负责确保，在其所投放市场或投入使用的人工智能系统的整个生命周期内，与该系统交互的自然人持续得到有效且一致的告知。

(34) 披露形式：《人工智能法》第50条第1款没有规定任何特定的披露技术。因此，只要满足以下两项要求，提供者可以选择任何适当的技术：（i）满足《人工智能法》第50条第5款关于最迟在首次交互时提供清晰且可辨识信息的要求（见下文第7节）；（ii）在人工智能系统旨在或者有合理可能与因年龄（例如儿童或老年人）或残障而属于弱势人群的自然人交互的范围内，将这些自然人的特征纳入考虑（例如人工智能系统有合理可能与普通公众交互时）〔注19〕。按照《人工智能法》第50条第5款和第132项鉴于条款的规定，还必须以无障碍格式向残障自然人提供信息（见第7节）。系统可能与儿童交互时，通知必须对儿童友好、符合其年龄、易于理解，并使包括残障儿童或有额外无障碍需求的儿童在内的所有儿童均能便捷获取。在已有标准化披露实践和标注且适合采用时，建议提供者使用此类实践和标注，以确保通知有效、一致并提高用户认知。

(35) 通知内容：《人工智能法》第50条第1款要求交互式人工智能系统的提供者，以明确告知所有与此类人工智能系统交互的自然人其交互对象属于人工智能而非人类的方式设计和开发系统。如果提供者可以合理预见人工智能系统可能与属于上述弱势人群的自然人交互，则应当按照欧盟适用法律的要求相应调整相关信息并以无障碍格式提供，确保这些自然人也能充分理解〔注20〕。

(36) 通知应当以符合交互发生语境的方式，说明该交互源自人工智能。通知方式应当确保有关人员得到适当、有效的告知，在交互之前和整个交互过程中避免欺骗或操纵风险，同时确保披露可行且合乎比例。信息提供方式的示例包括：书面通知（例如聊天机器人在开始对话时说明其基于人工智能技术）、视觉方式（例如人工智能智能体向自然人发送的电子邮件在顶部带有人工智能标注）、听觉方式（例如语音助手在会话开始时说明其由人工智能驱动），以及披露人工智能标识符和凭证（例如人工智能智能体在可行范围内以可验证的方式披露其人工智能身份）〔注21〕。

(37) 通知形式：建议将采用多模态且无障碍披露方式的人工智能系统设计作为最佳实践。在适当情况下，可以结合不同技术增强用户理解，同时根据具体语境、目标受众和可预见受众群体以及提供者（尤其是中小企业）的可用资源作出调整。适当技术的示例包括：

• 文本披露（基于用户界面（UI））： 使用醒目的通俗语言标注或横幅（例如“您正在与人工智能系统交互”），以及聊天机器人的首次回复问候；在与具体语境和风险相称的情况下，可以将其与在整个交互过程中持续可见的徽章或标注相结合。还建议将伴随披露置于靠近交互界面的位置（例如输入/输出字段附近），并使用简化措辞，特别是面向数字素养较低的用户和儿童时。
• 听觉披露： 在语音或电话语境中，于交互开始时作出明确的语音声明（例如“这是一个由人工智能驱动的助手”）；在较长交互中，可以酌情配合定期提醒，尤其是在用户流程中断或人工智能系统角色发生变化时。独特的音频提示（例如提示音或听觉图标）可以辅助识别，特别是帮助视障用户识别，但仅凭此类提示本身并不足够。
• 视觉/图形提示： 在人工智能系统设计中使用持续显示的图标、水印、彩色边框或可识别的“AI”符号，作为文本披露的补充。建议采用标准化视觉指示，包括在同一提供者的不同服务中采用一致指示，因为这可以显著降低认知负担并提高可识别性。
• 多模态组合： 结合文本、音频和视觉提示（例如聊天机器人在显示标注的同时，于首次回复中作出文本披露），以确保无障碍，并增强不同用户群体理解的清晰度。

(38) 某些技术并非必要，而且单独使用时不足以有效履行《人工智能法》第50条第1款和第5款规定的透明度义务，尤其包括：

• 仅载于条款与条件、网址或文档中的披露（此类披露可以补充、但不能替代交互语境内的披露）；
• 用户在交互时无法感知的机器可读标记（例如元数据或水印）；这不影响此类标记用于遵守《人工智能法》第50条第2款的适当性（见第4节）；
• 不清晰或含义模糊的信号（例如仅笼统称为“助手”），或者可能误导用户的类人化呈现；
• 未充分具体对应人工智能系统输出和交互的一般性披露（例如平台提供多种服务或单独输入时，仅笼统声明“本网站的服务使用人工智能”并不充分）；
• 技术性或基于能力的描述：仅提及底层技术（例如“本系统使用大语言模型”），却未说明系统对用户的功能或影响，也未说明交互源自人工智能。

(39) 披露应当与人工智能系统的不同语境和目标受众相称并作相应调整，从而保持有效和用户友好，并尽可能避免干扰用户体验或者产生习惯化效应（即所谓“横幅盲区”）。

(40) 在大多数情况下，人工智能系统与特定自然人首次交互之前作出一次醒目的通知，可能足以履行《人工智能法》第50条第1款规定的义务。但是，在某些风险较高的语境中，可能需要定期提醒和能够感知语境的披露，以确保用户持续知情。尤其包括以下情形：人工智能系统与弱势人群交互（例如儿童、老年人、残障人士和读写能力较低的人员）；在敏感或沉浸式语境中进行持续且不断演变的交互（例如用户可能表达或经历情绪困扰或脆弱状态，或者存在成瘾式行为风险）；用户受误导风险提高（例如金融建议、保险、法律协助、健康建议和投诉处理）；形成情感依附或依赖的风险提高（例如人工智能陪伴系统）；以及需要确保用户知悉和控制人工智能智能体行为。提供者还必须设计和开发人工智能系统，确保在下列所有情况下作出披露：系统被问及其自身性质或交互来源；或者从其与自然人的交流中可以合理推断，该自然人可能对交互的人工智能来源产生误解或困惑。

3.2. 《人工智能法》第50条第1款信息告知义务的例外

(41) 《人工智能法》第50条第1款针对交互式人工智能系统的信息告知义务规定了下文分析的两项例外。

3.2.1. 与人工智能系统交互显而易见的例外

(42) 为适用第一项例外，提供者需要评估并证明：（i）交互的人工智能性质显而易见；并且（ii）该判断是从合理知情、注意且审慎的自然人的角度作出的，同时应考虑具体情况和使用语境。

(43) 这一标准借鉴欧盟消费者保护法中既有的“普通消费者”概念，应当作一致解释，同时考虑直接与自然人交互的人工智能系统具体且多样的语境和用途，以及《人工智能法》第50条第1款所追求的目标。

(44) 构想这样的“普通”自然人包括两个步骤。第一，提供者应当考虑人工智能系统旨在与之交互以及有合理可能与之交互的受众。第二，提供者应当结合具体情况和使用语境，考察该受众中的普通成员在何种程度上属于合理知情、注意且审慎的人员。开展评估时应当考虑若干因素：

• 提供者应当考虑人工智能系统的目标受众，以及可合理预见的更广泛潜在受众。如果普通公众能够轻易访问该人工智能系统，或者该系统在虚拟或物理公共空间运行并能够与其中的自然人交互，尤其应当考虑更广泛受众。可能接触人工智能系统的受众并不总是等同于目标受众。
• 提供者应当按照《人工智能法》第132项鉴于条款，考虑目标受众和可合理预见受众可能具有的多样构成。如果残障人士、老年人或未成年人可能属于该受众，则与不包含这些类别人员的受众相比，该受众普通成员的预期知情、注意和审慎水平较低。相反，如果交互式人工智能系统仅向职业或专业目标受众开放，则可能提高对其知识、注意和审慎水平的预期，该受众普通成员可以被视为更加知情、注意且审慎。
• 作为更广泛具体情况和使用语境的一部分，提供者应当考虑目标受众和可合理预见受众的数字素养与人工智能素养水平，以及相关社会、文化和语言因素。

(45) 显而易见性：确定假设的合理知情、注意且审慎的自然人后，提供者应当评估，对该人员而言，其正在与人工智能系统直接交互是否显而易见。由于该例外会使自然人无法获得通过清晰且可辨识的披露知悉其正在与人工智能系统交互的保护和权利，因此应当对其作限制性解释。消费者和其他自然人普遍知道人工智能系统（包括聊天机器人和智能体）存在，并不意味着其能够在交互中识别这些系统。在评估交互是否显而易见时，若干因素可能具有相关性并应当纳入考虑：

• 预期的交互性质： 人工智能系统与自然人进行物理交互时，相关要素可以包括机械部件是否可见（可见会提高显而易见性），或者人工智能系统真实模仿现实中相应对象的程度（模仿程度越高，显而易见性越低）。对于视觉或听觉交互，书写或言语模式、声音语调（机器人声音或逼真的类人声音）、用户界面设计（例如聊天机器人的头像是否呈现人类形象），以及开展高级个性化交互的能力，都可能影响评估。
• 目标受众和可预见受众的构成： 如果交互式人工智能系统仅向职业或专业受众开放，且弱势人群不会接触该系统，则对相关受众中的普通成员而言，交互的人工智能性质更有可能显而易见。相反，如果普通公众或消费者可以访问人工智能系统，其中还包括更难察觉交互的人工智能性质的弱势人群（例如儿童、老年人、认知、身体或精神障碍人士，或者人工智能素养较低的人员），则为了有效保护这些弱势人群，不得援引该例外。
• 还应当考虑，自然人正越来越难以判断其正在与人工智能系统还是真实人类交互。由于化身和智能体的使用、在线交互普遍具有匿名性，以及人工智能系统具备以类人方式书写和交互的能力，“显而易见”例外应当限于以下情形：对于目标受众和可合理预见受众中的普通人员而言，交互性质几乎不存在任何疑问。

3.2.2. 经法律授权用于执法目的的人工智能系统例外

(46) 交互式人工智能系统经法律授权用于侦查、预防、调查或起诉刑事犯罪，并对第三方的权利和自由设置适当保障的，其提供者免于履行《人工智能法》第50条第1款规定的透明度义务。

(47) “经法律授权”应当理解为包括欧盟法律以及成员国依照欧盟法律制定的国内法。授权使用人工智能系统的法律必须明确规定允许使用的目的和具体情况，并为保护第三方的权利和自由提供适当保障。鉴于《人工智能法》采取技术中立方法，如果人工智能系统的使用通常已经包括在法律授权活动的范围内并符合适用法律框架，则不必由法律识别或授权具体人工智能系统。

(48) 为适用该例外，人工智能系统的目的必须是侦查、预防、调查或起诉刑事犯罪（例如人工智能卧底智能体，或者由调查人员在人类控制下用于在线调查或与可能参与犯罪活动的人员沟通的人工智能系统）。该例外并不限于由《人工智能法》第3条第48项所定义的执法机构使用此类人工智能系统；其他欧盟或成员国公共机构使用的交互式（或生成式）人工智能系统，只要其使用经法律授权用于侦查、预防、调查或起诉刑事犯罪，并对第三方权利和自由设置适当保障，也可以属于该例外。该例外并不要求人工智能系统能够独立开展调查。如果某一系统既可用于执法目的，也可用于其他一般目的，则应当结合具体部署情况评估该例外是否适用。同一人工智能系统被用于法律授权的侦查、预防、调查或起诉刑事犯罪以外的其他目的时，透明度义务继续适用。自然人在系统的一般用途语境中与其交互时，仍然必须得到透明度信息。

(49) 同时满足以下两项条件时，该例外不适用：（i）人工智能系统向公众开放；（ii）系统向个人提供举报刑事犯罪的功能。此类系统可以使用，但仍须遵守《人工智能法》第50条第1款规定的透明度义务，必须告知自然人其正在与此类系统交互。

为进一步明确，该例外仅涉及《人工智能法》第50条第1款关于告知自然人其正在与人工智能系统交互的义务〔注22〕。该例外不影响欧盟和成员国适用法律，包括有关证据记录、披露、可采性和评估的程序规则。

3.3. 与欧盟其他法律文件的衔接

(50) 《人工智能法》第50条第1款规定的透明度义务，不影响欧盟现有的消费者保护、数据保护、数字或反歧视立法；这些立法可能要求作出并非专门针对交互人工智能来源的其他信息披露。特别是，根据第2005/29/EC号指令（《不公平商业惯例指令》，简称“UCPD”）〔注23〕，禁止就产品或服务的主要特征实施误导性作为或不作为。此外，第2011/83/EU号指令（《消费者权利指令》）〔注24〕要求经营者就商品或服务的主要特征提供清晰易懂的合同前信息。某项服务由人工智能驱动时（例如订阅制聊天机器人、人工智能陪伴应用或虚拟辅导服务），人工智能功能可能构成一项基本特征，必须在消费者受合同约束之前披露。无论相关交互是否被视为《人工智能法》第50条第1款所称的“显而易见”，欧盟消费者保护法规定的信息义务均适用。这些义务也具有互补性：消费者保护法规定的是一般性信息义务，而《人工智能法》的通知义务更具语境性，旨在确保所有自然人最迟在与人工智能系统直接交互开始之前并在整个交互过程中持续知情。

(51) 《数字服务法》还规定了适用于在线平台推荐系统的透明度要求，包括说明主要排序参数的要求。这些义务与《人工智能法》第50条第1款规定的透明度义务相互补充，因为二者具有不同的范围和目的，而且推荐系统原则上并不以第50条第1款所指方式与用户直接交互。

(52) 就欧盟数据保护法规定的面向数据主体的信息义务而言，《人工智能法》第50条第1款规定的义务所实现的目标不同于这些信息义务，因此不影响这些信息义务。

(53) 同样，《人工智能法》第50条第1款规定的透明度义务，不影响欧盟和成员国关于在刑事诉讼中向有关人员提供信息的法律（例如经第（EU）2026/1472号指令修订的第2012/13/EU号指令或第2012/29/EU号指令）〔注25〕。

4. 《人工智能法》第50条第2款：对人工智能生成或操纵的内容进行标记和检测

(54) 《人工智能法》第50条第2款要求，生成合成内容的人工智能系统的提供者实施符合特定质量要求的技术解决方案，以便对其人工智能系统的输出进行机器可读标记和检测。其目的在于使自然人能够区分人工智能生成或操纵的内容与其他内容（例如人类创作的内容），并核验其来源，从而也有助于提升信息生态系统的完整性和可信度。

(55) 因此，这项透明度义务的受益者包括所有可能接触人工智能生成或操纵内容的自然人，也包括对信息生态系统的可信度和完整性发挥重要作用的关键主体，例如主管市场监督机构及其他主管机关、独立研究人员、民间社会组织、媒体、可信举报人、基本权利维护者、在线平台和在线搜索引擎的提供者、权利人以及其他内容创作者和传播者等。

4.1. 《人工智能法》第50条第2款的主要构成要素和概念

(56) 适用《人工智能法》第50条第2款，须同时满足以下若干条件：

• i. 该系统必须构成人工智能系统；
• ii. 该人工智能系统必须能够生成或操纵合成内容；
• iii. 该内容必须采用以下一种或多种模态：音频、图像、视频或文本；
• iv. 该人工智能系统不得落入以下任何例外情形：(1) 人工智能系统为标准编辑提供辅助功能；(2) 人工智能系统未实质性改变部署者提供的输入数据或其语义；或 (3) 法律授权该人工智能系统用于侦查、预防、调查或起诉刑事犯罪。

4.1.1. 生成或操纵合成内容的人工智能系统

(57) 《人工智能法》第50条第2款适用于生成合成音频、图像、视频或文本内容的人工智能系统〔注26〕，包括通用目的人工智能系统。该条款涵盖符合《人工智能法》第3条第1项人工智能系统定义并生成此类输出的系统子集，也涵盖用于操纵内容的人工智能系统。

(58) 内容生成是指人工智能系统生成合成材料（例如基于人的提示词），如生成合成图像或歌曲。实践中，这意味着《人工智能法》第50条第2款可能适用于按狭窄预期目的设计、用于产生特定输出的生成式人工智能系统。同时，只要能够生成合成音频、图像、视频或文本内容，该条款也适用于可服务于多种目的的人工智能系统，包括通用目的人工智能系统和能够产生多种内容类型的系统，以及智能体式人工智能系统。

(59) 与之相对，内容操纵是指人工智能系统改变已经存在的内容（无论其是否为合成内容），例如按照人的指令操纵现有图像或录音。只要内容由人工智能生成，或者其所受操纵超出《人工智能法》第50条第2款所规定例外中的标准编辑，即属于该条款所涉内容（见第4.3节）。此外，该条款并不要求内容完全由人工智能生成或操纵。与人类创作材料混合的内容，如果以第50条第2款所指模态之一受到操纵或生成，也构成合成内容。

4.1.2. 纳入范围的合成内容模态

(60) 《人工智能法》第50条第2款穷尽列举了透明度义务所涵盖的合成内容模态：音频、图像、视频或文本。这也包括多模态内容，即由上述多种模态混合构成的内容。为适用该条款，应结合可能随时间演进的实践和技术发展解释不同模态。现阶段，应作如下理解：

• 文本，是指由字符或按特定顺序排列的数字构成、能够由人类阅读并从语义上理解的离散符号内容。
• 图像，是指对视觉信息进行编码、能够由人类看见的静态空间表征。
• 音频，是指对声音进行编码、随时间变化且能够由人类通过听觉感知的信号。其可包括语音、器乐或其他音频信号。
• 视频，是指能够由人类看见、可与音频同步并按时间排列的图像序列。在这种情况下，视频和音频内容都必须按照下文规定进行标记，并确保其可检测性。

(61) 生成或操纵三维图像、三维视频和三维音频以及虚拟现实、增强现实或混合现实的人工智能系统，均属于《人工智能法》第50条第2款的适用范围。“虚拟现实”涵盖使用户能够体验计算机生成的、模拟物理在场的环境并与之交互，以及允许用户与该环境进行实时互动的人工智能技术。由于虚拟现实和增强现实由按时间排列、可选择与音频同步并呈现随时间发生视觉变化的图像序列构成，故可视为“视频”内容。需要标记的相关“输出”是各项人工智能生成资产的最终形态，但下文第88点所述实时、短暂的互动会话除外。用于生成三维图像、三维视频和三维音频内容的数字构件，例如点云或三维网格，则无须标记。

(62) 数字孪生以虚拟方式复刻人员、实体物体或系统，并整合多种数据类型；如果其由人工智能生成或操纵，且采取音频、图像、视频或文本形式，也属于《人工智能法》第50条第2款的适用范围，但符合例外并构成下文第87点所述“工业应用”或“企业对企业应用”，或者构成下文第88点所述实时短暂内容的除外。

(63) 如果人工智能智能体采取某项行动，而该行动的输出是自然人可以音频、图像、视频或文本形式感知的人工智能生成或操纵内容，则《人工智能法》第50条第2款也可能适用于该智能体。因此，必须按照下文所述对这些输出进行标记并确保其可检测。反之，人工智能智能体不包含人工智能生成或操纵内容的行动（例如推理和思维链等中间处理步骤），或者并非意在由自然人直接感知的人工智能生成行动（例如网络请求或浏览器操作），不构成第50条第2款适用范围内的合成内容，无须遵守标记和检测义务。

4.1.3. 不属于《人工智能法》第50条第2款适用范围的内容

(64) 人工智能系统基于简单数据处理生成、但并非专门由人工智能生成或操纵的内容，例如经渲染的帧，不属于《人工智能法》第50条第2款的适用范围。

(65) 此外，人工智能系统仅仅复制既有内容，或只是使既有内容得以呈现或排列的输出，也不受《人工智能法》第50条第2款规制。例如，音乐播放列表或其他推荐系统仅根据用户偏好或活动选择或排序既有内容，而未创作任何新内容或操纵内容本身，即可能属于这种情形。用于内部分析流程、提取并结构化数据但不对其进行总结的人工智能系统，同样如此。

(66) 人工智能系统的输入和输出如果只是对来自实体或虚拟环境的数据进行观察和记录，并非由人工智能生成或操纵（例如通过机器人或其他人工智能赋能的传感器进行观察和记录），或者只是由人工智能系统传输未经任何改变的数据，也同样不在范围之内。这涵盖人工智能系统的多种输入和输出，尤其包括工业场景中的机器人观察数据等制造数据、人工智能赋能的智能电表记录的用量、电网频率和电压测量值，以及车辆GPS位置数据记录等。

(67) 此外，《人工智能法》第50条第2款透明度义务旨在使人类能够区分人工智能生成或操纵的内容，以应对欺骗和操纵风险，并确保信息生态系统的完整性和可信度。因此，与这一目标无关，且自然人无法感知或并非意在由自然人解释、核验或据以采取行动的任何内容，均不是该条款的规制对象。

(68) 特别是，以下内容应视为不属于《人工智能法》第50条第2款的适用范围：

• 以较短数字、符号或字母序列形式生成的输出（例如单个词、图像说明、替代文本、用户界面标签和图标尺度的图形，以及其他数据标签）；
• 源代码，即以编程语言、脚本语言、标记语言、查询语言或配置语言编写，意在由计算系统解释、编译或执行的内容，无论其是否由文本字符组成。这也可包括构成源代码组成部分的自然语言注释和上下文信息。同样排除的还包括软件开发工具包（SDK）、结构化查询语言（SQL）、基础设施即代码和YAML（“YAML不是标记语言”）、JavaScript对象表示法（JSON）配置、模式、脚本、机器可读规范、应用程序编程接口（API）以及软件库；
• 专门用于机器之间通信并自动处理、不会向人类展示的人工智能系统输出，例如智能体之间的通信、反垃圾邮件信号，但前提是自然人无法感知这些输出；
• 仅用于工业和产品开发工作流中闭环环境的输出（例如电影、动画、游戏或广告制作），但人工智能系统的最终输出属于人工智能生成或操纵的文本、音频、图像或视频内容的除外。在这些情况下，仅须对工作流各阶段产生的最终输出进行标记并确保其可检测。

4.2. 《人工智能法》第50条第2款规定的标记和检测义务

(69) 《人工智能法》第50条第2款为属于该条款适用范围的生成式人工智能系统提供者规定了一项透明度义务，其中包含两个彼此有别但内在关联的要素。第一，提供者必须确保以机器可读格式标记人工智能系统的输出。第二，提供者必须确保可检测出输出属于由人工智能生成或操纵的内容。对于部署的每一种标记方案，提供者都应确保具备相应的检测手段（如下所述），使接触内容的自然人和其他相关主体能够识别该人工智能系统生成的内容，并将其与其他内容区分开来。技术解决方案应理解为提供者为履行《人工智能法》第50条第2款规定的透明度义务而实施的标记技术与检测手段的组合。

(70) 为有效实现《人工智能法》第50条第2款透明度义务的目标，上述两个要素均须满足。仅满足其中一项，例如以机器可读方式标记输出却未提供相应检测手段，不足以符合该条款〔注27〕。

4.2.1. 标记义务

(71) 标记义务的范围仅限于以机器可读格式实施标记。机器可读格式是指标记采用结构化形式，使软件应用无需人工干预即可轻松识别、辨认和提取。在适当情况下，并不排除将可感知标记和标签作为补充措施，以帮助部署者遵守《人工智能法》第50条第4款规定的深度伪造内容标注义务。

(72) 为遵守标记义务，提供者可以采用单一标记技术或多种技术的组合，但其整体技术解决方案必须是机器可读的，并达到《人工智能法》第50条第2款第二句在法律上要求的程度，符合有效性、可互操作性、稳健性和可靠性要求（见下文第4.2.3节）。

(73) 《人工智能法》序言第133段列举的技术示例包括水印、元数据标识、证明内容来源和真实性的加密方法、日志记录方法、指纹识别或其他技术，以及这些技术的组合。虽然序言第133段提及证明来源和真实性的方法，但提供者无须记录或保存完整的来源链，纳入内容来源和修改信息或有关内容历史的任何其他相关声明。不过，此类来源方法也可用于遵守《人工智能法》第50条第2款，并有助于自然人区分人工智能生成或操纵的内容与真实内容。

(74) 提供者可在价值链的不同阶段对输出实施标记方案，例如在人工智能系统层面于内容生成后实施，在底层人工智能模型层面实施，或者将其整合进人工智能系统的推理过程。在标记方案符合《人工智能法》第50条第2款的前提下，提供者可依赖上游模型提供者或提供该方案的第三方所实施的标记方案，例如开放标准或专业服务。此种依赖不影响人工智能系统提供者证明其符合第50条第2款的责任。

4.2.2. 检测义务

(75) 属于《人工智能法》第50条第2款适用范围的人工智能系统提供者必须确保，其系统输出可被检测为人工智能生成或操纵的内容。这意味着提供者有义务确保可能接触该内容的人能够获得检测手段。此外，根据《人工智能法》第50条第5款，此类检测方案应当能够生成便于人类阅读的结果，说明内容是否由人工智能生成或操纵。

(76) 检测工具是用于检测内容是否由人工智能生成或操纵的机制，通常通过识别技术标记或签名来核验其来源。为确保充分的可互操作性，提供者必须依赖公开可用的行业标准检测方案，使任何第三方都能实施检测；理想情况下，该检测可在数字设备本地执行，并能无缝集成至独立、隔离的网络。如尚不存在此类标准，尤其是在落实《人工智能法》第50条第2款水印技术的初始阶段，只要自有方案、第三方方案或共享检测方案能够与其他提供者使用的检测方案实现可互操作（见第4.2.3节），提供者即可予以采用。这种可能性应当仅在有限期间内存在，直至形成协调标准以及标准化、不依赖特定提供者、可互操作、安全、保护隐私且可在本地执行的检测方案。

(77) 《人工智能法》第50条第5款进一步明确，第50条第2款所指信息应以清晰、可辨识的方式提供给接触内容的自然人，最迟不得晚于首次互动或接触之时。该信息尤其是表明内容是否由人工智能生成或操纵的检测结果，而不是人工智能生成或操纵的内容本身。“首次接触之时”应理解为自然人希望核验特定内容来源，并访问检测方案以取得检测结果的时刻。

(78) 如果人工智能系统提供者依赖其他主体提供检测方案或提供对该方案的访问，则必须确保该检测方案符合《人工智能法》第50条第2款和第5款，并确保这些主体按照第50条第5款展示检测结果（见第7节）。

4.2.3. 技术解决方案要求的合规：有效、可互操作、稳健且可靠

(79) 《人工智能法》第50条第2款第二句规定，标记和检测技术解决方案必须有效、可互操作、稳健且可靠。这些要求应作如下理解：

• 有效性，是指提供者实施的技术解决方案能够检测其标记，并使自然人能够将其人工智能系统生成或操纵的内容与其他内容区分开来，从而促进信息生态系统的可信度和完整性。
• 可靠性，是指在正常条件下，面对提供者人工智能系统生成或操纵的各种内容，技术解决方案能够准确识别人工智能生成或操纵的内容，并将其与其他内容区分开来。
• 稳健性，是指在不同条件下，包括常见改动和对抗性攻击，技术解决方案能够准确识别提供者人工智能系统产生的人工智能生成或操纵内容，并将其与其他内容区分开来。
• 可互操作性，是指不同标记和检测技术解决方案能够跨多个系统、主体、情境和技术实现无缝运行，以检测人工智能生成或操纵的内容，而不取决于不同人工智能系统提供者所部署的具体标记技术。

(80) 提供者必须确保标记和检测技术解决方案的组合从整体上达到法律要求的程度，满足上述全部要求，并考虑所部署不同方案的局限性和互补性。在技术上可行的范围内，技术解决方案必须符合全部要求，同时考虑不同内容类型的具体特征和局限、实施成本以及可能反映在相关技术标准中的普遍公认的现有技术水平。

(81) 《人工智能法》第50条第2款所称“技术上可行”的解决方案，是指在相关具体技术架构和运行环境中，利用当前可用技术、方法和工程实践，能够针对该条款范围内各种模态实施的解决方案。提供者无须采用尚未开发、尚未投放市场或在技术上无法实施的技术解决方案。技术可行性是一项客观概念，不取决于个别提供者的特定资源和能力。

(82) 《人工智能法》第50条第2款要求提供者实施符合普遍公认的现有技术水平、技术上可行的一项或多项解决方案，以满足有效性、稳健性、可靠性和可互操作性四项质量要求。

(83) “现有技术水平”应理解为在特定时点，就产品、流程和服务而言，基于科学、技术和实践经验中已经成熟的相关成果，并被公认为良好技术实践的技术能力发展阶段〔注28〕。现有技术水平并不必然意味着仍处于实验阶段或技术成熟度不足的最新科学研究。随着技术和现有技术水平的发展，提供者必须及时、适度地持续调整其标记和检测方案。

(84) 根据《人工智能法》第50条第7款，提供者可以依据经该款评估认定为适当且符合现有技术水平的实践守则，证明其遵守第50条第2款和第5款规定的标记与检测义务。关于遵守此类守则的效果，以及对未遵守守则的其他提供者进行监督的进一步信息，见下文第8.1节。

(85) 某些标记和检测技术解决方案的实施成本也可纳入考虑。在下述某些情形中，相较于增量收益，相关成本可能不成比例，而这些增量收益对于使人类区分人工智能生成或操纵的内容，以及确保信息生态系统的完整性和可信度，仅具有更为有限的价值。

(86) 因此，在范围严格限定的情形中，考虑到人工智能系统输出的具体特征，以及其内在的欺骗、操纵或对信息生态系统产生负面影响的风险较低，采用稳健性较低的元数据标记作为技术解决方案，可能足以符合《人工智能法》第50条第2款。尤其是在生成式人工智能系统嵌入实体产品，并在技术上受控且封闭、输出主要用于提供指引的环境中生成输出时，例如嵌入车辆导航系统的人工智能系统，只要产品内置有效技术措施，防止输出通过被捕获、导出并对外传播等方式离开产品环境，即属于此种情形。

(87) 在有限的“工业人工智能应用”或“企业对企业应用”（不包括面向公众和消费者的人工智能系统）情形中，基于比例原则，并考虑到其对实现透明度目标的益处有限，也可能无须对人工智能生成或操纵的输出进行标记和检测。仅在同时满足以下要求时方可适用：

• i. 人工智能系统生成的输出在性质上严格属于技术内容，例如工程设计、工业生产工作流、技术指令、工业场景中预测性系统维护流程所生成的输出、内部文件处理流程，或者输出最终确定并提供给其他外部人员或公众之前的生产步骤和工作流。
• ii. 人工智能系统生成的输出仅拟由提供者和部署者组织内部预先确定的少数以职业身份行事的自然人感知和处理。
• iii. 人工智能系统生成的输出不得拟在公司外部分享，也不得供外部人员使用，并须设置适当保障措施以避免可合理预见的滥用，例如云环境隔离、基于角色的控制。

(88) 实时生成、短暂存在并被立即消费，且不被记录、存储或进一步传播的内容（例如电子游戏、虚拟现实应用中的内容），在标记技术上不可行，且接触内容的人已被告知内容由人工智能生成或操纵时，也可免于适用该义务，例如通过体验内披露或会话级通知予以告知。

4.3. 《人工智能法》第50条第2款义务的例外

(89) 《人工智能法》第50条第2款明确规定了该款所定透明度义务的三项例外。

(90) 第一项例外涉及为标准编辑提供辅助功能的人工智能系统。标准编辑应理解为对既有内容进行发布或传播准备的过程，例如为提高可读性并改进语法、质量和格式而作的小幅编辑，不涉及生成新内容。标准编辑的目的包括确保内容不存在明显的技术错误、语法或语言错误，符合适用的版式、呈现、格式或无障碍要求，或者符合行业惯例。如果内容发生实质性改变，例如影响其含义、风格或意图的实质修改、结构变化等，则超出了标准编辑的范围。

(91) 第二项例外适用于人工智能系统未实质性改变部署者提供的输入数据或其语义的情形。如果人工智能系统在输出生成过程中显著操纵了输入数据或其语义，则应认为改变具有实质性。对此必须基于相关因素进行评估，例如格式、媒体内容类型、风格以及影响内容含义、风格或意图的改变。是否构成实质性改变，需要逐案评估。

(92) 如果人工智能系统既可用于内容生成或操纵，也可用于对输入数据作非实质性的轻微改变，则《人工智能法》第50条第2款规定的透明度义务不适用于以轻微且非实质性方式改变的内容。

(93) 第三项例外适用于经法律授权，为侦查、预防、调查或起诉刑事犯罪而生成或操纵合成内容的生成式人工智能系统。上文第46—48点就该例外所作的说明在此同样适用。

4.4. 与其他欧盟法律文件的相互作用

(94) 《人工智能法》第50条第2款规定的标记和检测义务关注内容如何生成以及是否源自人工智能，而非内容由谁创作。因此，人工智能系统提供者采用的任何标记和检测方案都必须符合适用的欧盟数据保护法，包括数据保护原则和义务，例如通过设计和默认设置实现数据保护的义务、数据最小化原则以及安全性和保密性原则。例如，为进行标记和检测，不应处理与内容创作者有关的信息；所处理的任何其他个人数据应在检测目的实现后立即删除；必须确保安全性和保密性等。

(95) 《人工智能法》序言第136段进一步强调，第50条第1款、第2款和第4款规定的透明度义务对于促进《数字服务法》的有效实施尤其重要。这特别涉及超大型在线平台（“VLOP”）或超大型在线搜索引擎（“VLOSE”）提供者的义务，即勤勉识别、分析、评估并缓解由人工智能生成或操纵的内容传播可能引发的系统性风险，尤其是对民主进程、公民话语和选举进程实际或可预见的负面影响风险，包括通过虚假信息造成的风险（《数字服务法》第34条和第35条）。机器可读标记可使这些提供者检测由人工智能生成或操纵的内容，并提供适当标注和披露，从而降低其服务中人工智能生成虚假信息的风险。

(96) 《人工智能法》第50条第2款和第4款规定的人工智能系统生成或操纵内容的标记和标注义务，不影响《数字服务法》第16条第6款规定的托管服务提供者处理根据该法第16条第1款收到的违法内容通知的义务〔注29〕。尤其是，对人工智能生成或操纵内容适用的标记或标注，不应影响依照其他监管框架对特定内容违法性作出的评估和决定。该评估应仅依据这些框架中规制内容合法性的规则进行〔注30〕。例如，如果一幅已标注的深度伪造图像被举报为可能构成儿童性虐待材料（CSAM），或者侵犯商标权或著作权，使用标注并不影响该内容在相关监管框架下可能具有的违法性；对此应仅依据各项适用法律进行评估，例如刑法、商标法或著作权规则。

(97) 反过来，根据《人工智能法》第50条第2款嵌入内容的机器可读标记，可以帮助超大型在线平台和超大型在线搜索引擎提供者履行《数字服务法》第34条和第35条规定的义务，即识别、分析和评估由人工智能生成或操纵的内容传播可能引发的系统性风险，尤其是对民主进程、公民话语和选举进程实际或可预见的负面影响风险，包括通过虚假信息造成的风险〔注31〕，并针对所识别的具体系统性风险采取合理、适度且有效的缓解措施。如果超大型在线平台和超大型在线搜索引擎提供者将人工智能系统整合进其服务，并满足《人工智能法》规定的相关条件，其也可能构成人工智能系统的提供者（另见第6.1.5节）。

(98) 特别鼓励在线平台、在线搜索引擎提供者以及价值链中传播内容的其他相关主体，保留提供者根据《人工智能法》第50条第2款实施的标记并使之可被识别，从而使接触内容的自然人能够获知其来源。

5. 《人工智能法》第50条第3款：情绪识别系统和生物特征分类系统

(99) 《人工智能法》第50条第3款要求情绪识别系统和生物特征分类系统的部署者，将系统正在运行的事实告知接触这些系统的自然人。

(100) 《人工智能法》序言第132段说明，这项义务旨在确保自然人（包括残障人士）知悉其正在接触可能对其隐私构成侵扰的情绪识别和生物特征分类系统。因此，无论相关人员是实时接触此类系统，还是系统在事后运行，该义务均适用。

5.1. 《人工智能法》第50条第3款的主要构成要素、概念及相关透明度义务

5.1.1. 情绪识别系统的概念

(101) 《人工智能法》第3条第39项将“情绪识别系统”定义为“基于自然人的生物特征数据，旨在识别或推断其情绪或意图的人工智能系统”。委员会关于高风险人工智能系统分类指南对这一概念的详细说明，包括其中列举的实践示例，在适用《人工智能法》第50条第3款时同样具有相关性。

(102) 除在工作场所和教育领域根据《人工智能法》第5条第1款(f)项受到禁止的情形外，所有情绪识别系统均被归类为高风险系统。因此，第50条第3款规定的透明度义务应与适用于高风险人工智能系统的其他保障措施和要求一并适用。

5.1.2. 生物特征分类系统的概念

(103) 《人工智能法》第3条第40项将“生物特征分类系统”定义为“基于自然人的生物特征数据，旨在将其归入特定类别的人工智能系统，但作为另一商业服务的附属功能且出于客观技术原因严格必要的除外”。委员会关于高风险人工智能系统分类指南对这一概念的详细说明，包括其具体要素和其中列举的实践示例，在适用《人工智能法》第50条第3款时同样具有相关性。

(104) 需要强调的是，除根据《人工智能法》第5条第1款(g)项受到禁止的情形外，第50条第3款适用于任何生物特征分类系统，例如基于生物特征数据进行年龄或性别分类的系统，无论其是否属于《人工智能法》规定的高风险人工智能系统范围。

5.1.3. 《人工智能法》第50条第3款规定的信息告知义务

(105) 应提供的信息范围：部署者必须告知有关自然人，其正在接触运行中的情绪识别系统或生物特征分类系统。《人工智能法》不要求披露系统运行的原因，也不要求披露系统是否还为情绪识别或生物特征分类以外的目的处理信息；但欧盟数据保护法要求披露这些信息（见第5.3节）。

(106) 信息接收者：《人工智能法》第50条第3款要求部署者告知所有接触人工智能系统运行的自然人，包括儿童。

(107) 提供信息的方式：除《人工智能法》第50条第5款要求以清晰、可辨识的方式并依照适用的无障碍要求（回应残障自然人的需要）提供信息外，《人工智能法》并未规定具体告知方式。如何告知接触系统的自然人，可取决于部署场所（例如虚拟游戏平台、实体商店、火车站）、可能的信息接收者（例如儿童、老年人、残障人士、顾客）、接触的时长和类型（例如长期、一次性、持续或间歇），以及部署者与接触人员之间是否可能存在关系（例如是否已有与个人沟通的渠道）。视具体用例而定，可采用书面形式、标准化图标（包括以电子方式呈现时）、口头方式或上述方式的组合提供信息。

(108) 提供信息的时间：根据《人工智能法》第50条第5款，最迟必须在首次与人工智能系统互动或首次接触系统时提供信息。在适当情况下，不排除提前提供所要求的信息。

5.2. 执法目的例外

(109) 对于法律允许为侦查、预防或调查刑事犯罪而使用，且根据欧盟法律为第三方权利和自由设置适当保障措施的情绪识别系统和生物特征分类系统，信息告知义务不适用。上文第46—48点关于这一例外的说明在此同样适用，但有一处不同：《人工智能法》第50条的其他例外要求法律明确授权以不透明方式使用人工智能系统；而第50条第3款规定，在规范执法机关职权的法律规则允许其使用情绪识别和生物特征分类系统侦查、预防或调查刑事犯罪的情况下，只要设置了适当保障措施，即可不告知有关人员。

5.3. 与其他欧盟法律文件的相互作用

(110) 《人工智能法》第50条第3款规定的信息告知义务本身并不能使情绪识别和生物特征分类系统的使用合法化，也不能使可能违法并受《人工智能法》第5条或其他欧盟法律禁止的侵入性或歧视性使用获得正当性。除欧盟数据保护法规定的任何适用信息告知要求外，部署者还须遵守《人工智能法》第50条第3款的信息告知义务。在某些情况下，部署者可以考虑将第50条第3款要求的通知加入根据欧盟数据保护法向数据主体提供的信息之中。

6. 《人工智能法》第50条第4款：深度伪造内容及特定公开发布文本的标注

(111) 《人工智能法》第50条第4款为生成式人工智能系统的部署者规定了两项分别适用的义务，要求其对下列内容作出清晰、可辨识的披露：(i) 深度伪造内容；以及 (ii) 为就公共利益事项向公众提供信息而发布的人工智能生成或操纵文本，但明确规定的情形除外。这些标注义务是在适用于生成或操纵合成图像、视频、音频或文本内容的人工智能系统提供者的第50条第2款机器可读标记和检测义务之外适用，且不影响后者。

6.1. 《人工智能法》第50条第4款关于深度伪造内容的主要构成要素、概念及相关透明度义务

(112) 适用《人工智能法》第50条第4款第一分段，须满足以下若干条件：

• i. 该系统必须是人工智能系统；
• ii. 部署者将其用于职业目的（见第2.3节和第2.4.1节）；
• iii. 用于生成或操纵构成深度伪造内容的图像、音频或视频内容；
• iv. 人工智能系统不得落入经法律授权为侦查、预防、调查或起诉刑事犯罪而使用的例外。

6.1.1. “深度伪造内容”的概念

(113) 《人工智能法》第3条第60项将“深度伪造内容”定义为“由人工智能生成或操纵，类似于现实存在的人员、物体、地点、实体或事件，并会使人误以为其真实或属实的图像、音频或视频内容”。第4.1节已说明操纵与生成的区别。为阐明深度伪造内容的概念，下文将分析该定义中须同时具备的四项标准：(i) 类似于；(ii) 现实存在的；(iii) 人员、物体、地点、实体或事件；(iv) 会使人误以为真实或属实。

• i. 相似性：《人工智能法》第3条第60项规定，人工智能生成或操纵的图像、音频或视频内容必须与现实存在的对象“相似”，方构成深度伪造内容。《人工智能法》序言第134段进一步规定，这种相似应达到“明显”的程度。如果人工智能生成或操纵的图像、音频或视频内容与深度伪造内容所模拟的对象（包括该对象任何可辨认的要素）具有高度相似性，即构成明显相似。相关内容无须与对象完全相同。相似程度是否达到明显水平，应由部署者逐案评估；评估应以被模拟对象与深度伪造内容之间的客观比较为基础，并考虑深度伪造内容呈现该对象特征性或独特性特征的程度等因素。
• ii. 现实存在的：《人工智能法》第3条第60项规定，人工智能生成或操纵的图像、音频或视频内容必须类似于“现实存在的”对象，方构成深度伪造内容。为有效实现第50条第4款降低冒充、欺骗、错误信息、操纵和欺诈风险的目的，“存在”这一特征意味着，人工智能生成或操纵的图像、音频或视频内容应类似于现实中存在或可能存在的对象，例如人员、物体或地点。因此，只要被模拟的人员、物体、地点、实体或事件类似于现实中存在、可能合理存在或者原本可能合理存在的某人或某物，即足以视为深度伪造内容，因为此类内容可能成为欺骗、操纵和虚假信息的重要来源。反之，例如违反自然规律或物理定律，或者描绘生物学上并非通常认可的生命形态（例如没有机械辅助而飞翔的人类、龙或驾驶汽车的大象），且不具有误导可能性的被模拟人员、物体、地点、实体或事件，应视为不符合现实，因而不属于透明度义务的范围。
• iii. 人员、物体、地点、实体或事件：《人工智能法》第3条第60项规定，人工智能生成或操纵的图像、音频或视频内容应类似于现实存在的“人员、物体、地点、实体或事件”，方构成深度伪造内容。“人员”应理解为符合现实的人类形象，包括真人的数字复刻、人工智能生成的逼真人类化身或人物，以及图像、声音、行为、表演等个人特征或表达。“物体”应理解为逼真的无生命物质物品，包括建筑物、艺术品、机器、消费品等。“地点”应理解为现实中可能存在的地点。“实体”应理解为逼真的非人类有生命存在，包括动物或其他生物生命形态。“事件”应理解为可能涉及人员、物体、地点和实体的具有现实感的场景或情境，例如唤起历史事件，或描绘职业服务或消费者服务。
• iv. 使人误以为真实或属实：第四，《人工智能法》第3条第60项规定，类似于现实存在的人员、物体、地点、实体或事件的人工智能生成或操纵图像、音频或视频内容，“会使人误以为其真实或属实”。这项标准关系到深度伪造内容的本质特征，即其可能就内容的真实性或属实性欺骗或误导他人的能力〔注32〕。内容真实性是指，就其来源或创作过程而言，内容是否确实如其所声称的那样，包括例如是否有真人或真实动物参与及其实际行为或行动、物体的真实外观或使用、服务的实际提供，以及事件的准确展开或进程。属实性涉及内容是否符合事实，例如深度伪造内容中的表述是否事实准确。

(114) 对内容是否“会使人误以为真实或属实”，应作整体评估，并考虑类似程度、内容可能传递的实质性信息、预期和可预见的部署情境、内容呈现环境，以及预期和可合理预见的受众构成及其期待。不过，该评估具有客观性，构成深度伪造内容并不要求部署者意图欺骗或误导接触内容的自然人。就部署情境和受众期待而言，如果内容用于特定部署情境，而预期和可合理预见的受众并不期待内容真实或属实，那么即使人工智能生成或操纵的内容事实上并不真实或不属实，也可能不会使人误以为真实或属实。在此情形下，深度伪造内容定义的第四项标准不成立。例如，作为标准电影制作流程组成部分的背景场景、特效或技术性前期和后期处理，由人工智能生成或操纵，通常不太可能使受众误以为内容真实或属实。反之，利用人工智能生成或操纵影响受众感知的关键要素，则很可能产生这种效果，例如完全由人工智能生成的演员、真实或已故演员的数字复刻、减龄处理、包括部分表演在内的模拟表演，或者纪录片中对人员、物体、地点或事件所作的不真实或不属实呈现。对于图像和视频内容，应承认高度照片写实性会提高其被视为深度伪造内容的可能性，因为其很可能类似于现实存在的对象；但仅有照片写实性并不是评估的决定因素。仍须评估此类内容是否可能就其真实性或属实性欺骗或误导他人，同时考虑预期和可预见的部署情境等因素。

(115) 与《人工智能法》第50条第1款不同，评估内容是否使人误以为真实或属实，不应以预计会接触内容的假设“普通”人为基准（见第3.2.1节），而应适当考虑可能接触深度伪造内容的可合理预见受众可能具有的多样化构成。如果可合理预见深度伪造内容在某时点可能由儿童、老年人或数字素养、人工智能素养或一般知识水平较低的其他群体感知，适当考虑受众构成尤其重要，因为这些人更容易就内容的真实性或属实性受到欺骗或误导。在此情形下，只要内容会使该部分可预见受众误以为真实或属实，就可能足以使内容构成深度伪造内容。不过，部署者无须考虑第三方在其可合理预见受众范围之外进一步传播深度伪造内容的可能性，但应考虑预期传播渠道。例如，深度伪造内容仅在网站订阅者专属部分展示或仅作为企业通讯的一部分，并不意味着部署者当然应当考虑其可能向广大公众开放。

(116) 同理，在人工智能支持下对既有内容中不重要的实质或技术方面进行操纵，可能仅对他人判断内容真实性或属实性产生轻微影响，并不会使处理后的内容成为深度伪造内容。例如，这可包括编辑背景细节（如移除路人）、调整光线、调整音频参数、色彩校正、降噪或去噪、提高无障碍性或压缩文件，以及美化调整和增强。具体操纵是否属于这一类别，取决于相关情境及其在具体案件中对他人感知内容真实性或属实性的影响。例如，在产品广告或包装中，人工智能驱动的色彩校正、对既有内容的背景延展、出于明显审美目的进行的背景调整或替换、对既有产品进行组合和排列，或者调整图像尺寸，通常只会轻微影响他人对广告及产品真实性和属实性的感知。反之，超出标准技术性编辑惯例、由人工智能驱动并对新闻图像背景细节进行的实质编辑，可能对他人感知内容真实性和属实性产生负面影响。

6.1.2. 《人工智能法》第50条第4款第一分段规定的披露义务

(117) 《人工智能法》第50条第4款第一分段要求，使用人工智能系统生成或操纵构成深度伪造内容的图像、音频或视频内容的部署者，“披露该深度伪造内容系由人工智能生成或操纵”。《人工智能法》序言第134段明确，使用人工智能系统生成或操纵深度伪造内容的部署者，应相应标注人工智能输出并披露其人工智能来源，以清晰、可辨识的方式说明此类内容系由人工智能创作或操纵。依照第50条第4款第一分段使用的标注或披露方式，应当能够由自然人理解和感知，例如使用可见或可听的标签，而无须其依赖任何特定技术工具或实施专门操作。因此，部署者不能仅依赖提供者根据第50条第2款嵌入内容的机器可读标记，因为这些标记对于接触深度伪造内容的自然人而言并非立即清晰、可辨识。

(118) 根据《人工智能法》第50条第7款，部署者可以遵守经依该款评估认定为适当的实践守则，证明其履行这项披露义务。关于遵守此类守则的效果以及对未遵守守则的其他部署者进行监督的进一步信息，见下文第8.1节。

6.1.3. 艺术性、创作性、讽刺性、虚构性或类似深度伪造内容的透明度

(119) 《人工智能法》第50条第4款第一分段为构成明显具有艺术性、创作性、讽刺性、虚构性或类似作品或节目的组成部分的深度伪造内容，规定了减轻的透明度义务。对于此类内容，透明度义务仅限于以不妨碍作品展示或欣赏的适当方式披露深度伪造内容。

(120) 相关内容类别：要适用减轻的透明度披露，深度伪造内容（图像、音频或视频）应至少构成下列内容类别之一的组成部分：艺术性、创作性、讽刺性、虚构性或类似作品或节目。某项深度伪造内容是否属于一个或多个此类类别，须由部署者逐案评估。为适用《人工智能法》第50条第4款，这些类别应作如下理解：

• 艺术性作品应理解为出于艺术目的创作的作品，包括音乐、电影作品和视觉艺术；
• 创作性作品应理解为涉及创作选择的作品。主要由功能或技术考量驱动的作品，不能视为创作性作品；
• 讽刺性作品应理解为意在运用幽默手法，包括反讽、挖苦、嘲弄、戏仿等，对社会、政治、商业或公众人物作出批评的作品；
• 虚构性作品应理解为在想象但具有逼真性的背景中涉及人员、物体、地点、实体或事件的文化作品；
• 类似作品应理解为与上述类别共享核心特征，或具有相似表达或功能特征，但无法完全归入其中某一类别的作品。

(121) 上述内容类别也可适用于“节目”；节目应理解为由媒体服务提供者编排的节目单或目录中的单项内容，在形式和内容上与电视广播相当〔注33〕。《人工智能法》第50条第4款语境中的“作品”表述，不影响相关内容是否符合欧盟著作权及相关权利法律的保护条件。

(122) 明显性：深度伪造内容属于上述一个或多个内容类别这一事实，应当对接触内容的自然人而言是明显的。这意味着应严格解释这些类别。之所以如此，是因为鉴于对表达自由以及艺术和科学自由的潜在影响，适用的是较轻的披露制度，但错误信息、操纵和欺骗风险仍须得到充分应对。因此，对受众而言性质可能不清楚或含糊不明的内容，不属于这一较轻透明度制度的范围。评估艺术性、创作性、讽刺性或虚构性内容的明显性质时，相关因素包括：(i) 内容是否展现该内容类别特有的形式或风格，例如讽刺性作品中的反讽或夸张、特定艺术风格、鲜明主题、技巧或美学等；(ii) 内容呈现的情境，例如呈现、提供或传播内容的平台、媒介或场所是否与艺术性、创作性、讽刺性或虚构性用途相关；以及 (iii) 受众期待，例如电影、游戏环境或虚拟现实场景。此外，内容必须“明显”属于上述类别之一这一条件，意味着如果内容性质完全是信息性或商业性的，并可辨认为此种性质，例如新闻报道，则不属于这些内容类别。在这方面，包含深度伪造内容的某些类型内容，例如广告或纪录片，在特定具体情况下可能被视为明显具有创作性或虚构性的作品，但在其他情况下则未必如此，因为须逐案评估。当深度伪造内容兼具多种性质，例如同时具有信息性和创作性时，信息性应始终优先，并要求遵守标准标注要求。

(123) 不妨碍作品展示或欣赏的适当披露：构成明显具有艺术性、创作性、讽刺性或虚构性作品或节目组成部分的深度伪造内容，并不排除在《人工智能法》第50条第4款第一分段规定的透明度义务之外。部署者仍须披露内容由人工智能生成或其受到人工智能操纵，但可采用不妨碍作品展示或欣赏的适当方式。《人工智能法》序言第134段明确，此类适当披露不应妨碍作品的正常利用和使用，同时应能维持作品的效用和质量。哪些披露措施属于适当措施，须逐案评估；部署者可以考虑所有相关因素，包括作品性质、受众、情境等。无论如何，部署者均须遵守《人工智能法》第50条第5款（见第7节）。根据第50条第7款，部署者可以遵守经依该款评估认定为适当的实践守则，证明其履行这项披露义务。关于遵守此类守则的效果以及对未遵守守则的其他部署者进行监督的进一步信息，见下文第8.1节。

(124) 第三方权利和自由的适当保障措施：《人工智能法》序言第134段明确，履行减轻的透明度义务以及使用艺术性、创作性、讽刺性或虚构性深度伪造内容，必须“以对第三方权利和自由设置适当保障措施为条件”。因此，在创作或发布深度伪造内容时，即使相关内容被视为艺术性、创作性、讽刺性或虚构性内容，部署者仍须确保第三方的权利和自由得到充分保障和尊重，例如其个人数据保护权或知识产权。不能以适用减轻的透明度义务为由，不尊重欧盟知识产权法或欧盟数据保护法规定的个人或权利人的基本权利〔注34〕。

6.1.4. 执法例外

(125) 如果法律授权使用深度伪造内容，例如模拟从未发生事件的人工智能生成视频，用于侦查、预防、调查或起诉刑事犯罪，则部署者免于履行《人工智能法》第50条第4款第一分段规定的透明度义务。上文第46—48点就第50条第1款类似例外所作的说明，在此同样适用。

6.1.5. 与其他欧盟法律文件的相互作用

(126) 《人工智能法》第50条第4款第一分段规定的透明度义务，与超大型在线平台和超大型在线搜索引擎提供者根据《数字服务法》第34条和第35条识别并缓解系统性风险的义务相互作用，尤其是与《数字服务法》第35条第1款(k)项相互作用〔注35〕。后者列举了超大型在线平台和超大型在线搜索引擎提供者可采取的风险缓解措施，其中包括确保“某项信息——无论其是否构成明显类似于现实存在的人员、物体、地点或其他实体或事件，并使人误以为真实或属实的生成或操纵图像、音频或视频——在其在线界面上呈现时，能够通过醒目标记加以识别”的措施。此外，超大型在线平台和超大型在线搜索引擎提供者还可以提供易于使用的功能，使服务接收者能够指出此类信息。《数字服务法》的这一规定看似与《人工智能法》第50条第4款相似，但实际与之互为补充，并存在两项重要区别：

• 实质适用范围不同：与《人工智能法》第50条第4款相比，《数字服务法》第35条第1款(k)项涵盖范围更广、可能使人误以为真实或属实的内容，而不考虑制作内容所使用的技术，即其涵盖使用人工智能系统或任何其他工具生成或操纵的内容。
• 主体适用范围不同：《人工智能法》第50条第4款要求生成或操纵深度伪造内容的人工智能系统部署者标注此类内容，而《数字服务法》第35条第1款(k)项适用于传播内容或使此类内容能够通过搜索被发现的超大型在线平台和超大型在线搜索引擎提供者。例如，如果部署者使用超大型在线平台传播由相关人工智能系统生成的内容，则整合进该平台的人工智能系统部署者可能构成《数字服务法》第3条(b)项所称“服务接收者”〔注36〕；如果满足《人工智能法》第3条第3项的条件，超大型在线平台则可能被视为该人工智能系统的提供者。如果超大型在线平台或超大型在线搜索引擎提供者向此类部署者提供标注工具，使其能够按照《人工智能法》第50条第4款标注深度伪造内容，即清晰、可辨识地披露人工智能来源，则部署者可以在其使用的超大型在线平台或超大型在线搜索引擎情境中，依靠这些工具履行该条规定的透明度义务。提供此类功能不影响部署者根据《人工智能法》履行第50条第4款标注义务的责任。此外，如果超大型在线平台和超大型在线搜索引擎提供者在其自身责任范围内，为自身职业目的使用人工智能系统，例如制作营销材料中的视觉内容，则其也将被视为《人工智能法》所称人工智能系统部署者。

(127) 如果深度伪造内容包含与可直接或间接识别的自然人（在世者）有关的信息，则作为欧盟数据保护法所称控制者的部署者，还须遵守欧盟数据保护法规定的相应义务〔注37〕。例如，这包括以适当的法律依据处理个人数据，以及提供关于处理被描绘数据主体相关数据的信息等。

(128) 人工智能系统生成的深度伪造内容如纳入受相关法律保护的客体，部署者还须确保遵守相关欧盟知识产权法，例如欧盟商标法以及欧盟著作权或相关权利法律。对深度伪造内容使用标签或图标，本身不影响其能否获得著作权保护；对此应依照适用的欧盟著作权法进行评估。

(129) 深度伪造内容描绘现实存在人员时，部署者还须遵守保护个人图像或声音等人格权的相关法律制度。《人工智能法》第50条第4款第一分段的透明度义务，并不意味着可以生成和传播根据适用欧盟法律或成员国法律具有危害性并属违法的人工智能生成或操纵深度伪造内容，例如误导性广告，或构成儿童性虐待材料、未经同意的私密图像等刑法所涉内容（另见第4.4节）。

6.2. 《人工智能法》第50条第4款关于人工智能生成或操纵文本的主要构成要素、概念及相关透明度义务

(130) 适用《人工智能法》第50条第4款第二分段，须满足以下若干条件：

• i. 该系统必须是人工智能系统；
• ii. 用于生成或操纵为就公共利益事项向公众提供信息而发布的文本（见第4.2.1节）；
• iii. 人工智能系统的使用不属于下列任一例外：(1) 人工智能生成的内容已经过人工审查或编辑控制，且由自然人或法人对内容发布承担编辑责任；或 (2) 法律授权其用于侦查、预防、调查或起诉刑事犯罪。

6.2.1. 为就公共利益事项向公众提供信息而发布的文本

(131) 为明确《人工智能法》第50条第4款第二分段的范围，下文分析三个要素：(i) 已发布的文本；(ii) 旨在向公众提供信息；(iii) 涉及公共利益事项。

• i. 已发布的文本：人工智能生成或操纵的文本应当已经发布。这意味着，无论是否收费（例如订阅），数量不确定且相当多、彼此无关联的潜在读者应能同时和／或先后访问该文本〔注38〕。反之，如果访问仅限于属于封闭私人群体的特定个人，例如即时通讯应用上的小型封闭群组，或者群体规模过小或不足以构成面向公众的发布，则文本不视为已发布。不视为已发布的文本示例包括私人个人间往来信函（为职业目的进行者亦然），或者组织内部文本或通信，例如企业内部网络上的发布物。
• ii. 向公众提供信息：人工智能生成或操纵并已发布的文本应旨在向公众提供信息。这意味着文本应意在传达知识、意见或事实。反之，未在实质上传达知识、意见或事实的短文本，不能视为向公众提供信息。
• iii. 涉及公共利益事项：文本应就“公共利益事项”向公众提供信息。一般而言，此类事项应理解为与地方、国家、欧盟或国际层面的全社会相关，并值得公共讨论或监督的事项。在这方面，如果文本涉及政治和民主进程、公共行政和服务、司法和执法、基本权利保护、公共安全、公共卫生、环境保护、消费者安全，以及可能成为公共讨论相关主题的任何经济、金融、政治、科学或文化发展，则应视为涉及公共利益事项。可视为具有公共利益的事项，可能随时间和情境演变。

6.2.2. 《人工智能法》第50条第4款第二分段规定的披露义务

(132) 《人工智能法》第50条第4款第二分段要求，使用人工智能系统生成或操纵为就公共利益事项向公众提供信息而发布文本的部署者，披露此类文本系由人工智能生成或操纵。《人工智能法》序言第134段明确，与深度伪造内容相同，属于该条款范围的公开发布文本的部署者，应相应标注人工智能输出并披露其人工智能来源，以清晰、可辨识的方式说明此类内容系由人工智能创作或操纵。与深度伪造内容的要求相同，依照第50条第4款第二分段采用的标注或披露方式（包括免责声明），也应当对自然人而言清晰且可感知，例如采用可见或可听措施，而无须其依赖任何特定技术工具或实施专门操作。根据《人工智能法》第50条第7款，部署者可以遵守经依该款评估认定为适当的实践守则，证明其履行这项披露义务。关于遵守此类守则的效果以及对未遵守守则的部署者进行监督的进一步信息，见下文第8.1节。

6.2.3. 经人工审查或编辑控制并承担编辑责任的文本所适用的透明度义务例外

(133) 《人工智能法》第50条第4款第二分段规定，在同时满足以下两个条件时，可适用该条所定透明度义务的例外：(i) 人工智能生成或操纵的文本必须经过人工审查或编辑控制；且 (ii) 必须有法人或自然人对发布承担编辑责任。在相关情况下，部署者可依赖适用的专业或职业道德标准，按照下文说明证明符合这些要求。

• i. 经人工审查或编辑控制的文本

(134) 适用《人工智能法》第50条第4款第二分段例外的第一项条件是，人工智能生成或操纵的文本须经过人工审查或编辑控制。人工审查，是指由一名或多名具备与审查主题相关的知识和专业判断能力的自然人，对内容实质进行有意识的审查，例如学术同行评审或专业验证链。核查内容的事实准确性是此类审查应当包含的最低要求。编辑控制，是指负有责任的编辑实体（例如总编辑）在实践中对内容实施的控制；该实体有权基于实质性理由批准、更改或拒绝文本实质，包括核查信息事实以及确保来源可信。这不影响适用于媒体服务提供者的既有审查和编辑程序及专业标准。

(135) 表面性的、纯粹形式或程序性检查，例如拼写检查或语法纠正；仅仅存在编辑政策；自动审查流程；或者人工审查者或编辑实体未进行实质介入而草率作出的编辑批准，均不能满足本例外所称人工审查或编辑控制条件。

(136) 如果在编辑审核确认后使用人工智能系统修改、补充或重新表述内容，则为适用《人工智能法》第50条第4款，必须将所得内容视为人工智能生成或操纵的内容。因此，在人工审查或编辑控制流程完成后发生的任何实质性人工智能介入，都会使该例外失效。

(137) 根据《人工智能法》第50条第7款，部署者可以遵守经依该款评估认定为适当的实践守则，证明其满足该款规定的人工审查或编辑控制条件；对于不受既有编辑专业或职业道德标准约束、并非媒体服务提供者的部署者，尤其如此。关于遵守此类守则的效果以及对未遵守守则的部署者进行监督的进一步信息，见下文第8.1节。

• ii. 编辑责任

(138) 适用《人工智能法》第50条第4款第二分段例外的第二项条件是，必须有法人或自然人对内容发布承担编辑责任。这意味着，该人员必须对内容发布承担最终法律责任，包括人工审查或编辑控制，例如个人、编辑委员会或出版公司。为确保公共问责和信任，并符合既有媒体专业标准，负有编辑责任的法人、自然人或职能的身份及联系信息，应当在容易找到的位置向公众提供，但已经通过其他方式提供的除外。例如，在线上可通过网站条款和条件或其他面向用户的法律信息提供；在线下则可将这些信息纳入出版物的版权页或版本说明。

6.2.4. 执法例外

(139) 如果法律授权使用人工智能系统生成未经人工审查、为就公共利益事项向公众提供信息而发布的文本，例如在社交媒体上发布由人工智能生成的、涉及恐怖主义威胁的警方警告，以侦查、预防、调查或起诉刑事犯罪，则部署者免于履行《人工智能法》第50条第4款规定的透明度义务。上文第46—48点就第50条第1款类似例外所作的说明，在此同样适用。

6.2.5. 与其他欧盟法律文件的相互作用

(140) 对欧盟媒体法而言，编辑责任是一项关键概念；《欧洲媒体自由法》（EMFA，即条例(EU) 2024/1083）第2条第8项对其作出了定义〔注39〕。在该语境下，“编辑责任”是指“为提供媒体服务而对节目或新闻出版物的选择及其编排实施有效控制，无论成员国法律是否规定对所提供服务承担责任”。在某些情形下，这一定义可能与《人工智能法》第50条第4款第二分段所使用的编辑责任概念重叠，尤其是在人工智能系统部署者也构成《欧洲媒体自由法》所称媒体服务提供者时。因此，《人工智能法》第50条第4款所称编辑责任应结合现有欧盟媒体法律体系进行解释，但其仍是一项独立概念，只要相关部署者对文本发布承担编辑责任，该概念也可适用于更广泛的情境及其他部署者。媒体服务提供者可以依赖其既有编辑流程和标准，适用《人工智能法》第50条第4款第二分段规定的例外。

7. 适用于根据《人工智能法》第50条第5款提供信息的横向要求

(141) 根据《人工智能法》第50条第5款，依照第50条第1—4款提供的信息，应当以清晰、可辨识的方式提供给有关自然人，最迟不得晚于首次互动或接触之时。信息还应当符合适用的无障碍要求。此处的有关自然人包括：与人工智能系统直接互动的人员（《人工智能法》第50条第1款）；接触人工智能生成或操纵合成内容的主动用户、被动用户和其他人员，无论其是否与人工智能系统直接互动（《人工智能法》第50条第2款和第4款）；以及受到情绪识别或生物特征分类系统使用影响的人员（《人工智能法》第50条第3款）。

7.1. 以清晰、可辨识的方式提供信息

(142) 如果信息醒目、有关自然人（包括残障人士）易于理解且易于访问，则视为以清晰方式提供。如果信息易于识别，可与其他信息和内容呈现环境区分开来，则视为以可辨识方式提供。受众也必须易于理解该信息；当儿童或残障人士等特定群体属于可预见会接触内容或与系统互动的受众时，这一要求同样适用于这些群体〔注40〕。为以清晰、可辨识的方式提供信息，相关信息除其他形式外，可以作为互动的一部分呈现（《人工智能法》第50条第1款），也可作为相关内容的一部分呈现（《人工智能法》第50条第2款和第4款）。如果在正常接触或互动条件下，自然人很容易忽略或遗漏信息，例如仅将其纳入说明手册，或者将其隐藏在在线界面多层菜单选项之下或用户通常不会阅读的使用条款中，则不视为以清晰、可辨识的方式提供。

7.2. 首次互动或接触

(143) 《人工智能法》第50条第5款要求，最迟在首次互动或接触之时向有关自然人提供信息。首次互动或接触不仅指首位自然人与人工智能系统（或其输出）互动或接触，也包括此后任何其他自然人首次与该人工智能系统（或其输出）互动或接触。就首次与人工智能系统互动而言，至少应在互动会话开始时提供一次信息，同时考虑上文所述具体情境。对于属于《人工智能法》第50条第2款和第4款范围的人工智能生成或操纵内容，信息告知义务针对接触内容的每一名自然人适用于人工智能系统的每一项输出。应将其理解为自然人有合理可能接触人工智能系统输出并感知披露的任何时点，同时考虑明显具有创作性、艺术性或其他性质作品在披露方面的特殊性（见第6.1.3节）。此外，部署者可以早于实际首次互动或接触之时告知自然人，例如在含有深度伪造内容的内容开始时告知。不过，如果可以合理预见某些人可能不是从内容开头开始感知，仅在内容开头披露就不足以适当告知这些人员；在可能的情况下，还应当在之后的时点补充披露。可结合具体情况采用适当实施方式，同时考虑透明度义务的目标：在日益沉浸、逼真的人工智能环境中，用户越来越难以区分内容和互动的来源及属实性，因此应确保有效提供信息并使用户形成有意义的认知。

7.3. 遵守适用的无障碍要求

(144) 属于《人工智能法》第50条第1—4款所列各项透明度义务适用范围的人工智能系统提供者和部署者，必须了解适用的无障碍要求，例如指令(EU) 2016/2102〔注41〕和指令(EU) 2019/882〔注42〕的要求，并评估其产品、服务或内容是否须遵守这些规则。在须遵守的情况下，其必须按照适用的无障碍要求，确保依照《人工智能法》第50条传达的信息具有无障碍性。《人工智能法》第50条并未规定单独或附加的无障碍要求。

8. 《人工智能法》第50条的执行

(145) 本节旨在澄清：(i) 遵守实践守则对于履行人工智能生成内容透明度义务的效果；(ii) 主管监督机构在执行《人工智能法》第50条中的作用；(iii) 违反这些义务所适用的处罚；以及 (iv) 第50条义务开始适用的时间。

8.1. 遵守经评估认定为适当的实践守则的效果

(146) 属于《人工智能法》第50条第2款和第4款适用范围的人工智能系统提供者和部署者，可以通过遵守经依第50条第7款评估认定为适当的实践守则，证明其履行这些条款各自规定的人工智能生成内容透明度义务〔注43〕。此类守则并不取代《人工智能法》或本指南，而是对二者的补充：无论生成式人工智能系统提供者和部署者的设立地、运营地及主管市场监督机构为何，其均可通过这一全欧盟唯一获得认可的实践框架，证明履行这些义务。

(147) 提供者和部署者也可通过适当的其他手段证明履行这些义务，但遵守经评估认定为适当的实践守则，是一种直接、可预见且具有法律确定性的证明方式。对于经依《人工智能法》第50条第7款评估认定为适当的实践守则的签署方〔注44〕，委员会和主管市场监督机构将在监督活动中重点评估这些签署方是否遵守该实践守则并实施其中所载措施。由于遵守守则的提供者和部署者将透明说明其为遵守《人工智能法》第50条第2款、第4款和第5款而实施的措施，其将获得委员会、其他主管市场监督机构和其他利益相关方（包括公众）更高的信任。如果经评估认定为适当的实践守则签署方选择退出守则的某些部分，相关提供者和部署者将失去就这些部分便利证明合规的益处。

(148) 未签署经依《人工智能法》第50条第7款评估认定为适当的实践守则的提供者和部署者，应通过其他适当手段证明其如何履行第50条第2款、第4款和第5款规定的义务。此外，此类提供者和部署者应当说明其实施的措施如何确保履行《人工智能法》所定义务。例如，其应开展差距分析，将已经实施的措施与经评估认定为适当的实践守则所规定的措施进行比较。由于主管机关（包括人工智能办公室）对未签署实践守则的提供者和部署者如何确保履行《人工智能法》第50条第2款、第4款和第5款规定义务的了解较少，其在监督合规时可能需要更为详细的信息。例如，为评估为遵守《人工智能法》第50条第2款而实施的技术解决方案的有效性、可互操作性、稳健性和可靠性，未遵守实践守则的提供者也可能收到更多信息请求和访问请求。部署者也可能就其根据第50条第4款实施的标注做法收到此类请求。

(149) 主管机关确定罚款数额时，可根据具体情形，将依照经评估认定为适当的实践守则实施的承诺作为从轻因素加以考虑〔注45〕。

(150) 如果实践守则未依《人工智能法》第50条第7款被评估认定为适当，委员会可以通过实施法案，就落实《人工智能法》第50条第2款、第4款和第5款的义务规定共同规则；这些规则将适用于属于上述条款适用范围的所有相关人工智能系统提供者和部署者〔注46〕。

8.2. 市场监督机构

(151) 成员国指定的市场监督机构、人工智能办公室〔注47〕和欧洲数据保护监督员〔注48〕，负责监督和执行其职权范围内人工智能系统所适用的规则，包括《人工智能法》第50条规定的透明度义务。此类执行在条例(EU) 2019/1020及《人工智能法》建立的产品市场监督和合规体系内进行。市场监督机构针对人工智能系统采取执法措施的职权由上述条例规定。这些机构可以主动采取执法行动，也可在收到投诉后就《人工智能法》第50条所列义务采取执法行动；每一名受影响者，或任何有理由认为存在此类违法行为的其他自然人或法人，均有权提出投诉〔注49〕。当《人工智能法》第50条与其他法律框架同时适用时，例如数据保护或消费者保护框架，市场监督机构根据《人工智能法》承担的职责，不影响其他监督机构或基本权利机构依其自身法律框架享有的职权和承担的任务。

8.3. 处罚

(152) 未遵守《人工智能法》第50条规定的适用透明度义务的提供者和部署者，可能被处以最高15,000,000欧元罚款；违法者为企业的，最高罚款为其上一财政年度全球年营业总额的3%，两者取其高。违反透明度义务的欧盟机构、机关和部门，可能被处以最高750,000欧元的行政罚款。对于中小企业（包括初创企业），每项罚款以上述百分比或金额为上限，两者取其低。罚款应有效、适度并具有劝阻性，同时考虑中小企业和小型中等市值企业（包括初创企业）的利益及其经济生存能力。主管机关在决定是否处以行政罚款以及逐案决定行政罚款数额时，应评估具体情形中的所有相关情况，并酌情考虑影响违法严重程度的一系列因素，例如违法行为及其后果的性质、严重程度和持续时间，属于过失还是故意，其他加重或减轻情节，与市场监督机构的合作程度等。

8.4. 开始适用

(153) 根据《人工智能法》第113条，第50条将自2026年8月2日起适用。这要求所有属于适用范围、已在欧盟投放市场或投入使用的人工智能系统在该日符合该条规定，而不论其投放市场或投入使用的日期为何〔注50〕。欧盟立法机关近期通过的《人工智能法》修正条例（“人工智能综合方案”），仅就2026年8月2日前投放市场或投入使用的生成式人工智能系统所适用的《人工智能法》第50条第2款标记和检测义务，设想了一项针对性的既有系统过渡规则。该规则给予这些既有系统的提供者过渡期，在2026年12月2日前使其系统符合规定。对于部分具有交互性、部分具有生成性的系统，仅第50条第2款标记义务可适用这一过渡期；直接与自然人互动的人工智能系统则必须自2026年8月2日起遵守披露义务。

(154) 对于2026年8月2日前已经生成或操纵、属于《人工智能法》第50条第2款范围的人工智能生成或操纵输出，以及属于第50条第4款第一分段范围的深度伪造内容，无须追溯进行标记或标注。对于属于第50条第4款第二分段范围，在2026年8月2日前已经由人工智能生成或操纵并已发布的公共利益事项文本，同样如此。反之，如果文本在2026年8月2日前已经生成或操纵，但在该日或其后发布，则须进行标注。尽管如此，考虑到《人工智能法》所追求的透明度目标以及提升信息生态系统可信度和完整性的目标，仍鼓励持有或传播既有、未标注深度伪造内容的人工智能系统部署者和其他主体对其进行标注，但并不期待其为此付出不成比例的努力，例如审计既有内容数据库或修改已经印刷的产品包装。

9. 指南的审查和更新

(155) 本指南构成对《人工智能法》第50条所定透明度义务的首次解释，并附有实践示例。鉴于落实透明度义务所积累的实践经验，以及这一领域技术、社会和监管发展的速度，委员会将在必要时尽快审查本指南。这也包括市场监督执行行动积累的任何相关经验，以及欧盟法院就《人工智能法》第50条作出的解释。在审查过程中，委员会可决定撤回或修改本指南。委员会鼓励人工智能系统提供者和部署者、通过人工智能委员会参与的各国市场监督机构、人工智能咨询论坛、研究界以及民间社会组织，通过回应未来公开咨询征求意见，为这一过程作出贡献。

来源注