意大利为何同时盯上三家 AI 公司“幻觉”问题:AGCM 想立什么披露规则?

这不是三条零散的 AI 监管新闻,而是意大利竞争与市场管理局 AGCM 在 2025-04-02 到 2026-04-21 间先后推进、并在 2026-04-30 集中对外发布的三起程序。DeepSeek、Mistral 和 NOVA AI 被同时拉进来的共同原因,不是模型会不会出错,而是平台是否在首页、注册页、聊天窗口和购买前节点,以足够清楚、足够本地化、足够靠前的方式,把“AI 可能一本正经地说错话”这件事讲明白。

【封面图】

封面图

1. 引言:这不是三条新闻,而是一套开始成形的监管模板

2026 年 4 月 30 日,意大利竞争与市场管理局(Autorità Garante della Concorrenza e del Mercato, AGCM)发布新闻稿,将 PS12942、PS12968、PS12973 三起程序并列对外公布,称 DeepSeek、Mistral 和 NOVA AI 将在其网站和 App 中提供关于“allucinazioni”风险的更透明信息。这条新闻稿篇幅不长,但背后的监管动作并不轻。它不是在同一天突然启动的三起调查,而是 AGCM 在 2025 年 4 月 2 日至 2026 年 4 月 21 日之间先后推进、最终又选择集中发布的一组案件。

如果把三份正式决定和三份承诺文件放在一起看,这组案件的重要性至少体现在三点。第一,它们把“AI 可能生成不准确、误导性或虚构信息”从技术圈常识,转化成了消费者保护法下的可执法问题。第二,它们把风险披露的重点,从抽象条款文本推到了用户真正接触服务的界面节点上。第三,它们还顺带碰到了一个更大的制度问题:生成式 AI 服务究竟只是消费者产品,还是也可能被看作数字服务法(DSA)语境下的某种信息中介或搜索式接口。

2. 案件全景:先把三案框架讲清楚

三案都适用意大利《消费者法典》第 20、21、22 条关于不正当商业实践和信息透明的规则,并最终通过第 27 条第 7 款的承诺机制结案。也就是说,AGCM 的处理路径不是先作出正式违法认定再处罚,而是接受企业提出的整改承诺,使其具有法律约束力,并在不确认侵权的情况下结束程序。

案号对象启动日期结案日期核心问题结果
PS12942DeepSeek2025-04-022025-12-16是否充分、清晰、本地化地披露 hallucinations 风险接受承诺,未正式认定违法
PS12968Mistral AI / Le Chat2025-06-032026-02-17是否在 Web、App、注册登录前后充分提示 hallucinations 风险接受承诺,未正式认定违法
PS12973ScaleUp / NOVA AI2025-05-302026-04-21不仅是 hallucinations 风险,还包括服务特征与付费方案信息是否混淆接受承诺,未正式认定违法

在三份决定中,AGCM 对“allucinazioni”的定义高度一致:即模型在接收用户输入后,生成包含不准确、误导性或虚构信息的输出。换句话说,监管机关不是在讨论模型有没有“犯错能力”,而是在讨论平台是否让普通消费者在足够靠前的时点,充分知道这种错误风险的存在、边界和后果。

3. AGCM 到底把什么问题法律化了

这组三案最值得注意的地方,不是它们都提到了免责声明,而是 AGCM 把“免责声明够不够”拆成了更细的法律问题。它真正追问的是:这些信息是否足够清晰,是否足够即时,是否足够可理解,是否出现在用户作出注册、购买或使用决定之前,是否以意大利用户能够直接理解的语言呈现,以及是否与服务条款、帮助中心或其他更完整说明形成了可直达的结构。

这一点在 PS12973 的 NOVA AI 决定中被说得尤其明白。AGCM 认为,关于使用 AI 模型可能遇到不准确、误导性或虚构信息的说明,属于消费者作出使用决定所必需的信息。更重要的是,决定书还强调,即便服务在某一层面是免费提供,这种“是否开始使用”的判断仍然可能构成《消费者法典》意义上的商业决定,因为用户在误信输出可靠的前提下,还可能进一步作出其他行为或判断。这个论证非常关键,它把 AI 风险披露的重心,从付费前告知,前移到了更早的“首次接触和首次使用”。

4. 程序时间线与监管互动:这三案是怎样被一步步推到结案的

配图一:三案案件脉络图
配图一:三案案件脉络图

如果按时间顺序看,三案并不是统一模板机械复制,而是 AGCM 在 2025 年和 2026 年持续推进的一组程序。

三案中还有一个共同程序节点:AGCM 都向意大利通信管理局(AGCom)征求了意见。AGCom 在三案中都没有沿消费者保护程序给出通常意义上的实质性意见,而是表示相关问题涉及数字服务领域监管,并保留对潜在 DSA 违规采取行动的可能。这意味着,AGCM 的这组三案从一开始就不是“纯消费者法”故事,而是与数字服务治理边界交织在一起。

5. DeepSeek 案:从英文“for reference only”到前台披露加技术减缓

PS12942 是这组三案中最完整、也最有代表性的一案。根据决定书,DeepSeek 面向非专业用户提供两类服务:网页端 DeepSeek Chat 自 2023-11-02 起即可从意大利访问,App 自 2025-01-15 起全球可用,并在 2025-01-29 之后由 DeepSeek 自愿从意大利应用商店下架。DeepSeek 还表示,其服务以免费和开源方式提供,在意大利并未开展额外商业广告,除了在 X、Discord 和 LinkedIn 官方渠道发布消息外,没有使用其他商业推广活动。

DeepSeek 在程序中提出了几层抗辩。第一,公司强调 hallucinations 是整个行业客观存在且无法完全消除的问题,只能缓解而不能根除。第二,公司称其已通过训练数据优化、多数据集训练和 RAG 等技术方式降低风险。第三,公司主张在程序启动前,用户其实已经见过相关提示,例如输入框下方的英文提示 “Generated by AI, for reference only”,以及在某些敏感主题回答中的 “This response is AI generated, for reference only”。

AGCM 没有把争点停留在“到底有没有任何提示”上,而是把焦点放在提示是否足够清楚、是否足够本地化、是否足够靠前。最终,DeepSeek 提出并被接受的承诺大致可以分为四组。

第一组,是在聊天窗口输入框下方加入永久性的意大利语信息横幅,持续提醒用户:内容由 AI 生成,应始终核实其准确性,且回复可能包含不准确之处。这个横幅还要直接链接到意大利语版的服务条款。

第二组,是把类似提示前移到注册页面,在用户点击“注册”按钮之前显示,并同时把 “使用条款” 和 “隐私政策” 做成可点击链接。也就是说,AGCM 要求 DeepSeek 不只在使用时告知,还要在用户第一次正式进入关系时告知。

第三组,是对医疗、法律、金融等敏感主题引入上下文化提醒。对于这类问题,DeepSeek 承诺在具体回复中插入意大利语警示,提示该回复由 AI 生成并需核实准确性。这一点很重要,因为它意味着 AGCM 并不满足于统一式、静态式的风险提示,而认可在高风险场景中增加更贴近语境的附加警告。

第四组,也是 DeepSeek 案最具辨识度的部分,是技术性减缓措施。DeepSeek 承诺从 pre-training、post-training 和 deployment 三个阶段减少 hallucinations,并明确点名四类目标问题:search hallucinations、rewriting hallucinations、legal hallucinations 和 behavioral hallucinations。具体方法包括过滤低质量训练数据、使用专门问答对和强化学习减少错误输出,以及通过接入外部实时信息和优先权威来源,让模型回答更贴近最新事实。

实施层面,DeepSeek 承诺在接受承诺决定作出后 90 天内完成这些措施,并在 120 天内向 AGCM 报告履约情况;承诺本身则具有无限期效力。

AGCM 对 DeepSeek 承诺的评价非常积极。决定书明确指出,新的意大利语横幅比原本的 “for reference only” 更清晰、更直接,因为它不仅使用了本地语言,还明确提到了“不准确之处”,并通过 “务必/始终核实” 这样的措辞强化了提醒力度。AGCM 还特别指出,DeepSeek 承诺提供完整的意大利语 T&C,构成了该网站“全球范围内的首次国家级定制”。更值得注意的是,AGCM 对技术减缓措施用了明显更高的评价强度,认为这类投资不仅是在披露风险,更是在尝试从根部缓解问题,具有“模型自我修正实验”的意义。

6. Mistral 案:问题不在于后台有没有材料,而在于前台够不够看得见

PS12968 针对的是 Mistral AI 的 Le Chat 服务,AGCM 考察的时间节点是 2025-04-10 时点的 Web 版和 App 版。监管机关认为,在这个时点,Le Chat 的对话窗口中缺少关于 hallucinations 的专门 disclaimer 或 warning,而在用户进入对话窗口之前的多个关键首触点上,例如首页、注册页和登录页,也没有足够明确的警示。同时,虽然 Mistral 在服务条款和帮助中心中提供了一些关于输出错误风险的说明,但这些内容对意大利用户来说并不够容易访问,而且当时也没有意大利语版本。

Mistral 的抗辩比较典型,也很值得注意。公司一方面主张,在 AGCM 选定的时点,Le Chat 其实尚未真正面向意大利消费者“主动提供”,而只是技术上可从意大利访问;它称真正面向意大利的 offering 是从 2025-05-29 与 Iliad Italia 合作开始的。另一方面,Mistral 还强调自己一直通过首登弹窗中的服务条款、帮助中心中的 FAQ 页面,以及部分高风险输出中的提醒,向用户传达模型可能出错的信息。

但 AGCM 的回应非常清楚:问题不在于后台有没有材料,而在于这些材料是否足够“清楚、即时、可理解、可到达”。Mistral 最终被接受的承诺,也正是围绕这个判断展开的。

第一,Mistral 承诺在 Le Chat 的 Web 和 App 窗口中,无论登录前后,都展示更清晰的永久性提示。Web 版的文字是 “Le Chat può commettere errori. Controlla le risposte. Scopri di più”;App 版因为空间有限,采用更短版本 “Possibili errori nelle risposte. Scopri di più”。其中 “Scopri di più” 直接跳转到更新后的意大利语服务条款。

第二,Mistral 承诺把关于输出不准确性的说明正式嵌入意大利语服务条款,并在条款开头加入独立提示,明确告知用户输出有时可能不准确,重要信息必须核实。条款正文还将补充更完整的解释:Mistral AI 产品基于持续演进的大语言模型,不应被视为权威或绝对可靠的信息来源,也不应替代法律、税务、医疗等专业意见。

第三,Mistral 承诺把服务条款的可达性大幅前移和扩散。除了聊天窗口里的 “Scopri di più” 链接外,它还在菜单、注册页、登录页、App 页面,以及 App Store 和 Google Play 的应用信息页中加入指向条款的入口。也就是说,Mistral 处理的不是一两个点位,而是一整套入口矩阵。

第四,Mistral 承诺把整个 mistral.ai 网站和帮助中心翻译成意大利语。决定书特别提到,除整站翻译外,其余大部分措施在决定前其实已经实施,剩余的整站意大利语化将在接受承诺后的 4 个月内完成。和 DeepSeek 一样,Mistral 也需要在 120 天内向 AGCM 报告承诺执行情况。

Mistral 案的重要性在于,它展示了一种与 DeepSeek 不同但同样典型的监管逻辑:即使企业已经在帮助中心、FAQ 或 T&C 中写过相关风险,如果这些信息需要用户自行寻找、需要点击多层、没有本地语言,或者没有出现在真正影响注册和使用决定的页面上,监管机关依然可能认为披露不够。

7. NOVA AI 案:不仅是 hallucinations,还包括“你到底在卖什么”

PS12973 是三案中信息量最大、结构也最复杂的一案,因为它同时处理了两个问题。第一个问题与前两案相同:是否就 hallucinations 风险提供了足够清楚、即时、可理解的信息。第二个问题则更具产品结构意义:ScaleUp 提供的 NOVA AI 到底是什么服务,免费版和付费版分别能访问哪些模型、哪些版本、带来哪些额外价值,这些信息是否说清楚了。

决定书显示,AGCM 认为 NOVA AI 在几个关键环节都存在信息不足。其一,在免费版 chatbox、应用商店入口,以及用户作出付费订阅决定前的首批页面中,都缺少关于 hallucinations 的清晰提示。其二,关于免费版和付费版到底能访问哪些模型、不同版本的差异是什么、订阅的增量价值何在,平台呈现并不清楚。AGCM 甚至明确指出,这种信息缺口不仅会影响“要不要买”,也会影响“要不要用”。

ScaleUp 在承诺文件中的抗辩也很典型。公司称,NOVA AI 的用户通常比一般大众更熟悉 AI,因此对 hallucinations 风险应当已具备较高认知;它还主张,平台已经在 ToS 中加入 “Use of AI Technologies” 章节,并从 2025-10-01 起加入相关 disclaimer。与此同时,ScaleUp 坚持认为,用户在使用过程中其实能够看见哪些模型免费、哪些模型属于 PRO,因此所谓信息混淆并不严重。

但正如最终决定所示,AGCM 并不满足于这些解释。ScaleUp 被接受的承诺可以分为三组。

第一组,是 ToS 与产品定位层面的澄清。ScaleUp 承诺改善 ToS 的可访问性,向意大利 IP 用户提供意大利语版本,并在其中加入更清楚的 AI 风险说明,告知内容可能不完整、不准确或不具唯一性,不应被当作事实性、专业性或完整性建议。更重要的是,ToS 还要更明确地解释:NOVA AI 提供的是对多个 AI 模型的访问,而不是与这些模型存在从属或背书关系的自有模型产品。与此同时,首页 slogan 也会改成 “A single interface to multiple AI models, delivering efficiency of use through aggregation”,用来明确“效率”来自单界面访问多个模型,而不是来自某种神秘的新模型能力。

第二组,是 hallucinations disclaimer 的前台化。ScaleUp 承诺把意大利语提示放到 Web 版 chatbox 下方、App 版 chatbox 上方,并把同样的提示加到注册页;对于意大利用户,点击该提示还将直接跳转到意大利语 ToS。提示内容相当直接:AI 回复可能不准确,用户应当核实信息是否正确。

第三组,是对付费方案和产品结构的进一步拆解说明。ScaleUp 承诺重写购买页面,让用户在完成付费前能看见更详细的计划、价格、功能和适用范围;增加服务与价格对照表的超链接;并进一步解释 unlimited 和 extended 这类容易引起误解的描述,例如 unlimited 指不预设固定数量阈值,而 extended 则是高于基础版但并非真正无限的使用能力,并会补充 token 容量层面的平均可用估计。

这部分承诺的实施期限是 60 天,履约报告期限是 90 天,明显比 DeepSeek 和 Mistral 更紧凑。

NOVA AI 案还有一个特别值得单独记住的点。AGCM 的最终表述并不是简单说 NOVA 是“另一个 AI 模型”,也不是简单说它只是“套壳”。决定书更细的说法是:NOVA 并不是一个对其他系统输出进行再次加工的新 AI 系统;它在付费版中本质上是一个通过单一界面聚合并提供对多个聊天模型访问的服务。这个表述非常重要,因为它说明一旦产品是“入口层”“包装层”“聚合层”,监管机关就不仅会问模型输出风险,还会追问服务身份、付费价值和用户理解之间是否一致。

配图二:三家公司分别补什么
配图二:三家公司分别补什么

8. AGCM 在三案中建立了什么披露规则

把三案放在一起,可以看到 AGCM 实际上已经画出了一套相当具体的披露蓝图。更准确地说,它画出来的不是一句免责声明的模板,而是一条“用户决策路径上的信息结构模板”。监管机关真正审视的单位,已经不再只是某个条款句子写没写,而是用户从首页、注册、登录、进入聊天、升级付费,到真正依赖输出作出判断的整个链路上,关键风险信息有没有被放在该出现的位置。

第一,风险披露必须前台化。单纯把内容写在长条款、帮助中心或 FAQ 中,已经很难被视为充分。提示必须出现在聊天窗口、首页、注册页、登录页、App 页面或购买页面这些真正影响用户决策的节点上。

第二,风险披露必须本地化。三案都把意大利语作为关键要求,这不是形式主义。AGCM 的逻辑很明确:如果用户用意大利语交互,而平台用英文给出笼统提示,那么信息虽然“存在”,但并不当然“有效”。

第三,风险披露必须分层。AGCM 并没有要求所有信息都塞进一个横幅里,而是允许并鼓励一层是前台简短提醒,一层是可点击的超链接,一层是服务条款或帮助中心里的更完整解释。真正重要的是,用户能不能一跳直达,而不是平台有没有在某个角落写过。

第四,风险披露必须与场景相匹配。DeepSeek 案中的医疗、法律、金融类上下文化提醒,表明 AGCM 接受一种更精细的思路:统一横幅是底线,但高风险场景可以也应该有更强的附加提示。

第五,风险披露并不是 AI 产品唯一的透明义务。NOVA AI 案已经把问题推进到服务特征、价格结构和产品身份的层面。对于聚合器、多模型入口或包装层产品来说,真正的合规难点往往不是“加一句 warning”,而是把自己到底提供什么、用户到底买到什么讲清楚。

第六,技术减缓措施开始成为加分项。DeepSeek 案说明,监管机关并不只看信息披露,也开始看平台是否愿意投入资源减少问题本身。虽然这还没有被上升为一般法定义务,但它已经被 AGCM 明确当作一种更值得赞赏的责任实践。换句话说,在这组三案里,AI 合规的重心已经明显从“后端法务文本是否完整”,转向“前台产品架构是否可解释、风险提示是否可见、模型治理是否有证据”。

9. AGCom 与 DSA:第二条监管线已经出现,但边界还没完全定型

这组三案还有一层制度价值,在于它们都牵出了 AGCom 和 DSA。AGCom 在三案中都没有给出传统意义上的消费者保护意见,而是认为相关问题触及数字服务领域监管,并保留对 DSA 违规采取行动的空间。这意味着,至少在意大利制度环境里,生成式 AI 服务已经被放到“消费者保护 + 数字服务治理”的双重视野下审视。

更有意思的是,AGCM 在决定中并没有简单接受 “AI 聊天产品 = 搜索引擎 = DSA 中间服务” 这样的直接跳跃。尤其在 DeepSeek 决定中,AGCM 还专门回应了 AGCom 的视角,指出聊天界面上出现 search 按钮,并不足以当然把整个服务等同为在线搜索引擎;即便存在某些搜索功能,也不意味着该服务当然构成 DSA 意义上的中间服务。与此同时,AGCM 又强调,即便将来某些行为可能也触及 DSA,这并不自动排除消费者法的适用,因为意大利《消费者法典》第 27 条第 1-bis 款仍然为不正当商业实践赋予 AGCM 主要执法地位。

这部分讨论的现实意义在于:未来围绕生成式 AI 的监管,很可能不会沿单一法域线性展开。一个平台今天因为前台提示、条款透明度或服务描述问题进入消费者保护程序,明天也可能因为同一组事实被放到 DSA 的透明义务框架下重新审视。

配图三:披露义务前移到用户决策路径
配图三:披露义务前移到用户决策路径

10. 对 AI 企业的合规启示:这组三案到底在告诉市场什么

如果把三案里的决定书、承诺路径和 AGCM 的评价放在一起看,对 AI 企业来说,至少可以得出九条更具体、也更有操作性的结论。

  1. 合规的最小单位已经不是条款,而是用户决策路径。 这组三案反复说明,监管机关真正关心的是用户在什么时候第一次接触服务、什么时候注册、什么时候登录、什么时候购买、什么时候开始依赖输出,而不是法务团队能不能证明“我们 somewhere 写过免责声明”。这意味着 AI 产品的合规设计必须前移到产品经理、设计师和增长团队参与的界面层。
  2. “免费使用”同样可能触发消费者保护法上的信息义务。 NOVA AI 案最重要的推进之一,就是把“是否开始使用免费 AI 服务”也当作可能受误导的商业决定来处理。对很多 AI 公司来说,这意味着不能再把风险告知只绑定在订阅页或付款页,而必须覆盖试用、注册前、首屏体验和首次对话节点。
  3. 本地语言和本地化不是优化项,而是市场进入条件。 DeepSeek 被要求提供意大利语默认 T&C,Mistral 被要求把条款、帮助中心乃至整站翻译为意大利语,NOVA AI 也被要求对意大利 IP 用户提供意大利语 ToS 和 disclaimer。这释放出的信号很直接:跨境 AI 产品如果想进入特定市场,本地语言信息架构很可能会被当作产品可销售性的前置条件,而不是上线后的补丁。
  4. 统一 disclaimer 只是底线,真正有效的是分层披露。 AGCM 接受的不是“加一句 warning 就结束”,而是一套前台横幅、注册页提示、登录页或购买页提示、超链接跳转以及 T&C/帮助中心详述组成的分层结构。换句话说,未来更难被接受的,不是没有 disclaimer 的产品,而是只有一句 disclaimer、却没有配套解释路径的产品。
  5. 高风险使用场景需要被单独识别和单独加固。 DeepSeek 在医疗、法律、金融语境下追加上下文化提醒,表明 AGCM 已经认可一种更细粒度的风险治理方法。对企业来说,这意味着合规不能只做全局统一提示,还要问自己:哪些 prompt 类别、哪些输出场景、哪些工作流节点更容易引发用户过度依赖?这些地方很可能需要单独的 warning、节流或交互限制。
  6. 聚合器、包装层和多模型入口产品的透明义务会更重。 NOVA AI 案表明,一旦你的产品不是单一模型,而是通过一个界面去接多个模型,那么监管机关会追问的就不只是 hallucinations,而是“你究竟是什么服务”“用户实际访问的是哪些模型和哪些版本”“付费版到底比免费版多了什么”。这类产品的风险不在于它们更像“AI”,而在于它们更容易在服务身份和价值表达上制造认知偏差。
  7. 技术减缓措施开始从工程优化变成合规证据。 DeepSeek 承诺从 pre-training、post-training 到 deployment 逐层降低 hallucinations,之所以被 AGCM 高度评价,不只是因为这些措施“看起来先进”,而是因为它们向监管者证明:公司不是把风险完全甩给用户核实,而是在证明自己有意愿、有方法、有资源降低风险本身。对企业来说,这意味着 hallucination mitigation、evaluation、source prioritization、high-risk output review 这类工作,正在从研发内部事项转化为对外可解释的治理材料。
  8. 同一组事实可能同时暴露在两条监管线上。 三案里 AGCom 都保留了按 DSA 继续行动的可能,而 AGCM 又坚持消费者保护法并不会因此当然让位。对于企业来说,这意味着前台提示、服务描述、条款透明度这些“看起来像小问题”的设计选择,未来可能同时引出消费者法和数字服务法两套审视框架。合规团队如果仍按单一法域切分职责,后面很容易出现没人真正拥有这个问题的局面。
  9. “接受承诺并结案”不等于低风险处理。 三案都没有正式认定违法,但承诺一旦被接受,就具有法律约束力。DeepSeek 和 Mistral 需要在 120 天内报告执行情况,ScaleUp 需要在 90 天内报告;如果不履行,程序可以重启,且决定书明确写明可适用 10,000 欧元到 10,000,000 欧元的行政罚款,重复不履行还可能面临最长 30 天的业务暂停。换句话说,承诺结案不是“轻轻放过”,而是一种带有明确履约压力的监管收束方式。

11. 结语:AGCM 真正推动的,不是一句 warning,而是一套信息结构

这组三案最值得记住的,不是意大利监管机关终于发现生成式 AI 会胡说八道,而是它开始要求平台把这件事从技术圈共识,翻译成普通消费者在真实决策场景中看得见、点得到、读得懂、用得上的信息结构。对 AI 企业而言,真正的变化不只是“条款里要多写两句”,而是产品前台、注册流程、购买页面、帮助体系、服务定位乃至模型治理本身,都开始一起进入消费者保护的可审查范围。

如果要把 AGCM 这组三案压缩成一句更锋利的话,那大概是:未来生成式 AI 的合规竞争,拼的已经不只是模型能力,也不只是法务条款,而是谁能把风险、边界和产品身份更早、更清楚、更本地化地放到用户面前。DeepSeek 案展示了“风险披露 + 技术减缓”的高配版本,Mistral 案展示了“后台材料如何被前台化”,NOVA AI 案展示了“AI 聚合器如何同时面对输出风险和产品定位透明度”的难题。三案合在一起,构成的不是三个孤立案例,而是一条非常明确的方向:在欧洲监管语境中,AI 幻觉不再只是模型缺陷,它正在被重写成一个关于信息透明、用户理解、产品表达与市场选择的消费者保护问题。


说明:本文件为公众号渲染试稿,建议在浏览器中打开后复制渲染结果,再粘贴到公众号编辑器。