欧盟《人工智能法案》第 50 条详解

第 50 条实际规定了什么

《人工智能法案》（法规 (EU) 2024/1689）第 50 条规定了四项透明度义务：

1. 与人交流的 AI 系统必须明确表明你正在与 AI 互动，除非从上下文中显而易见。
2. 生成式 AI 的提供者——生成合成音频、图像、视频或文本的系统——必须确保输出以机器可读的格式标记，并可被检测为人工生成或篡改。
3. 情绪识别和生物特征分类系统要求告知受其影响的人员。
4. 深度伪造必须被披露为人工生成或篡改，对明显具有艺术性、创造性或讽刺性的作品则适用较宽松的规则。

触及你磁盘上文件的义务是第二项。它针对的是构建 AI 工具的公司，实际结果很简单：来自主流生成器的图像携带着嵌入的来源数据。第 50 条还责成欧盟 AI 办公室推动制定行为准则，以统一提供者实施标记的方式。

关键日期

• 2024 年 8 月 1 日 — 《人工智能法案》生效。
• 2026 年 8 月 2 日 — 第 50 条的透明度义务开始适用。

C2PA：大型工具使用的标记标准

最成熟的标记技术是 C2PA，这是由 Adobe、Microsoft、Intel、BBC 等发起的行业组织 Coalition for Content Provenance and Authenticity 制定的开放标准。它面向用户的名称是 Content Credentials。

C2PA 标记是一份经过加密签名的清单，以名为 JUMBF 的容器格式嵌入文件之中。该清单可以记录是哪个工具创建了图像、创建时间、是否涉及 AI，以及随后进行了哪些编辑。由于清单经过签名，对其的篡改是可检测的——又因为它随文件一起传播，可以完全离线读取。无需数据库查询，无需上传。

在输出中嵌入 Content Credentials 的工具包括 ChatGPT 的图像生成（OpenAI）、Adobe Firefly、Microsoft 的 Bing Image Creator 和 Designer，以及 Google 的图像模型。如果你曾用它们生成过图像，这些标记很可能已经在你的文件里了。

超越 C2PA：AI 工具留下的其他痕迹

C2PA 并非唯一的标记。图像文件拥有更早的标准化元数据字段，AI 工具也会使用它们：

• IPTC Digital Source Type。一个标准元数据字段，带有描述图像如何产生的受控词汇表。值 trainedAlgorithmicMedia 和 algorithmicMedia 表示图像是用 AI 创建的（「Created using Generative AI」是官方标签），而 compositeWithTrainedAlgorithmicMedia 和 compositeSynthetic 表示它是用 AI 编辑或合成的（「Edited using Generative AI」）。这是 Meta 和 Google 生态系统中偏好的机制。
• 生成器签名。许多工具会将其名称或生成参数写入文件——写在软件标签、注释字段或 PNG 的文本块中。

不同的工具留下不同的痕迹。有些嵌入完整的签名清单，有些写入单个元数据字段，有些两者都做。

我必须给自己的 AI 图像加标签吗？

一般来说，不需要。《人工智能法案》将义务施加于 AI 系统的提供者以及部署它们的组织——并且明确不适用于纯粹以个人、非职业身份使用 AI 的自然人（第 2 条）。如果你为个人用途制作 AI 图像，标记义务在于工具，而非你。职业和商业用途则是另一回事，平台规则可能在法律之上叠加适用。本页面为一般信息，不构成法律建议。

反过来看也值得了解：由于工具会自动标记其输出，你的 AI 图像可能已经被打上标签——无论你是否有意为之。

标记能证明和不能证明什么

在这里，诚实很重要。文件中的标记是涉及 AI 的有力证据。而它的缺失则什么也证明不了：元数据可以被移除，重新保存和截屏会将其丢弃，某些生成器根本不添加任何标记。来源数据告诉你一个文件对自身的声明。这确实很有用——但它与确定性的 AI 检测并不相同。

在本地检查你自己的文件

Privacy Scanner 在你的 Mac 上读取这些标记：它检查图像中的 C2PA Content Credentials 和 AI 相关元数据，并准确显示它找到了哪种类型的标记。扫描是免费的，任何内容都不会离开你的设备——没有上传，没有账户，完全没有网络访问。

来源： 法规 (EU) 2024/1689，第 50 条和第 2 条（EUR-Lex） · C2PA 规范（c2pa.org） · IPTC Digital Source Type 词汇表（iptc.org）