法规和技术双管齐下，规范 AI 生成内容标识

tayun

2025 年 3 月 7 日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合印发《人工智能生成合成内容标识办法》（“《AI 内容标识办法》”）。与此同时，《AI 内容标识办法》配套出台了强制性国家标准《GB 45438-2025 网络安全技术人工智能生成合成内容标识方法》（“《AI 内容标识标准》”）。

《AI 内容标识办法》《AI 内容标识标准》从法律规定和技术实现两个角度规范 AI 生成合成内容的标识，旨在防范人工智能生成合成内容引发的信息安全风险，提升人工智能安全水平，规范人工智能行业应用和健康发展。

为什么要对 AI 生成内容进行标识？

随着人工智能技术的发展，人工智能生成合成内容已经达到了以假乱真的地步，出现了不少利用生成合成内容传播虚假资讯、引发社会舆情，或是利用生成合成内容进行诈骗的案件。AI 生成合成内容存在被误用、滥用、恶意使用的安全风险，严重影响国家安全，危害网络空间的合法权益。如何在推动 AI 技术进步以造福人类的同时严格控制其带来的风险，对 AI 生成合成内容进行标识，以便提示风险，降低危害。

此外，由于 AI 生成合成的内容不可避免地会被传播扩散，从广义的角度讲，这些内容的消费者对其获得的内容是否属于 AI 工具生成享有知情权。《消费者保护法》保护消费者的知情权，消费者有权了解其接受的服务的真实情况，并要求经营者提供服务的内容、规格等详细信息。对于服务到 C 端应用的某些服务，最终的客户就是服务的消费者，消费者自然也有权利知道服务提供者提供的内容到底是大师手绘的数字化作品，还是 AI 生成的内容。通过对 AI 生成合成内容进行标识，在一定程度上也是保护消费者知情权的体现。

欧盟《人工智能法》和《数字服务法》均涉及 AI 标识。对于目前有限风险的人工智能系统，其提供者须承担标识义务。采用的标识技术可以包括水印、元数据识别、指纹识别、加密方法、日志记录等。

美国正在制定中的《编辑和深度伪造内容来源保护完整性法案》以及《数字内容溯源标识法案》，以及拜登政府颁布的《关于 AI 的安全和可信赖开发和使用的行政命令》为美国 AI 标识技术标准、指南等文件的出台和工作的开展提供指引。

英国的《人工智能（监管）法案》、澳大利亚的《安全和负责任的人工智能咨询：澳大利亚政府的临时回应》、新加坡的《生成式人工智能治理模型框架》、加拿大的《生成式人工智能行为守则》均提及了对 AI 生成内容的标识。

早在 2022 年 11 月，OpenAI 的 ChatGPT 还在青萍之末时，国家网信办等三部门就发布了《互联网信息服务深度合成管理规定》，要求深度合成服务提供者对使用其服务生成或者编辑的信息内容进行标识。

2023 年 7 月，国家网信办等七部门在发布的《生成式人工智能服务管理暂行办法》中也要求生成式人工智能服务提供者对图片、视频等生成内容进行标识。

“The Code is Law”，程序代码就是法律。而技术标准就是实现这种程序代码法律的途径。因此，国家或者国际的标准制定组织也针对 AI 内容的标识提出了技术解决方案。例如，美国标准化委员会 NIST 发布的《数字内容透明度技术方法概述》标准文件中，提出了验证内容并跟踪其来源、标记合成内容、检测合成内容等技术方案。内容来源和真实性联盟 C2PA 发布的《C2PA 技术规范》也采用了可追溯的元数据来保证内容的真实性。

事实上，早在 2023 年 8 月，全国信息安全标准化技术委员会秘书处就发布了《网络安全标准实践指南-生成式人工智能服务内容标识方法》，该文件从技术实现角度围绕文本、图片、音频、视频四类生成内容给出了内容标识方法，为今天国家强制性技术标准的制定奠定了基础。

《AI 内容标识办法》和其他法律法规有怎样的关系？

AI 生成/合成的内容是通过网络服务的方式对外提供，对于 AI 生成合成内容标识的规制是网络安全的组成部分。因此内容生成合成服务提供者以及内容传播服务提供者的行为都应当受到《网络安全法》的规制。

之所以要对 AI 生成合成内容进行管理，就是因为这些内容可能存在违反《网络安全法》的风险。例如，《网络安全法》规定了任何个人和组织使用网络应当遵守宪法法律，遵守公共秩序，敬重社会公德，不得利用网络从事危害国家以及民族的活动，不得传播违法信息、不得编造、传播虚假信息，不得进行侵害他人名誉、隐私、常识产权和其他合法权益等活动。通过对 AI 生成合成的内容进行标注，可以提醒用户这些内容可能并非真实，而是由 AI 形成，从而降低这些违法内容“带病”传播的风险。同时，通过在元数据中对生产者和传播者进行标识的方式，能够起到强化服务提供者责任的效果。

《互联网信息服务深度合成管理规定》提出了两种标识方式，即显式标识和隐式标识，分别应用于不同的场景。例如，在以下服务场景应当进行显著标识：

（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；

（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；

（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；

（四）沉浸式拟真场景等生成或者编辑服务；

（五）其他具有生成或者显著改变信息内容功能的服务。

虽然《互联网信息服务深度合成管理规定》对于 AI 内容标识做了规定，但是这样的原则性规定无法满足具体应用的要求，迫切需要更为具体、细化、可操作的规定。这就是《AI 内容标识办法》和《AI 内容标识标准》颁布实施的原因。

具体应当怎样进行显示标识？

那么，到底应当怎样进行显示标识呢？《AI 内容标识办法》规定按照以下要求对生成合成内容添加显式标识：

（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；

（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；

（三）在图片的适当位置添加显著的提示标识；

（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；

（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。

《AI 内容标识标准》对于文字、图片、音频、视频的显示标识实现给出了示例：

（一）文字标识

对于 AI 生成合成的文字内容，可以通过以上在生成的文字的开头或结尾标注“AI 生成”的方式，亦或是在段落的开头或结尾以角标“AI”的方式实现。

（二）图片标识

如图所示，对于 AI 图片可以采用在图片的边或角标注“人工智能生成合成”的方式实现，字型应当清晰可辨，并且文字高度不应低于画面最短边长度的 5%。

（三）音频

如图所示，可以通过在音频起始位置添加语音标识或音频节奏标识的方式进行标识。其中，节奏标识用字母 A 和字母 I 的摩尔斯码来进行标识。另外，除了在起始位置，音频内容显式标识也可以在音频的末尾位置、音频的中间适当位置等一个或多个位置。并且语音标识应使用正常语速，例如汉语正常语速约在 120 字/min~160 字/min。

（四）视频

如图所示，视频可以通过在视频边或脚标注“人工智能生成合成”的方式实现。

（五）交互场景

1. 在内容显示区域附近显示。

2. 在音频播放区域附近。

3. 在交互场景界面底部。

4. 在交互界面背景。

由于目前视频交互的技术和应用尚不成熟，所以并未规定视频交互场景。

具体应当怎样进行隐式标识？

对于隐式标识，《AI 内容标识办法》要求在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。同时，鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

所谓的文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。《AI 内容标识标准》中规定的文件元数据隐式标识格式如下：

{"AIGC":

{"Label":"value1",

"ContentProducer":"value2",

"ProduceID":"value3",

"ReservedCode1":"value4",

"ContentPropagator":"value5",

"PropagateID": "value6",

"ReservedCode2":"value7"}}

其中，AIGC 字段表明这是和人工智能生成内容相关的元数据标识；Lable 字段用来说明该内容确定是、可能是、疑似是 AI 生成内容。对于何谓可能、何谓疑似，标准中并没有规定。ContentProducer 字段是要说明谁是内容的生产者，例如 DeepSeek、Kimi 或豆包等；ProduceID 字段是在内容生产者范围内该内容的唯一编码，例如 Kimi 给这个内容设定的唯一标识是 12345678；ContentPropagator 字段是要标明内容传播者，假设是某个设计企业用豆包批量生成了一批图片并进行网络展示，那么这里就应当填写该设计企业的标识；PropagateID 是在该传播者范围内该内容的唯一标识。其余两个是保留字段，可以分别被生产者和传播者存储特定的安全防护，保护内容、标识完整性等方面的信息。

无论是图片、音频还是视频，都可以采用以上元数据进行隐式标识。

如何处理隐式标识？

隐式标识是嵌在内容文件的二进制编码中的信息，必须经过信息处理机制才能发挥作用。对于内容传播者，如果对这样的信息视而不见，显然这样的管理信息根本无法发挥作用。因此，内容传播服务提供者必须对隐式标识进行核验并进行进一步的处理，以便将标识信息传导到最终用户。这样，隐式标识的作用才能充分地予以发挥。

内容传播服务提供者应当核验文件元数据中是否含有隐式标识，并根据核验情况进行不同的处理，处理流程如下：

服务提供者有怎样的告知义务？

AI 内容的生成合成服务提供者或内容传播服务提供者有义务将内容标识相关的情况告知用户。

服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。如果用户申请服务提供者提供没有添加显式标识的生成合成内容，在通过用户协议明确用户的标识义务和使用责任后，服务提供者可以提供不含显式标识的生成合成内容。但是，在这种情况下，服务提供者应当留存提供对象信息等相关日志，留存时间不少于六个月。显然，这是为了对将来可能引发的法律责任留下证据。

网络 App 分发平台有怎样的责任？

平台责任问题是网络空间法律责任的热点问题，AI 生成合成内容的标识方面亦不例外。《AI 内容标识办法》规定互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。显然，如果网络平台未履行审核核验等合理注意义务的，存在承担法律责任的风险。

普通用户有怎样的责任？

《AI 内容标识办法》对从 AI 内容生产者到 AI 内容消费者的全链条进行了规制。即使是普通用户使用网络信息内容传播服务发布生成合成内容时，也应当主动声明并使用服务提供者提供的标识功能对 AI 生成合成内容进行标识。任何组织和个人都不得恶意删除、篡改、伪造、隐匿 AI 生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

法律后果

《AI 内容标识标准》属于国家强制性标准。如果没有按照《AI 内容标识标准》对 AI 生成合成内容进行标识属于违反国家强制性标准的行为，服务提供者不得提供这样的服务。未对 AI 生成合成内容进行标识的网络服务提供者提供的服务属于存在安全缺陷、漏洞的服务，如果未采取补救措施或者未及时告知用户并向主管部门报告的，会受到警告、罚款等行政处罚；如果造成严重后果，则依法从重处罚。此外，如果构成违反治安管理行为的，由公安机关依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

结语

内容生成已经从 PGC、UGC 走到了 AIGC 时代，但至少法律目前仍然是由人类自己制定。虽然滞后，但是法律从不缺席。期待这些法律规定能够提醒人类保持一定的警觉，当大家需要的时候，能够挑出一幅自己手绘的图画。


来源：36kr