9 月 1 日，由国家网信办、工业和信息化部、公安部、国家广播电视总局联合发布的《人工智能生成合成内容标识办法》（以下简称《标识办法》）正式施行。这一办法的出台，旨在促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益。

图片来源：中华人民共和国国家互联网信息办公室

明确标识类别与适用范围

《标识办法》明确，人工智能生成合成内容涵盖利用人工智能技术生成、合成的文本、图片、音频、视频及虚拟场景等信息。其标识主要包括显式标识和隐式标识。显式标识以文字、声音及图形等直观方式，在生成合成内容或交互场景界面中呈现，方便用户直接感知，如视频角落醒目的 “AI 生成” 字样。隐式标识则通过技术手段，添加在生成合成内容文件数据中，虽不易被用户察觉，但可用于内容溯源，像在文件元数据中记录生成合成的相关信息。

该办法适用于符合《算法推荐管理规定》《深度合成管理规定》和《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者。而行业组织、企业等内部研发及使用但未向公众提供服务的，不在此列。

全链条责任明晰

生成环节：服务提供者担主责

在生成环节，网络信息服务提供者需按规定对生成合成内容添加标识。若生成或编辑的信息内容可能导致公众混淆或误认，针对不同类型内容，如文本、音频、图片、视频及虚拟场景等，都有相应的显式标识添加要求，且在提供内容下载等功能时，要确保文件含有符合要求的显式标识。同时，需在生成合成内容的文件元数据中添加隐式标识，包含内容属性、服务提供者名称或编码及内容编号等关键制作要素信息。此外，服务提供者还应在用户服务协议中清晰说明标识规范，并提示用户阅读理解。

图片来源：豆包APP

传播环节：多主体协同把关

传播环节中，网络信息内容传播平台作用关键。平台需核验文件元数据中的隐式标识，对含有隐式标识的，要在发布内容周边添加显著提示标识；对未核验到隐式标识但用户声明为生成合成内容的，以及检测到显式标识或其他生成合成痕迹的疑似生成合成内容，都要采取相应提示措施，并在文件元数据中添加传播要素信息，同时提供标识功能，提醒用户主动声明发布内容是否包含生成合成内容。互联网应用程序分发平台在应用程序上架审核时，要核验提供人工智能生成合成服务的应用是否具备标识功能及相关材料。

应对 AI 发展风险，保障公众权益

近年来，生成式 AI 技术迅猛发展，在为生产生活带来便利、丰富内容创作的同时，也引发诸多问题。AI 生成内容的高仿真性，使得虚假信息、身份冒充、网络诈骗等现象频发。例如，此前曾出现利用 AI 生成 “顶流明星在澳门输 10 亿元” 的谣言，以及 AI 伪造雷军配音视频恶意传播等事件，严重扰乱网络秩序，损害公众利益。

中国人工智能产业发展研究院副院长、AI 治理专家李教授在接受采访时表示“《标识办法》的正式落地，填补了我国在 AI 生成合成内容监管领域的关键空白。当前 AI 生成内容技术迭代速度远超预期，从文本创作到视频合成，其仿真度已达到‘以假乱真’的水平，若不及时通过制度明确标识规则，极易引发信息信任危机。此次多部门联合出台办法，体现了我国在 AI 治理上‘提前布局、主动监管’的思路，为后续技术创新划定了清晰的合规边界。”

《人工智能生成合成内容标识办法》的施行，不仅推动了内容产业健康发展，还促进了AI 技术合规创新，同时规范了内容平台管理，是我国在人工智能发展浪潮中，平衡技术创新与风险防控的重要举措。随着这一办法的深入实施，有望在保障公众权益的基础上，推动人工智能产业与相关行业持续、健康、有序发展。