《人工智能生成合成内容标识办法》发布 2025年起施行

近日，国家互联网信息办公室、工业和信息化部、公安部及国家广播电视总局共同发布了《人工智能生成合成内容标识办法》（以下简称《标识办法》），该办法自2025年9月1日起正式实施。该政策的出台旨在规范和推进人工智能技术的健康发展，确保人工智能生成合成内容的透明度与可追溯性，进而保护公民及组织的合法权益，并维护社会的整体公共利益。

近些年来，随着生成式人工智能和深度合成技术的迅速发展，利用这些先进技术生产文本、图片、音频和视频等内容的能力得到了显著提高。这类技术不仅为经济发展提供了促动力，更丰富了网络内容，极大便利了公众生活。新的技术和应用也随之引发了一系列问题，包括虚假信息的传播、网络生态的破坏等，引起了社会对于加强法律监管和技术管理的广泛关注。为了有效应对这些新兴挑战，国家相关部门积极响应社会呼声，通过制定《标识办法》来强化对人工智能生成的合成内容的管理。

《标识办法》明确提出，人工智能生成的合成内容需实施两种形式的标识，即显式标识和隐式标识。显式标识包括在生成内容或交互场景界面中，以文字、声音和图形等形式呈现的明显可感知的标识。而隐式标识则是在内容的基本数据中以技术手段添加的，不易被用户察觉的标识。这种分层标识方式不仅提升了内容的透明度，也有利于后续的监督和追责。

为了确保《标识办法》的有效实施，政策规定按照相关法规实施生成合成内容的标识活动，服务提供者需添加显式标识于生成的内容中，并根据规定在文件的元数据中加上隐式标识。提供网络信息内容传播服务的机构需采取有效的技术措施，以规范生成合成内容的传播活动。这一系列规定将对生成合成服务的标准化提出明确要求。

《标识办法》特别强调，任何个人或组织不得恶意删除、篡改、伪造或隐匿规定的内容标识。同时，他们也不得为其他人的恶意行为提供工具或服务，或以不正当方式损害他人的合法权益。这些要求将极大增强社会对人工智能生成内容的信任机制，促进健康的网络环境。

值得注意的是，为了进一步推动《标识办法》的落地实施，国家市场监督管理总局及国家标准化管理委员会已正式批准发布了强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》，该标准将于2025年9月与《标识办法》同步实施。这一标准的发布，将为全国范围内的相关活动提供更为具体的操作指引。

全国网络安全标准化技术委员会也在制定针对生成合成服务提供者和信息传播服务提供者的编码，已于近日发布了《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》。此举旨在为相关主体在文档元数据中实施隐式标识提供了重要的编码指导。委员会还计划组织编写一系列推荐性标准与实践指南，涵盖不同文件格式的元数据标识规范和应用场景的标识方法，将会在《标识办法》实施后陆续推出。

《人工智能生成合成内容标识办法》的发布，标志着我国在人工智能领域的监管迈出了重要一步。通过细化生成合成内容的标识要求，构建开放且公正的治理机制，不仅有助于保护公众利益与社会安全，也为人工智能产业的健康、可持续发展奠定了基础。未来，随着相关配套标准的逐步落实，我们期待能够看到一个更加透明、有序的人工智能内容发展环境。