国家发布《人工智能生成合成内容标识办法》 规范AI内容保护社会利益

为促进人工智能的健康发展并保障社会公共利益，国家互联网信息办公室、工业和信息化部、公安部及国家广播电视总局联合制定并发布了《人工智能生成合成内容标识办法》（以下简称《办法》）。该《办法》旨在规范人工智能生成的合成内容标识，确保公民、法人和其他组织的合法权益得到保护。

一、《办法》背景及必要性

随着人工智能技术的迅猛发展，各类利用生成式AI进行内容创作的应用层出不穷，如深度合成图像、语音合成、文本生成等。这些技术为我们提供了便利，但同时也带来了信息传播的风险，特别是涉及虚假信息、版权问题及内容识别困难等。因此，制定相应的管理办法势在必行，以确保公众能够清楚识别哪些内容是由人工智能生成的，从而降低潜在的误导风险。

《办法》的出台依据了《中华人民共和国网络安全法》以及其他相关法律法规，为明确AI产生内容的合法性和规范性提供了法律支持。

二、《办法》的主要内容与结构

《办法》明确了什么是“人工智能生成合成内容”，此类内容指的是通过AI技术生成或处理的信息、图像、音频等。规定了内容标识的方式，主要分为显式标识和隐式标识。

1. 显式标识：在生成合成内容中直接增加标识信息，以文字、声音或图形等方式确保用户显而易见。例如，在生成的图片、视频开头或虚拟场景中添加显著的提示，确保公众能够识别出该内容是由AI生成的。

2. 隐式标识：通过技术手段在内容的文件数据中嵌入标识，这种标识不易被用户直接觉察，但可以为后续的追溯和管理提供必要的信息。

三、标识要求及实施

针对服务提供者，《办法》规定了以下主要要求：

在上传或发布任何生成合成内容时，服务提供者需确保该内容中包含显式标识，尤其是在虚拟场景中。

文件元数据中需添加隐式标识，其内容包括生成合成的属性信息、服务提供者的信息等，以便于识别。

实施内容传播时，需通过适当方式向公众提示该内容属于生成合成。

《办法》还鼓励服务提供者采用数字水印等技术，以增强隐式标识的可靠性。

四、监管与合规

为确保《办法》的有效性，服务提供者不仅要在其上全面落实相关标识义务，还需根据法律法规的要求在服务协议中明确标识的相关细则。在内容传播过程中，必须建立明确的用户标识机制，用户在发布生成合成内容时需主动声明并使用标识功能。

在内容审核方面，互联网应用程序分发拥有核实相关内容标识材料的责任，以确保其符合规定的标准。《办法》还规定任何组织和个人不得恶意删除、篡改或伪造生成合成内容标识，确保内容的真实可信。

五、与展望

《人工智能生成合成内容标识办法》的推出，标志着我国在人工智能内容管理方面迈出了重要一步。这不仅有助于提升公众对AI生成内容的识别能力，还为营造一个更加健康、透明的信息生态打下了基础。

随着技术的进一步发展和应用拓展，未来还会有更为详尽的管理措施和技术标准出台。我们期待《办法》的实施能够在更大程度上保护社会利益，同时，引导人工智能产业的健康有序发展，实现技术与伦理的双重平衡。

本《办法》将自2025年9月1日起正式实施，这为各类相关企业和机构提供了准备和调整的时间。据此，我们希望看到一个更加清晰的AI内容市场，同时也期望借此机会推动更广泛的社会各界加强对人工智能伦理及合规问题的关注与探讨。

来源：央视新闻客户端

编辑发布：音乐有话说

转载请注明出处返回，。