新规发布：人工智能生成内容须标识以保护合法权益
时间：2025-03-15 00:50
小编：小世评选
近日，国家互联网信息办公室、工业和信息化部、公安部及国家广播电视总局联合发布了《人工智能生成合成内容标识办法》，该办法将于2025年9月1日起正式实施。这一新规旨在促进人工智能健康发展，规范相关内容的标识，保护公民、法人及其他组织的合法权益，同时维护社会公共利益。
随着人工智能技术的发展，人工智能生成的内容，如文本、图片、音频和视频，越来越多地进入了人们的生活。由于部分人工智能生成的内容与真实信息难以区分，导致了信息传播的混乱和潜在的法律风险。《人工智能生成合成内容标识办法》的出台，试图通过明确标识要求来应对这一挑战。
标识内容的分类与具体要求
根据《办法》，人工智能生成的内容必须包含显式和隐式两种标识。显式标识是指在生成的内容或交互场景中，通过文字、声音或图形等形式，直接向用户提示该内容为人工智能生成的；隐式标识则是通过技术手段在文件数据中添加的一种不易被察觉的标识。
具体要求包括：
1. 文本要素：在文本的开头、，或适当的位置添加文字提示或通用符号提示，确保用户能够明显感知。
2. 音频要素：在音频的开头、及适当位置提供语音提示，或在界面中添加显著的提示标识。
3. 视觉内容：在生成的图片和视频中，显著标识的要求同样得到强调，如在视频的开始画面或播放周围添加提示标识。
4. 虚拟场景的标识：针对虚拟场景，亦需在适当位置添加显著的提示标识。
为了进一步加强标识的规范和透明，服务提供者在提供内容下载、复制和导出时，也需确保文件中包含符合要求的显式标识。服务提供者须在生成合成内容的文件元数据中添加隐式标识，包括内容属性信息、服务提供者名称、内容编号等关键信息。
社会责任与用户参与
新规强调了服务提供者在内容传播过程中的责任。提供网络信息传播服务的企业需要核验文件元数据，确保生成合成内容的合法性，并在内容发布周边添加显著提示。如果文件元数据中未包含隐式标识，但内容被怀疑为生成合成内容，服务提供者应警示公众以加强识别。
更重要的是，该办法提出用户应积极参与内容的标识工作。当用户利用网络信息传播服务发布生成合成内容时，必须主动声明并使用提供的标识功能。这一要求不仅推动了用户的合规意识，也有助于形成良好的网络信息环境，减少信息传播中的误导和欺诈。
法律责任与后续监督
《办法》中还明确了违反相关规定的法律责任。服务提供者在未按要求执行标识活动，或恶意删除、篡改标识信息时，可能会受到网信、电信、公安等相关部门的处罚。这一设定有效地提升了内容标识的严肃性和法律约束力。
在这一背景下，互联网应用程序分发在应用审核时，也需确认应用服务提供者的内容标识情况。这一措施不仅加强了各方之间的协作，也为内容标识的透明性提供了技术支持。
《人工智能生成合成内容标识办法》的实施将为人工智能技术的发展提供更为清晰的规范，亦将为公众创造一个安全、高效的网络环境。通过加强标识管理，促进社会各界的合规参与，重塑网络内容的透明度和信誉，最终实现人工智能与社会责任的良性互动。这对加强信息的真实性和准确性，提升公众对人工智能技术的信任度，具有重要的现实意义。
