全国两会聚焦人工智能治理 新《标识办法》将于2025年实施

在今年的全国两会上，人工智能（AI）技术引发了代表和委员们的广泛讨论，成为会议的亮点之一。随着AI技术的快速发展，其在各行各业的应用愈发广泛，但随之而来的风险和挑战也不容忽视。不少代表委员呼吁国家应提升综合治理水平，增强对AI技术的监管，推动科技向善，确保AI产业健康和有序的发展。

在会议上，包括小米集团创始人雷军、美的集团副总裁钟铮、中国民办教育协会副会长李孝轩等多位委员都对AI生成技术，特别是“AI换脸”和高仿真内容的风险表达了关切，他们认为这些技术可能导致虚假信息的传播与社会信任的破裂，亟需切实的治理对策。

为响应这种社会需求，国家互联网信息办公室与工业和信息化部、公安部、国家广播电视总局等联合发布了《人工智能生成合成内容标识办法》（以下简称《标识办法》），该办法预计将于2025年9月1日正式实施。该措施的出台目的在于通过完善AI生成内容的标识机制，加大对生成内容的监管力度，降低其对社会带来的负面影响。

《标识办法》的出台背景是近年来生成式人工智能技术的蓬勃发展，这项技术让用户能够轻松地生成合成文本、图片、音频、视频等多媒体内容。虽然这些技术为经济发展和公众生活的便利带来了积极影响，但也引发了虚假信息泛滥、网络生态环境恶化等问题。因此，越来越多的社会各界呼吁加快立法，强化监管，落实责任，以建立一个安全良好的网络环境。

《标识办法》特别强调，内容标识是治理整合的重要手段，能够有效约束和提醒公众辨别生成的合成内容的真实性。其主要内容包括显式标识和隐式标识两种形式：显式标识要求在生成合成内容或其交互场景中以文字、声音及图形等方式明显标注；而隐式标识则是在生成合成内容文件数据中采取技术措施添加的，不易被用户察觉的信息。这种双重标识的制度设计旨在全面提高AI生成内容的透明度，增强用户对信息的辨识能力。

《标识办法》明确了服务提供者的具体责任，比如在提供生成合成内容的同时，必须确保内容中含有符合要求的显式标识；同时，在文件元数据中添加隐式标识信息，并在服务协议中向用户说明相关标识的要求。通过这些措施，期望能够有效引导和规范生成合成内容的行为，降低其潜在的社会风险。

特别需要注意的是，《标识办法》对的责任进行了规范，强调互联网应用程序分发在审核新上架应用程序时，必须核实其是否提供人工智能生成合成服务，并要求其提供生成合成内容的标识材料。这意味着，将成为治理的重要一环，通过严格的审核和责任追踪，强化内容生成的合规性。

针对如何合法合规地获取未添加显式标识的生成合成内容，《标识办法》也提供了相应的指导。针对用户主动要求提供的未标识内容，可以在不违反法律法规的前提下进行提供，并要求用户在发布和传播时主动声明生成合成情况并添加显式标识。这一设计旨在在确保标识监管的同时，兼顾用户需求与行业的创新发展。

新《标识办法》的实施，是国家在推动人工智能发展的同时，保护公众权益、维护网络空间安全的重要举措。通过建立科学严谨的标识机制，不仅能够有效防止虚假信息的传播，还有助于推动AI产业的健康发展，营造公平有序的市场环境。社会各界期待通过这一措施，能够更好地治理AI技术带来的新兴挑战，助力中国在全球的科技治理中占据更主动的地位。

随着《标识办法》的逐步落实，相信在未来的网络环境中，公众将能更加清楚地辨识和使用AI生成的内容，享受技术带来的便利，同时也提升社会的整体信任度，为科技向善的发展道路铺平坚实的基础。