中国信通院启动生成式AI产品用户权益保护评估

近日，中国信息通信研究院（以下简称中国信通院）正式启动了针对生成式人工智能（AI）产品和服务的个人信息及用户权益保护的首轮评估。随着生成式AI技术的快速发展，其应用范围已涵盖语音对话、智能助手、内容生成等多个领域，用户对于数据安全和隐私的关注也随之上升。

【评估背景与意义】

根据中国信通院的数据显示，生成式AI的市场正在稳步增长，其应用的便捷性与智能化水平吸引了大量用户。伴随着技术的发展，用户数据的收集、处理与保护问题也逐渐显露出隐忧。在这种背景下，中国信通院决定启动此次评估，旨在通过标准化的评估机制，提升生成式AI产品及服务在用户信息保护方面的透明度与可信度，从而增强用户对这类产品的信任。

此次评估的对象主要包括提供生成式AI服务的应用程序、智能终端等，评估将集中在用户自主权、数据管理及服务体验等多方面。通过构建明确的评估框架，推动生成式AI行业的健康发展。

【评估体系与标准】

中国信通院的评估体系分为三个层次，涵盖了32个能力领域和114项具体要求。具体来说：

1. 基础评估：该层次评估侧重于基础的信息告知、数据处理和服务体验，共设置了9个能力及30项具体要求。这一部分的评估主要关注生成式AI产品在向用户提供服务时的基本透明度，以确保用户在使用产品时能够清楚理解数据收集和使用的基本原则。

2. 增强评估：在基础型评估的基础上，此层次聚焦于用户权利的响应机制和数据输出管理，共评估19个能力和53项具体要求。增强评估要求服务提供者在处理用户个人信息时，能够及时、有效地回应用户的各类请求，如查阅、修改或删除个人信息的权利，确保用户掌握自身数据的控制权。

3. 友好评估：在上述两个层次的基础上，第三层次专注于更高标准的管理，包括训练数据构建、模型训练管理、二次开发管理及供应链管理等，共评估32个能力和114项具体要求。友好评估旨在引导生成式AI的服务提供者在整个产品生命周期中，优先考虑用户体验、数据安全与隐私工作，为用户提供更加安全和放心的使用环境。

在评估启动之前，中国信通院已联合包括快手、vivo、百度、阿里、美柚、OPPO、科大讯飞、抖音等40余家企业，发布了一系列生成式AI个人信息保护的技术标准。这些标准规范了生成式AI产品在个人信息保护领域的基本要求，包括：

第一部分：总则，概述个人信息保护的基本原则和目标。

第二部分：隐私声明告知，明确生成式AI产品在进行数据收集时应向用户提供清晰的隐私声明。

第三部分：训练数据构建，确保训练AI模型所用的数据来源合规且具备可追溯性。

第四部分：模型规制控制，规范模型在生成内容时对用户数据的使用。

第五部分：二次开发管理，确保二次开发过程中对用户信息的再利用遵循相应的保护要求。

第六部分：输出阶段管理，关注模型输出的安全性和可靠性，避免出现数据泄露的问题。

第七部分：个人权利响应，提升用户对自身信息的控制权和知情权的实现。

第八部分：供应链管理，确保整个供应链中涉及的数据和信息安全。

【未来展望】

随着生成式AI技术的不断演进，其应用场景将愈加广泛，用户的权益保护亟需进一步强化。中国信通院的此次评估启动标志着行业向更加规范化、透明化的发展迈出了重要一步，预计将成为未来生成式AI领域信息保护的重要标准。

未来，生成式AI产品的服务提供者在产品设计、数据处理、用户交互等方面都需更加注重用户的权益，确保用户在享受技术红利的同时，也能有效维护其个人信息与隐私。这不仅是提升用户体验的需要，也是推动行业可持续发展的关键所在。

通过此次评估与标准的建立，期待能营造出更加安全、可靠的生成式AI生态系统，为用户提供放心的使用，同时也为市场的健康发展打下坚实的基础。