刘庆峰提议构建可信信息环境应对AI生成“幻觉数据”危害

时间：2025-03-05 15:30

小编：小世评选

在即将召开的十四届全国人大三次会议上，全国人大代表、科大讯飞董事长刘庆峰提出了一项重要建议，旨在应对日益严重的AI生成“幻觉数据”问题。他强调，随着生成式人工智能技术的迅速发展，如何确保信息的真实性和可靠性，已成为亟待解决的重大课题。

根据中国互联网络信息中心（CNNIC）发布的《生成式人工智能应用发展报告（2024）》，目前我国生成式人工智能产品的用户规模已经达到2.49亿人。这一庞大的用户基数在享受便捷服务的同时，也面临着AI内容的真实性危机，因为生成式AI很容易生成与事实不符的“幻觉数据”。刘庆峰指出，尤其是深度推理模型的逻辑自洽性日益提高，使得AI生成的内容真假难辨。如果不加以控制，虚假信息可能通过新一代AI系统循环传播，导致公众对信息来源的信任下降，甚至可能影响到社会的整体稳定。

刘庆峰提出了一系列建议，主要集中在构建可信数据的安全标签体系和研发针对AI生成内容的治理技术。

他建议建立一个安全可信且动态更新的信息源和数据知识库，以便为不同类别的数据建立标识。这一标签体系将能够综合评估数据的可信度和可能产生的危害，从而有效降低AI幻觉发生的概率，并提升生成内容的可靠性。例如，可以通过引入多维度数据验证机制，确保AI生成的信息不仅来自权威的数据库，还能与实时数据进行比对。

刘庆峰呼吁设立专门的治理，研发针对AI生成“幻觉数据”的检测与清理技术。通过建立幻觉自动分析软件和技术，AI系统将能够对生成内容进行实时审查，并标注出虚假及有害信息。这一技术将有助于开展深度鉴伪、假信息检测、有害内容识别等工作，进而由相关部门定期对幻觉数据进行清理，减轻其对公众的影响。为了提升公众的防范意识，还建议开发相应的工具与服务，帮助普通用户识别和应对AI生成的虚假信息。

值得注意的是，在近期访谈中，全国政协委员、360集团创始人周鸿祎也对此问题发表了看法。周鸿祎强调，企业在应用人工智能技术时，必须将其与企业的专有知识库相连接，以便进行有效的校正。他认为，企业可以利用自身的数据资源对AI生成的内容进行修正，从而提高信息的真实度与可信性。

刘庆峰所提出的建议不仅针对当前的技术和管理现状，更为未来的技术发展指明了方向。随着AI技术的飞速发展，如何构建一个既安全又可信的信息环境，将对整个社会的信息生态产生深远影响。无论是对于企业，还是对于普通用户，提高对AI生成内容的认识，增强对信息的判断能力，都是当务之急。

建立可信的信息环境，以应对AI生成的“幻觉数据”对社会带来的潜在威胁，并不是一朝一夕之功。这需要各方共同努力，、企业、技术开发者及学术机构应协同合作，携手构建一个更加透明、安全的网络信息生态。只有这样，我们才能在享受生成式人工智能带来的便利时，确保信息的真实性和可靠性，维护社会的和谐与稳定。