周鸿祎呼吁强化大模型应用安全，助力AI技术发展
时间：2025-03-13 21:50
小编：小世评选
在当今快速发展的科技时代，人工智能（AI）技术的演进已从“追赶者”阶段迈进了“领跑者”行列。尤其是国产推理大模型DeepSeek-R1的问世，标志着我国在AI领域的不懈努力和显著成就。DeepSeek-R1所具备的开源、透明和免费的特性，为和企业的私有化部署提供了良好的基础。随着这些前沿技术的投入使用，随之而来的安全隐患问题也愈加突出。
在2023年全国两会期间，全国政协委员、360集团创始人周鸿祎再次强调了大模型应用安全的重要性。他指出，随着DeepSeek-R1等先进模型的逐步普及，AI技术不仅赋予了企业和前所未有的创新机会，同时也带来了必须通过新方式进行解决的安全挑战。他呼吁各界共同构建完善的大模型应用安全治理体系，以确保在追求技术突破的同时，不忽视潜在的安全风险。
周鸿祎提到，大模型的应用安全主要存在于基座模型、知识库和智能体三个关键领域，每一个环节都可能成为攻击的目标，导致严重后果。在基座模型的安全问题上，普遍存在的“幻觉”现象，即生成的文本信息可能与现实相悖。这在政策制定、法律解释或商业决策等场景下，会导致误导性的结果，给决策带来不可估量的损害。
知识库的安全同样令人关注。在和企业的数据存储系统中，若缺乏有效的安全防护措施，未授权用户可能会利用与大模型的交互机会窃取敏感数据。数据一旦外泄，可能会对企业的竞争优势及的安全构成致命打击。
第三，智能体的安全隐患更是不可小觑。智能体通常与内部各种IT系统、邮件及控制系统相连接，一旦遭到攻击，可能引发一系列连锁反应，包括发送恶意邮件，甚至中断生产线的运行，造成巨大的经济损失与物理伤害。
为了应对这些安全挑战，周鸿祎提出了360公司运用人工智能技术重塑安全格局的思路。他建议通过“以模制模”方式，建立一个覆盖“基座模型—知识库—智能体”的全链路安全体系，以此为和企业的数字转型提供安全保障。
为进一步强化这一安全防护体系，周鸿祎还提出了两项重要措施。他强调需要推动安全技术的创新与成果转化。他呼吁相关部门尽快出台政策，鼓励具有“安全+人工智能”解决方案的企业，围绕大模型的安全问题进行研发，并实现技术成果快速落地。这将有助于将安全措施深度嵌入人工智能应用的全流程，确保技术发展的安全性。
同时，周鸿祎建议建立人工智能大模型安全产业联盟。通过引导相关企业发挥主导作用，整合产业链上下游的企业、科研机构及终端用户，共同组建安全联盟，实现技术成果的共享与合作。通过联合开展产品与服务的测试，确保安全产品的成熟与稳定后，再向更广泛的市场进行推广，以此推动大模型安全保障的普及，帮助各行各业积极应对可能面临的安全问题。
随着AI技术的不断进展与应用场景的多样化，大模型的安全问题亟需引起重视。周鸿祎的呼吁提醒我们，在追求技术创新和效率提升的同时，不能忽视安全问题的潜在影响。各界的共同努力、政策的支持和技术的创新，将是推动大模型安全保障体系建立的重要推动力，助力AI技术的可持续发展。
