周鸿祎：人工智能将引领新一轮工业革命，深度模型需兼顾安全风险
时间：2025-03-04 17:30
小编：小世评选
在近期接受上海证券报记者采访时，全国政协委员、360集团创始人周鸿祎表示，人工智能（AI）正在成为全新工业革命的重要推动力，能够重塑各个行业的运作模式，带来降本增效的广阔机遇。他认为，大型模型（大模型）在各个领域都能找到切入点，推动行业升级和效率提升。
人工智能的双重特性
周鸿祎提到，当前的AI技术已经进入关键窗口期，争夺产业变革的最佳时机。他也强调，需要关注大模型所带来的潜在安全风险，尤其是在关键行业中，大模型可能引发严重问题的“幻觉”现象。大模型幻觉是指AI生成的信息可能完全是虚构的，但与人类的想象力和创造力密切相关。他认为，这并不完全是个安全问题，而是大模型本身的特征之一，提高了其类人智能的表现。
他指出，虽然幻觉现象很难完全消除，但可以通过交叉验证、联网搜索以及企业知识库的对比等方式进行及时纠正。这不是停滞大模型发展、遏制技术创新的理由。他强调，在大模型经济快速发展的过程中，不能因为幻觉带来的风险而不作为。
DeepSeek与中国AI的崛起
在谈到DeepSeek这一新兴时，周鸿祎指出，它并不只是虚有其名，而是真正为解决AI模型可用性带来了实质性的进展。他提到，许多企业在探索大模型应用时会遇到众多困惑，认为只能停留在对话功能的简单层面。周鸿祎认为，企业需要深入挖掘大模型的潜力，结合具体的行业背景和应用场景，才能实现真正的价值。
他将可行的应用策略定义为三个关键点：需要明确大模型可以解决的具体场景，尤其是那些涉及到提高效率、压缩成本、改善体验的问题。企业需建立专业知识库，以便将行业知识整合，形成一个真正有效的大模型。，将大模型转变为一个真正的智能体，这不仅需要糅合各类技能，还要求建立有效的工作流程，以保证大模型能够落实实际业务。
关注AI实施过程中的安全性
尽管大模型在应用层面展现了巨大的潜力，周鸿祎同时也警惕大模型渗透率提升时可能面临的安全挑战。他指出，随着AI技术的普及，确保智能体的安全、数据的安全以及客户端的防护将成为一个新领域的重要议题。传统的网络安全措施已无法应对当下的复杂局面，因此需要既懂技术又懂安全的企业先行，打造一个安全的AI模型以应对此类挑战。
他提倡的“以模制模”思路，即通过开发安全大模型来监管知识库的使用、智能体的调用，及对用户知识库的潜在“攻击”，将成为一种新的安全策略。周鸿祎还呼吁，行业内需要鼓励具备安全能力的一流企业组成大模型联盟，以推动技术成果的顺利转化。
未来展望
展望未来，周鸿祎认为，中国有望成为全球AI渗透率最高的国家。随着DeepSeek的快速崛起，不仅代表了中国大模型技术的进步，也为全国范围内普及AI人工智能知识提供了重要的教育机遇。他呼吁国家对大模型领域实行包容审慎的监管政策，促进行业的长远发展，助力中国在全球AI领域的竞争力提升。
周鸿祎对人工智能的未来充满信心，但同时也要求在发展与创新中保持警觉，以确保技术能在安全的环境中推进，造福社会的各个层面。在信息技术快速发展的今天，每一步决策都显得尤为重要，而这正是创新与风险并存的时代特征。
