大模型应用进入新阶段专家解析三大发展趋势与安全挑战

时间：2024-12-09 01:40

小编：小世评选

随着国内外大模型（Large Model）技术的迅速发展，应用探索正在各个行业如火如荼地展开。2024年AI+数字笔迹创新应用发展论坛于12月6日在重庆盛大召开，吸引了众多专家与企业代表共同探讨这一技术的未来方向和面临的挑战。

阿里云副总裁兼产业智能首席科学家张磊在论坛上指出，大模型的应用将经历三个关键阶段，标志着从技术突破向实际生产力的转变。通过深入分析，张磊提出在未来的产业发展中将出现两个显著的趋势：一方面，大模型的需求将呈现多元化，越来越多的企业将致力于大模型的探索与应用，进一步推动普惠效应；另一方面，全球大模型产业的发展将趋向于寡头垄断，只有少数强者能够在技术与基础设施供给上占据领先地位。

张磊详细阐述了大模型的三个应用阶段。第一阶段是命名为“无行业属性应用”，涵盖了客服、问答、数据分析、文本生成等各类功能，适用于不同领域的企业；第二阶段则是“行业属性应用”，大模型开始通过智能体、小助手等方式融入特定行业，帮助企业降低成本与提升效率；一个阶段是“大模型重构”，在这一阶段，大模型将具有颠覆性，重新定义业务流程，并打破传统的生产关系。

伴随着大模型的广泛应用，数据安全与算法的脆弱性问题亦日显紧迫。电子科技大学网络空间安全学院院长张小松对此表示，伴随大模型背后的机器学习技术的应用，算法的脆弱性将成为主要的安全隐患。他提到，机器学习在早期阶段面临的主要威胁包括：算法本身的脆弱性使其易受轻微修改的影响，从而导致识别错误；针对大模型进行的毒性攻击或对抗攻击，例如故意输入错误样本等，都会严重危害其稳定性和安全性。

为了应对这些挑战，张小松提出了相应的解决方案。他建议应建立全面的检测机制，不仅要对学习过程进行完整性检测，还要对推理过程进行防错性的监测。对机器学习中涉及的样本内容进行隐私保护也是至关重要的措施。

在安全问题上，身份认证的问题也变得日益重要，尤其在深度伪造技术及其带来的网络安全风险愈发增强的当下。论坛上发布的《2024人工智能数字笔迹技术白皮书》中提到，AI数字笔迹将成为重要的多模态生物特征识别手段，未来在数字经济中发挥着不可或缺的作用。该白皮书指出，通过卷积神经网络等深度学习算法，将大幅提升数字笔迹的识别准确率，预计可达到99.99%之高，这为身份认证与数据安全提供了新可能。

在发言中，张磊也强调了构建良好生态的必要性。他呼吁大模型产业中的领军企业，如云计算、运营商与硬件服务提供商等，需携手共建高质量数字基础设施和数据资源，以形成一个完整的产业链，推动大模型技术的快速发展与安全应用。

随着大模型的逐渐普及和应用领域的拓展，如何在技术创新与安全风险之间取得平衡，将成为未来发展的重要课题。正如论坛中专家们所言，只有在不断探索与挑战中深化技术的同时，完善相应的安全保护措施，才能真正实现大模型技术的可持续发展。