全国人大代表李东生呼吁加强AI深度伪造欺诈管理
时间：2025-03-14 14:00
小编：小世评选
近日，全国人大代表、TCL 创始人兼董事长李东生在全国两会上就日益严峻的 AI 深度伪造技术滥用问题提出了重要建议，强调应该加强对这一新兴技术的管理与监管，以保护公众利益，维护社会安全环境。他的呼吁为当前迅速发展的人工智能技术及其应用提供了深刻的反思和应对方向。
近年来，随着生成式人工智能技术的蓬勃发展，深度伪造技术的应用场景日益广泛。这种技术能够根据输入的音频、视频或文本，生成具有高度相似性的仿真内容，比如伪造音视频对话、篡改图片等。这些深度伪造内容虽然在娱乐、影视、广告等领域具有潜在的应用价值，但其带来的安全隐患和法律风险同样不容忽视。
李东生指出，当前AI深度伪造技术的广泛应用，给网络欺诈、信息泄露等问题带来了新的挑战。在他看来，必须尽快建立一套完整的管理和监督体系，减少该技术的恶意滥用。他提出了几项具体的建议与措施，旨在推动国家在这一领域的规范化管理。
他建议加快对人工智能深度合成内容的标准化和治理进程。现在，虽然相关技术处于飞速发展的阶段，但相应的法律法规和道德标准却滞后于技术应用的步伐。这就导致在很多情况下，深度伪造内容的生成和传播得不到应有的约束。李东生认为，应加强相关法规的制定与实施，明确何种深度合成内容属于违法行为，从而能更有效地保护用户的合法权益。
他提到需要对人工智能深度合成服务提供商进行监管。随着技术的日益普及，越来越多的企业和个人投入到这项技术的开发与应用中。市场缺乏统一的标准与规范，使得一些不具备良好道德和社会责任感的服务商可能会滥用这一技术，造成严重后果。因此，建立一个针对AI服务商的监管机制，确保他们遵守相关法律与道德标准，就显得尤为重要。
第三，李东生呼吁加强国际间的合作，共同形成有效的监管网络。深度伪造技术的应用具有全球性、跨地域的特点，仅仅依靠单一国家的监管措施是远远不够的。在这一领域，国际间的信息共享、技术交流及合作监管会大幅提升对恶意行为的打击力度，使得深度伪造的恶性应用受到更为有效的控制。
除了上述建议，李东生在去年的全国两会上，还曾提出过加强高清显示产业的呼吁，希望通过创新与投资，提升公众的视听体验。这种对新兴科技的关注和重视，恰恰展现了他对未来技术应用的敏锐洞察能力。可以看出，随着人工智能及其相关技术逐渐渗透到生活的方方面面，如何在促进技术进步的同时，构建一个良好的安全环境，将是各界需要共同面对的一大挑战。
李东生的呼吁不仅是对AI深度伪造技术现状的深刻反思，更是对未来社会如何正确利用这一技术、避免潜在风险的重要提醒。加强对深度伪造内容的管理、制定相应的法律法规、建立行业标准，以及强化国际合作，都是实现这些目标不可或缺的步骤。希望在、企业与社会的共同努力下，能够推动形成一个更加安全、透明的人工智能应用环境，让技术真正服务于人类的可持续发展。
