上海启动“清朗・整治 AI 技术滥用”专项行动重点清理违规内容

时间：2025-07-19 20:55

小编：小世评选

在数字技术迅速发展的今天，人工智能（AI）应用已逐渐渗透到我们的生活中，提升了各个行业的工作效率和服务质量。随着技术的进步，AI技术的滥用问题也日益凸显，给社会带来了诸多负面影响。上海市委网信办于近日正式启动了“清朗・整治 AI 技术滥用”专项行动，此举旨在全面清理和整治互联网空间中存在的违规内容和行为，维护良好的网络生态环境。

根据IT之家6月13日的报道，上海市委网信办已公布该专项行动的第一阶段工作成果，表明了对AI技术滥用问题的高度重视。在专项行动中，上海市网信办针对15家重点网站和，包括小红书、哔哩哔哩和拼多多，开展了集中整治，重点清理诸如“一键脱衣”、未经授权的人脸或人声克隆编辑、未备案的AI产品及相关营销、炒作、推广和教学信息等违规行为。这不仅关乎的合规运营，也是保护公众利益的必要措施。

在以上整治工作开展过程中，上海市委网信办还特别强调了对AI应用的安全审核和控制机制的完善。例如，已对33款已完成备案、登记，并提供医疗健康、金融、教育和情感陪伴服务的AI应用进行了深入的督导检查。这些措施旨在确保相应的AI应用能够有效应对安全隐患，降低虚假、误导信息对患者、投资者、未成年人等群体的影响。

在实际操作中，开展“清朗・整治 AI 技术滥用”专项行动是一个复杂而长期的工作，需要相关部门、和社会的共同努力。部门应加大对AI技术及其应用的监控力度，建立健全标准和法规，以便更好地引导和管理AI行业的发展。作为社会参与者，各大也应自觉承担起社会责任，加强对内容的审核和管理，避免成为违规行为的温床。同时，用户在使用AI产品时，也需要增强自我保护意识，提高辨别能力，避免上当受骗。

上海市委网信办表示，后续将进一步深化专项行动，针对AI造谣、低俗内容以及七类突出问题加大整治力度，以保障网络环境的安全和健康。人工智能在为我们提供便利的同时，也不可避免地带来了风险和挑战。社会亟需建立完善的机制，以应对和管理这些风险。

在专项行动的意义时，我们可以看到，净化网络环境不仅是的职责，也是整个社会共同的使命。AI技术的滥用不仅可能造成信息失真，还可能影响社会的安全稳定。因此，本次专项行动在一定程度上向社会传达了一个明确的信号，就是对于AI技术的使用不能放任自流，只有通过合理的管理与运用，才能使这一技术为人类服务，而非成为潜在的威胁。

，我们期待上海市在“清朗・整治 AI 技术滥用”专项行动中的进一步成果，并希望这一行动能够在全国范围内起到示范作用，为其他城市、地区提供可借鉴的经验。通过共同努力，我们可以营造一个更为安全、清朗的网络环境，让人工智能真正成为推动社会发展的有力工具。