2025可信人工智能治理白皮书发布：全球面临多重挑战与监管需求

随着人工智能技术的迅猛发展，全球各国正加快步伐制定相关的政策和法律框架，以应对这一领域所带来的挑战和风险。近日，由安永与上海市人工智能与社会发展研究会共同撰写的《2025可信人工智能治理白皮书》正式发布，深入探讨了这一主题。白皮书不仅了当前全球在人工智能治理方面的进展，还指出了亟待解决的多项问题和监管需求。

全球人工智能政策现状

截至目前，已经有69个国家和地区出台了与人工智能相关的政策和立法。在此过程中，欧盟、美国和中国等重要经济体积极推进各自的监管框架。例如，欧盟提出《人工智能法案》，美国则在草拟《算法问责法案》，两者都旨在建立起有效的监管体系，以保障技术在安全、公平的环境下发展。

“可信人工智能”这一概念的提出，标志着全球各方对于人工智能治理的重视。白皮书指出，可信人工智能应当遵循安全性和公平性等多项原则，国际组织如G20、欧盟和相关咨询机构均已提出相应准则，指出了未来发展的方向。

人工智能面临的挑战

报告中列出了人工智能技术发展过程中面临的多重挑战。在算法透明度和公平性方面，诸多算法仍处于“黑箱”状态，无法被充分理解和审查。例如，网约车的算法透明度不足，导致司机和乘客之间的信任危机；招聘算法也频繁出现性别歧视现象，影响求职者的公平机会。这些问题不仅损害了用户体验，也引发了广泛的社会关注。

数据安全是另一个亟待解决的问题。当前，许多企业在使用底层数据源时面临泄露与合规性挑战，医疗数据和企业机密的使用不当，仅需一次员工的失误便可能导致严重后果。内生安全问题也不可忽视，包括基础设施、数据、模型及应用服务的全面风险评估，都是企业在推进人工智能时必须考虑的因素。

，科技伦理问题同样显得至关重要。在人工智能应用愈加广泛的背景下，如何确保技术的使用不侵犯个人权益、避免法律风险，已成为全球讨论的焦点。

企业的监管与风险治理

在这一背景下，各国亦对企业的人工智能应用实施了资质监管。企业需要根据基础资质和特殊资质要求，满足算法备案、评估和透明性等法律要求。内容的审核、标识与投诉处理义务也让企业在面对监管时倍感压力。

在风险治理方面，白皮书明确了企业需要在人工智能产品的生命周期各阶段进行相应的风险管理，包括技术的研发、测试和市场投放。该报告强调了人员与监督问责的重要性，以确保企业在使用人工智能时，能够及时发现潜在风险并采取相应措施。

值得一提的是，ISO 42001标准为企业提供了治理框架的标准化指导。通过建立“可信AI治理等级标识”，企业能够分阶段地规划和实施人工智能治理体系。这一机制有助于企业在应对监管要求的同时，推进技术的创新与应用。

行业实践与未来展望

在汽车、医药等关键行业中，已有不少企业积极应用并探索AI治理管理体系。例如，互联网和汽车公司部分成功案例展示了如何在合规与创新之间寻找平衡。白皮书强调，企业与、学术界和社会各方应携手合作，推动可信人工智能生态体系的构建。在未来的发展中，我们期待建立一个既能保障技术安全又能促进经济创新的协调机制。

《2025可信人工智能治理白皮书》不仅为全球人工智能治理的现状和趋势提供了详尽的分析，也为各国在制定相应政策时提供了宝贵的借鉴和参考。随着人工智能技术的不断演进，确保其安全与公平，将依然是全球社会共同面临的重要挑战，亟需各方协同努力，共同探索可持续发展的路径。