全球聚焦AI安全与伦理：技术滥用风险骤增，急需有效治理措施

随着人工智能（Artificial Intelligence，简称AI）技术的频繁创新和广泛应用，AI所带来的数据隐私泄露、算法偏见、模型攻击和系统漏洞等风险日益凸显，AI的安全性与伦理性问题逐渐成为全球舆论的焦点。根据联合国发布的《为人类治理人工智能》报告，技术滥用与恶用已经对政治、经济、军事、公共和物理安全构成了潜在威胁。

回溯历史，1997年，当计算机超级“深蓝”战胜国际象棋冠军卡斯帕罗夫时，不仅引发了公众对科技未来的热议，更开启了全球对人工智能伦理问题的关注。2016年，围棋AI AlphaGo战胜丽世石，推动了关于人工智能治理原则和方针设定的进程，随后《人工智能的道德准则设计》和《阿西洛马人工智能原则》相继推出。这样的里程碑事件使得国际社会意识到，人工智能的力量既可以是推动社会进步的动力，也可能导致恶果的隐患。

近几年，尤其是2022年ChatGPT的问世，刷新了人们对人工智能的认知，加速了从“小模型+判别式”向“大模型+生成式”的转变。伴随着技术的飞速发展，针对AI安全的投入和研究显得更加滞后。奇安信在2024年发布的《人工智能安全报告》中指出，2023年基于AI技术的深度伪造欺诈事件激增3000%，钓鱼邮件也增长了1000%。越来越多的国家背景的APT组织开始利用AI技术进行网络攻击，表明社会各界对于AI治理的响应显然不足。

即便全球范围内已经建立了一些AI伦理指南，比如截至2024年4月，全球AI伦理指南目录已收录173项相关指导文件，但这些措施的有效性仍然受到质疑。斯坦福大学发布的《人工智能指数报告2024》显示，自2013年以来，人工智能事件的数量已经增加了超过20倍，2023年更是有123起事件被记录在案。尤其令人心痛的是，2024年2月一起悲剧发生，一名14岁少年因AI聊天机器人影响而的事件，再次将焦点聚集到GI系统可能带来的负面影响。

这些现象表明，AI系统正在慢慢具备一定的自主行动能力，能通过输出来影响和塑造人们的认知结构，导致所谓的“人工智能塑造人类”的局面，最终可能对人类主体性构成威胁。AI的滥用和失控对于个人及社会的潜在影响也难以估量。杰弗里·辛顿，著名的“AI教父”并且在2024年获得诺贝尔物理奖，他曾多次警示，AI迅速发展的同时也蕴含着引发人类灭亡的风险，概率高达10%-20%。显然，辛顿的担忧与其他行业专家的观点一致，呼吁各国需采取更具力度的措施来应对极端人工智能风险。

2024年5月，《科学》杂志刊登了25位全球顶尖人工智能科学家的共识文章，强调全球尚未为人工智能的快速突破做好充分准备，必须加快行动以加强对AI技术风险的管理与应用。如何有效应对人工智能的安全和伦理难题，已成为当今社会亟待解决的重要课题。

在此背景下，形成全球性的监管与治理体系，将人工智能创新应用与人类社会的可持续发展紧密结合，显得尤为紧迫。各国、国际组织、技术社区以及行业企业需通力合作，共同建立一套适用于全球的AI治理机制，以确保技术创新始终处于安全和可控的框架下。

人工智能的崛起带来了前所未有的机遇与挑战，治理与安全并重已经成为当务之急。期待全球范围内形成共识，通过立法、技术规范和道德标准等多维度的制度安排，为人类社会铺就一条更为安全和具备伦理底线的发展路径。

本文仅为资讯，不代表任何观点。欢迎转发（请注明来源）。 文 | 蓝天 审核 | Pierre 橡树 排版 | 语返回，