OpenAI前元老Miles Brundage呼吁审慎对待AI发展速度

近日，前OpenAI政策研究主管Miles Brundage因离职发表了一篇引人深思的博文，探讨了一个在当今科技领域颇具争议的问题：人工智能（AI）的发展速度应当加速、减缓，还是保持现状？

在离职的博文中，Brundage强调，当前我们并未做好迎接通用人工智能（AGI）时代的充分准备。他的发声引起了广泛的响应和讨论，尤其是在推动AI发展的相关政策制定方面。短短十天后，他再次发声，推出了一篇名为《AI发展：加速、减缓，还是保持不变？》的博文，论述了对当前AI快速发展的担忧与思考。

在这篇文章中，Brundage明确指出，出于对未来的谨慎态度，我们需要为社会的AI发展装上一个“刹车”。这一发言引发了业界的广泛认可，许多知名人士纷纷转发支持其观点。OpenAI的离职潮为AI领域带来了更多元的声音和丰富的见解，其中不乏对政策和技术发展的深入分析。

AI发展的进程

要理解Brundage的观点，我们需要回顾AI技术的最新进展。2021年出版的《人工智能简史》在今天看来已经显得陈旧，书中提到的许多问题在短短数年间已经获得了突破。例如，AI已能在理解故事情节和图像识别任务上超越人类表现。这一现象让人反思，过去对于AI能力的评估往往过于谨慎。

过去十年来，深度学习技术的不断突破使得AI在大量任务上显著提升。而Brundage指出，AI进展的速度已经超过了社会对于其理解和掌控的能力。虽然在某些领域，专家的意见可能过于悲观，但的AI发展气候依然充满了不确定性。

AI发展的理想配速

以Brundage的角度来看，目前的AI进展速度究竟是加速、减缓还是维持现状，实际上是个复杂的问题。不同利益相关者在技术发展上的看法各有不同，尤其是面对AI快速迭代和带来的潜在社会风险时，如何权衡利益和安全显得尤为重要。

他提到，快速发展的AI技术可以被划分为两个维度，纵轴指向更强大的模型开发，这其中潜藏了许多未知的风险；而横轴则强调了将现有技术更好地融入社会，风险相对较小，回报相对更高。因此，当前社会亟需一种更加细致且广泛共识的视野来审视AI技术的进展与应用。

虽然人们普遍对科技进步持积极态度，但对AI的担忧依然普遍存在。越来越多的科技领军人物，包括比尔·盖茨和DeepMind的CEO等，都开始关注AI可能带来的风险，推动对AI发展的责任感思考。

需要“刹车”还是“油门”？

Brundage提到的“刹车”并不是要完全停止AI的发展，而是在技术迅速演变的过程中，施加一定的约束以确保社会能够适应这样的变化。当前，AI的快速发展远远超出了我们的理解与政策制定的能力，造成了技术与社会之间的脱节。除非我们站在一个更高的视角去审视整个AI生态和其潜在的伦理、社会影响，否则简单的技术推动可能带来巨大风险。

为了实现这一目标，Brundage建议应制定更周全的政策，以减缓AI的进步步伐。他提到了一种名为“算力储备”的机制，这类似于中央银行的黄金储备，它会在技术发展过程中起到监管和调控的作用。

他还指出，在AI发展的过程中，我们是否应该同步推进一个“油门”，让整个技术进步与社会应对能力更加协调？他认为，这一方面的思考同样重要，但目前对如何平衡这两个方面的讨论尚显不足。

Brundage最终的观点是，科技的快速进展是一个不可逆的趋势，而面对日益复杂的AI生态，审慎应对才是明智之举。他呼吁各方共同参与讨论，为社会构建一个能够应对AI快速发展的框架，以确保技术的成长能够在安全、有序的轨道上前行。这一观点不仅为AI的发展提供了新的视角，也为政策的制定提供了深刻的启示。

随着Miles Brundage的离开，AI领域将迎来新的挑战与机遇，而如何在推动科技进步与确保社会安全之间找到平衡，将成为今后亟需解决的课题。