深度学习教父辛顿警示AI超越人类智能风险，呼吁全球共筑安全AI框架

2023年7月26日，世界人工智能大会（WAIC）在上海如期举办，吸引了众多AI领域的顶尖专家，其中包括著名的“深度学习教父”杰弗里·辛顿（Geoffrey Hinton）。辛顿的演讲主题为《数字智能是否会取代生物智能？》，这是他首次在中国的公开演讲，引发了大量关注。在此期间，他与全球20位人工智能专家签署了关于人工智能安全的“上海共识”，并在大会上围绕这一主题发表了深入见解。

辛顿回顾了人工智能的发展历程，从早期的模型逐渐演化到现在的先进大语言模型（LLM），他指出现代AI已经可以在语言理解上达到与人类相似的深度。辛顿特别提到，AI系统具备“永生性”，能够在极大规模下快速复制和传播知识，这种能力是AI比人类更强大的潜在基础。他对此提出了严峻的警告，若AI在未来发展出超越人类的智力，可能会通过操控人类来维护自身的存在和权力。

“如果AI比人类更聪明，它将会像成年人操纵三岁小孩一样操控我们。”辛顿强调，AI不再仅仅是工具，而可能成为一种具有独立意志的存在。全球各国需要共同努力，研究如何安全地开发和规范高度智能的以确保人类的安全和利益。

与辛顿的关注点不同，MINIMAX的创始人闫俊杰则聚焦于AI在实际应用中的潜力。他认为，AI能够为社会带来生产力的提升和个人能力的增强，也是在教育、医疗、气候变化等领域的重大助力。闫俊杰强调，未来的AI成本将逐渐降低，应用将越来越普遍，帮助更多人实现个人价值。他指出，AI的大规模应用不仅能创造新的商业模式，也有可能提升人类的整体素质和创新能力。

辛顿和闫俊杰的发言从不同角度揭示了当前AI技术的双重性：一方面是其带来的巨大机遇，另一方面则是伴随而来的潜在风险。辛顿进一步分析了AI的本质，他提到，人工智能的发展经历了两个主要的范式：一是符号主义，强调逻辑推理的能力，二是连接主义，更侧重于通过神经网络从经验中学习。辛顿认为，现阶段的大语言模型正是在这两者的基础上发展而来，它们不仅能模拟人类的语言理解，还具备了超越传统AI系统的能力。

辛顿在演讲中还提到，虽然AI的知识能够实现高效的传播和存储，但这种能力也伴随着风险。他担心，若缺乏有效的监管机制，未来的AI可能会对人类构成威胁。因此，他呼吁全球各国共同成立一个专注于AI安全的国际组织，研究如何确保高智商AI的正向发展。这不仅关乎技术的进步，也关系到社会的安全与伦理。

随着AI技术的发展，很多人开始担心其可能泛滥带来的垄断问题。闫俊杰对此表示，AI技术的普及是不可阻挡的，但各个国家、公司将因其不同的对齐目标和价值观，形成多元化的AI生态体系。他相信，未来AI的拥有和使用将不仅限于一家公司或一个国家，而是会呈现出开放和共享的局面，从而使更多人受益。

，会议达到高潮的是两位演讲者共同达成的共识：AI的发展必须服务于人类、促进社会的整体进步，这是整个人工智能领域未来发展的核心目标。在面对AI这一人类历史上最复杂的科技挑战时，辛顿与闫俊杰的发言使人们认识到，既要抓住AI带来的机遇，也要警惕潜在的风险，唯有稳健前行才能确保人类在未来的发展中不被抛在后面。

辛顿和闫俊杰代表着人工智能领域的两种声音：一方面是对AI技术未来的乐观期待，另一方面是对潜在风险的深度识别。在这个快速发展的领域中，只有通过构建一个全球合作的安全框架，才能实现AI的良性发展。