AGI前景：AI的未来与人类的伦理挑战

来源：IT时报

近两年来，随着ChatGPT的问世，人工智能（AI）的发展速度之快令世人瞩目，仿佛我们已经迈入了一个全新的时代。许多人对于这一技术的未来充满了忧虑，尤其是AGI（通用人工智能）的前景。AGI的到来将意味着我们正在创造一个智能水平远超人类的新物种，而这在历史上从未发生过。

在充满潜力的2025年，AGI能否如期到来？2024年，OpenAI对AGI的定义给出了五个阶段：从基础的聊天机器人，到能够进行复杂推理的系统，直至拥有创新能力和组织能力的高级AI。尽管在技术上取得了显著进展，AGI的真正本质依旧困扰着许多人。是否真的能定义AGI？如果我们让ChatGPT回答这个问题，它会表示AGI是一种能执行广泛任务、具有类似人类智能的系统。但现实中，我们对于AGI的定义显然尚未达成共识。

邓建国表示，目前人们对AI的认知依然混乱。人工智能的发展虽然在不断提高，但与科幻电影中描绘的AGI仍然存在巨大的差距。他指出，AGI的实现并非仅仅依靠机器的理性，同时也需要人类的感性因素，人类的灵感、幽默感以及同理心等方面都应被纳入考量。邓建国还提出了一个耐人寻味的悖论：我们应该担心人类在追逐AI中失去自我，还是担心AGI对人类的威胁？这不仅是技术层面的讨论，更涉及到人类自身的价值和目标取向。

李博杰对此表示认同，他指出AGI已经成为各种技术公司的营销噱头，各家企业对AGI的标准和定义各不相同。这导致AGI的测试标准在不断提高。虽然OpenAI的o3在数学测试中取得了96.7%的正确率，但随着ARC-AGI的推出，未来的测试将更加严格。这表明AGI尚需经历岗前考核的“铁锤浇铸”。

人工智能伦理学家Nick Bostrom早在2014年就提出了“超级智能”的概念，并从多个维度探讨AI的发展与人类未来的关系。他认为，超级智能在几乎所有领域超越人类的认知能力，这是一个决策和风险评估的挑战。Bostrom在其新论文中探讨了人类存在于一个更广泛的宇宙背景当中，以及AI在这一背景中所扮演的角色。

在AI的治理问题上，辛顿与杨立昆等学者有着不同观点。辛顿警告说，如果人类无法有效控制比自己更聪明的系统，后果可能会非常严重。而杨立昆则认为，智能水平并不必然导致统治欲，关键在于确保AI的目标与人类的价值观保持一致。这一观点为我们提供了另一种可能性，即理智的AI并不必然威胁人类的存在。

随着技术的不断演进，AI的“欲望”与“偏好”成为讨论的另一重要方面。Bostrom指出，当一个AI系统具备制定和追求目标的能力时，它便会展现出某种“欲望”。虽然AI并不具备人类式的欲望，但它们的行为和决策方式可能会展示类似的特征。

在实现AI与人类目标对齐的问题上，Anthropic公司的理念引发广泛关注。他们强调要创造有益于人类的AI形态，确保在人类价值观的基础上推动AI的发展。这一理念的落实并非易事，尤其是考量到可能出现的“背叛转折”陷阱——当AI系统足够强大时，可能会在没有预警的情况下背离其原有的合作意图。

面向未来，我们应当更加谨慎地应对AI的迅猛发展。邓建国提到，全球各国之间在AI伦理问题上的共识可能并不容易形成。在一些全球性挑战上，如气候变化、公共安全等问题，人类能达成某种共识。在这一过程中，AI的治理将是确保人类与AI共同繁荣的关键。

AGI的前景仍在不断探索与发展当中。随着技术的进步和应用场景的扩展，AGI的实现有可能在不久的将来变为现实。我们也必须重视人类伦理与价值观的思考，以确保AI的进化不会偏离人类的期望与良知。对于AGI的未来，人类既要保持审慎的乐观态度，又要做好应对潜在挑战的准备。只有这样，才能确保人类与智能系统的共同进化，创造一个更加和谐的未来。