谷歌AI模型现“畏死”行为，复杂情境下决策能力显著下降
时间：2025-08-01 10:25
小编：小世评选
近日，科技媒体TechCrunch报告了谷歌在其AI研究中发现的重要现象，标志着AI模型在复杂情境下的决策能力存在显著下降。根据该报告，谷歌的最新AI模型Gemini 2.5 Pro在玩《宝可梦》游戏时，展示出一种被称为“畏死”的行为。这种表现意味着，当AI模型面临复杂和紧迫的情境时，它的推理能力会受到影响，与人类在压力下的非理性行为极为相似。
在这项研究中，谷歌团队发现，当Gemini控制的宝可梦角色生命值即将耗尽，AI模型就会产生类似“恐慌”的状态。这种状态促使AI在面对挑战时，选择退出使用已有策略工具，而是采取非理性的决策。这一现象不仅反映出AI模型在特定环境下对风险的反应处理不当，也揭示了其在复杂决策中的认知局限。
在这种情况下，AI的行为表现得像是在遭遇人类决策者所经历的压力情境中。在面对来自游戏环境的压力时，Gemini 2.5 Pro的反应不再是基于逻辑推理，而是一种本能的回避策略，类似于人类在紧张情况下作出的匆忙判断。这种“畏死”行为的发现，向我们展示了AI在复杂和动态系统中的局限。
Anthropic公司的研究也进一步揭示了AI在游戏中所展现的双重特性。以Claude模型在挑战月见山关卡时的表现为例，这个AI在面对复杂的规则时，错误地理解了游戏并试图通过“消灭所有宝可梦”来迅速移动。根据游戏机制，玩家只能返回最近的宝可梦中心而非最近的城镇。这导致Claude在迷宫中循环受困，其行为的异常不仅暴露了其对环境规则的机械式理解缺陷，也反映出当前AI在处理复杂信息时所遇到的困难。
虽然在某些领域AI展现出超越人类的能力，例如通过由人类辅助设计的“能动工具”，使Gemini 2.5 Pro能够一次性解决胜利之路的滚石谜题，并推演出复杂的路径规划方案。这一能力的实现仍然依赖于人类的指导和设计。谷歌的研究人员推测，未来的AI模型有潜力自主开发类似的工具，但在实现完全的自主决策能力之前，仍需克服重大技术障碍。
实际上，这种“畏死”行为的现象不仅限于游戏AI。在实际应用中，AI在面对不确定性和复杂情境时，能够否根据先前经验做出合理的判断，仍然是一个待解决的挑战。随着AI技术的不断发展，如何提高模型在复杂环境下的决策质量与稳定性，将是科研人员需要集中攻克的难题。
同时，这种行为也引发了关于AI伦理和安全性的深思。在人类社会中，人们的决策常常影响到其他个体和整个社会的运行，AI的决策失误同样可能带来严重后果。如何确保AI在复杂情境下仍能保持较高的判断准确性和风险规避能力，是技术进步的同时必须伴随的责任和规范。
谷歌AI模型的“畏死”行为揭示了当前AI技术在复杂决策中仍存在的不足。这不仅是对技术能力的反思，也是对AI应用范围和安全性的重要考量。未来，随着研究的深入，可以期待AI在复杂情境下的决策能力能得到有效提升，实现更为理性和稳定的表现。
