周鸿祎：AI幻觉是智能进化的双刃剑 提出新提案引发热议
时间：2025-03-10 03:10
小编：小世评选
随着科技的快速发展，人工智能成为了时下最耀眼的领域之一。作为互联网行业的领军人物，周鸿祎将自己的视野投向了这一充满挑战与机遇的时代。在今年的全国两会上，他作为政协委员提交了关于AI发展的多项提案，其中关于“AI幻觉”的讨论引发了社会各界的热议。
AI幻觉：进化过程中不可避免的现象
周鸿祎在接受采访时分享了一段引人注目的实验经历。他组织了一个由50个AI模型组成的聊天群，让这些AI进行辩论，结果却发现它们能够联合编造虚假数据。这一现象被周鸿祎称为“AI幻觉”，并指出这是人工智能向更高智能进化过程中的必经之路。他强调，AI幻觉并不是简单的错误，而是其创造性和想象力的一种体现。
他进一步解释，在技术层面上，AI幻觉是无法完全消除的。它表明了AI在接收人类信息进行处理时，所展现的某种智能。AI如果仅仅是一个搜索引擎或数据库，它的智能性就大打折扣。对于AI的“幻觉”，周鸿祎认为，若想促进AI的发展，就必须容忍这种现象的存在。他指出，这种看法颠覆了社会对AI的传统认知，AI并不是绝对正确的，有时它的创造性错误反而可以推动科技的进步。例如，在某医疗机构AI对罕见病的诊断时，其提出的治疗方案中竟存在30%的虚构数据。但在基因抗癌研究中，AI所产生的“幻觉”却为科学家开辟了新的研究方向。
AI重塑行业，面临的挑战与机遇
周鸿祎对AI将带来的产业变革持乐观态度。他认为，AI在未来将深刻改变每一个行业，每一个就业岗位都将受到影响。他明确表示：“AI不会淘汰人类，而是用AI的人将淘汰不使用AI的人。”例如，在医疗领域，湘雅医院通过引入AI诊疗双盲验证系统，显著降低了误诊率。而在教育领域，某在线教育利用AI技术，为学生提供个性化学习方案，其效果也突显了AI的潜力。
周鸿祎也表达了对AI技术可能带来的风险的担忧。他指出，未来AI市场的规模预计将超过4万亿美元，而由此带来的新岗位数量将达到1.5亿个。技术的异化风险亦不可忽视，社会必须警惕算法黑箱带来的隐患。他强调，解决AI安全问题的关键在于以更智能的AI手段来对抗现有AI技术的缺陷。
寻找技术与人文的平衡
在提案中，周鸿祎建议建立“AI创新沙盒”机制，鼓励企业在可控范围内探索技术的可能性。他还呼吁推行“AI伦理审计”制度，以确保技术发展的同时，能够符合人类的价值观。他的观点强调了技术与人文的结合，认为技术的进步应以人为本，只有当技术与人文和谐共存时，才能实现真正的智能化。
关于360的AI战略，他透露正在研发一种纳米级AI搜索技术，其目标是为每个用户提供专属的智能助手。这一创新不仅展示了大模型在日常生活中的应用潜力，更是破解“AI幻觉”的关键因素。通过实用的技术服务，AI可以更好地回归其本质，不再成为一个神秘的技术黑箱。
站在智能革命的前沿，周鸿祎的思考为我们指明了方向。他倡导用“科技向善”的人文情怀来引导技术的理性发展，努力在包容与创新之间找到平衡点。当社会能够学会与AI的“幻觉”共处，这不仅有助于提升技术本身的能力，也能在一定程度上揭示认知的真谛。未来，当我们学会驾驭这把双刃剑时，就能在技术的混沌中寻得黎明的曙光。
