免费安卓手游下载、分享游戏攻略、电脑硬件资讯、数码科技最新资讯
当前位置: 首页 > 硬件资讯 > 英伟达H20需求激增,价格飙升10万,AI推理时代来临

英伟达H20需求激增,价格飙升10万,AI推理时代来临

时间:2025-03-19 00:40

小编:小世评选

近期市场消息引发了广泛的关注,原本并不十分受重视的英伟达H20显卡需求量暴涨,打破了以往的价格稳定态势,价格上涨幅度高达十万元,目前8卡H20机器价格接近110万。这种现象引发了业内从业者的预测,“这种价格走势不会轻易回落。”从H20的性能来看,它是英伟达为中国市场特别定制的版本,在显存带宽等方面有所限制,相比于高端的H100,性价比并不突出。随着市场需求的剧增,H20这一原本冷门的推理卡开始变得炙手可热。

市场出现变化的原因,在于AI推理需求的空前增长。不难看出,DeepSeek的热潮在其中扮演了至关重要的角色。尽管H20的推理性能仅为H100的十分之一,但其在处理大量参数模型时,显存和价格的优势使它成为了一种理想的选择。PPIO派欧云的CEO姚欣表示,去年年底H20并没有如此之高的需求,但春节过后,AI算力的供需关系却发生了戏剧性的变化。

AI推理市场的爆发可归因于DeepSeek的创新,DeepSeek以其算法的突破重塑了AI算力的逻辑,把AI计算的重点从“训练为主”转向了“推理为主”的新范式。在技术上,DeepSeek今年开源的两款模型在架构与算法方面实现了训练推理效率的提升。例如,DeepSeek-V3采用了混合专家模型(MoE)架构,采用跨节点的大规模专家并行(Expert Parallelism, EP),极大地提高了GPU的计算效率和吞吐量,使得推理过程中的延迟得以降低。

DeepSeek还引入了第二种模型,DeepSeek-R1-Zero,通过强化学习自我进化,显著提高了语言模型的推理能力。这种低成本模式将模型应用于更广泛的推理场景,也让企业在数据隐私方面拥有了更大的安全保障,促进了企业对AI技术的接受与应用。

随着DeepSeek的开源方案出来,AI推理市场的竞争格局已经悄然改变。以前,预训练是行业的主流,但今后,推理将担当起更重要的角色。推理Scaling Law的提出标志着这一转变的开始,其核心在于通过提升推理阶段的计算资源来提升模型的整体性能。DeepSeek正是在这个背景下,成为了推动算力趋势变化的重要力量。

DeepSeek的创新不仅仅是技术层面的成功,它更是在商业模式上打破了闭源模型的垄断,推动了全行业的开源热潮。特别是在ToB(面向企业)的推理市场中,开源模型为企业解决了对数据隐私的顾虑,吸引了大量企业投入到AI的场景应用中。

在AI基础设施的构建上,当前的推理时代更加依赖云计算和AI Infra服务,与此前的集中式集群模式截然不同。企业更倾向于使用云服务进行模型部署,而不再是一味追求超大规模的集群。这一变化要求云计算服务提供商在硬件选择与模型优化上提供更多灵活性。

PPIO作为发展迅速的AI Infra服务供应商,凭借其优秀的分布式计算能力和算力调度方式,正在快速占领市场。PPIO的分布式构架使其能够为企业提供便捷的API服务,大幅降低了企业的运维成本,满足了用户对弹性算力的需求。PPIO能够即时适配和优化多种开源大模型,进一步提升了整体的推理性能和效率。

展望未来,AI推理市场的需求将继续攀升,并带来新的商业机遇。随着越来越多的行业参与者加入其中,推理时代的到来也意味着AI将更加深入地融入我们的生活。DeepSeek和PPIO等公司的努力,不但在推动技术进步,更在为所有企业打下了基础,迎接AI应用的全面爆发。

H20作为AI算力市场的“黑马”,标志着一个新的时代的开启。面对日益增长的AI推理需求,各大企业和服务必须密切关注市场变化,共同适应这一新的趋势,以便在未来竞争中占据有利位置。可以预见,随着推理技术的不断发展,AI将深入到更多的行业与领域,推动社会各行业的升级与变革。

精品推荐

相关文章

猜你喜欢

更多

热门文章

更多