免费安卓手游下载、分享游戏攻略、电脑硬件资讯、数码科技最新资讯
当前位置: 首页 > 数码科技 > 北京大学与华为联合发布DeepSeek 推理方案,打造国产智算平台

北京大学与华为联合发布DeepSeek 推理方案,打造国产智算平台

时间:2025-03-19 07:30

小编:小世评选

近日,北京大学与华为技术有限公司共同宣布推出全新的DeepSeek推理解决方案。该决定具有重要的里程碑意义,不仅标志着两大机构在智能计算领域的深度合作,也为中国自主研发和创新的智能计算提供了强有力的支持。

DeepSeek推理方案的推出是在2025年3月9日正式发布的,它基于北京大学自行研发的SCOW算力系统和鹤思调度系统。此次合作整合了多项技术,涵盖了DeepSeek、开源操作系统openEuler、深度学习框架MindSpore,以及分布式计算框架vLLM和RAY等开源社区组件。这种综合性方案能够实现华为昇腾芯片上DeepSeek的高效推理,并且支持大规模的算力集群进行训练与推理的一体化部署。

全栈开源方案引领智能计算新潮流

DeepSeek推理方案的最大亮点在于其全栈开源的设计理念。与传统的闭源解决方案不同,DeepSeek高度依赖于开源组件,这一策略不仅可以减轻用户的使用成本,还能极大地提升方案的透明度和可维护性。用户在接入该方案时可以根据自身需求进行灵活调整和优化,从而满足多样化的应用场景。

具体DeepSeek推理方案采用了一种新型的模型——DeepSeek-R1-w8a8。这种模型在硬件配置上使用了两台Atlas 800I A2服务器,为用户提供了强大的算力支持。在输入输出方面,该模型支持的输入长度可达4096,而输出长度则为1024。

在系统性能方面,目前在未名卓越一号集群中成功部署的DeepSeek推理方案实现了令人瞩目的吞吐量表现,数据显示其吞吐量可以达到1198并发任务,同时支持128个用户的并发请求,这意味着即使在高峰期,系统仍然能够保持流畅的运行。

计算集群的建设与优化

未名卓越一号集群由北京大学计算中心负责研发与运维管理,旨在为北大鲲鹏昇腾科教创新卓越中心提供算力支持。该集群于2024年11月18日正式上线,首期集成了20台昇腾AI服务器和10台鲲鹏通用服务器,AI算力规模达到了30.64PFlops(半精度),这意味着其在处理复杂计算任务时表现出色,能够为科研、教育等领域提供强大的计算支撑。

在设计上,该方案在openEuler操作系统层面进行了深度优化,通过异构调度负载-aware混合专家(MoE)来实现任务的更细粒度调度。这种调度方式可以根据任务的不同需求,灵活分配计算资源,从而提高整体计算效率。

DeepSeek方案还进行了异构融合技术的应用,以高效管理内存使用,减小系统内存碎片。在编译效率上,采用毕昇编译器进一步优化,减少了算子下发的耗时,显著提升了推理性能。这些技术的结合,使得DeepSeek在实际应用中的性能表现更加优越。

未来展望与产业影响

此次DeepSeek推理方案的发布不仅展示了北京大学与华为在智能计算领域的技术积累和创新能力,也为中国的人工智能产业注入了新的技术动力。随着国内在算力基础设施和软件能力上的持续投入,预计将会有更多的企业和研究机构受益于这一自主研发的智算。

在未来,DeepSeek方案有望在多个领域实现广泛应用,包括自然语言处理、图像识别、医疗健康、自动驾驶等。本方案的推广将助力科研工作者和产业界快速应用先进的AI技术,为推动社会进步和科技创新作出积极贡献。

北京大学与华为的DeepSeek推理方案在智能计算领域展现了国产科技的实力与潜力,助推中国自主研发能力的不断提升。这一历史性合作将为未来的科技发展打开新的视野,值得期待。

精品推荐

相关文章

猜你喜欢

更多

热门文章

更多