免费安卓手游下载、分享游戏攻略、电脑硬件资讯、数码科技最新资讯
当前位置: 首页 > 数码科技 > 京东云正式上线新一代AI模型 支持公有云与私有化部署模式

京东云正式上线新一代AI模型 支持公有云与私有化部署模式

时间:2025-02-07 23:50

小编:小世评选

在数字化转型的浪潮中,企业对于高效和灵活的云端解决方案的需求日益增强。为了满足市场的多样化需求,京东云于近日正式上线了其新一代AI模型,支持公有云在线部署和专混私有化部署两种模式。这一创新不仅代表了京东云在AI技术领域的重要进展,也为开发者和企业提供了更加便捷、灵活的AI开发与应用方式。

公有云在线部署

对于希望快速启动AI项目的开发者和企业公有云在线部署是最为高效的选择。用户只需访问京东云官网,进入言犀AI开发计算的“AI资产市场”,即可进行一键部署。通过该,用户能够接触到多种模型,包括DeepSeek-V3、DeepSeek-R1以及针对资源优化的蒸馏小参数模型(DeepSeek-R1-Distill)。

具体操作流程相对简单。用户在“AI资产市场 / 模型”中可以轻松找到DeepSeek系列的开源版本,例如DeepSeek-R1-Distill-Qwen-1.5B。在点击进入指定模型的卡片页后,用户能够了解到模型结构以及预训练数据的关键信息。模型文件结构也得以清晰展示,帮助用户更好地进行选型。

值得注意的是,由于LLM(大型语言模型)的计算需求较高,部署时需要独占计算卡。这要求用户在进行部署前,提前准备好必要的专属资源节点。的功能路径包括:

1. 创建专属资源组;

2. 添加并创建对应节点。

若用户选择部署DeepSeek-R1-Distill,推荐使用的节点规格为cap.p.n3a30.4xlarge;若选择DeepSeek-V3,则推荐使用cap.hc.p5h20.46xlarge。模型成功部署后,状态将更新为“运行中”,用户可以随时调用模型,进行推理服务。

的在线服务部分允许用户对模型进行实时调试,极大地方便了开发过程中可能遇到的问题。

私有化算力实例部署

为了满足金融、企业以及客户对数据安全和隐私保护的严格要求,京东云同时推出了私有化算力实例部署模式。这一模式现已与京东云vGPU AI算力相结合,确保数据不出域的私有化模型推理服务。

以DeepSeek R1版本为例,用户在申请私有部署时,可以借助京东云提供的高性能资源管理与弹性调度系统,确保模型从开发到推理的全生命周期服务。这一系统不仅优化了资源配置,也提升了计算效率,进一步增强了服务的灵活性。

蒸馏技术助力资源优化

对于那些面临资源紧缺的场景,京东云通过蒸馏技术提供了另一种解决方案。企业可以通过该技术训练自己的大模型,有效减少模型部署所需的计算资源,同时确保模型的性能不被大幅削弱。这种技术的引入使得企业能够在保持灵活性的同时,最大限度提高资源的利用率。

特别是在使用京东云vGPU AI算力时,多个经过蒸馏的自有模型可以被部署在同一张计算卡上,从而有效提升资源利用率,达到70%的效率提升。这一变化不仅可以降低企业在云端计算所需的成本,亦为企业开辟了更多可能性,满足多种应用场景的需求。

京东云新一代AI模型的发布为企业级客户和开发者提供了更多的选择与灵活性。公有云的快速部署以及私有化的安全性保障,进一步推动了AI技术的应用和落地。当前,随着AI的不断进步,云计算的前景越发广阔,京东云将继续引领行业创新,为客户创造更大的价值。

通过不断优化AI模型与部署方式,京东云不仅提升了自身在市场中的竞争力,也将助力更多企业实现数字化转型与智能化升级。越来越多的企业将能借助京东云的技术,实现业务的突破与创新。

精品推荐

相关文章

猜你喜欢

更多

热门文章

更多