免费安卓手游下载、分享游戏攻略、电脑硬件资讯、数码科技最新资讯
当前位置: 首页 > 硬件资讯 > DeepSeek推出超快速稀疏注意力机制,港股相关概念股大涨

DeepSeek推出超快速稀疏注意力机制,港股相关概念股大涨

时间:2025-02-19 15:00

小编:小世评选

近日,DeepSeek公司引发业内关注,正式发布了关于其突破性技术“原生稀疏注意力(NSA)”的研究报告。该技术通过与硬件的高度适配,实现了超快速长上下文的训练与推理,并在推理速度和预训练成本上达到显著优化,同时保持了模型的高性能。

在2月18日,DeepSeek通过社交X公布了这项技术的详细信息。DeepSeek提供的论文中强调了这种机制的独特之处。NSA机制采用了一种动态的分层稀疏策略,并结合了粗粒度的Token压缩和细粒度的Token选择,既提高了计算效率,同时也不丧失模型对全局长上下文的理解能力和局部的精确性。

随着DeepSeek的技术突破,市场反应迅速。根据最新的港股动态,相关概念股在2月18日普遍上涨,其中出门问问上涨超过16%,创梦天地上涨超过12%,美图公司和快手的股价也分别上涨了10%和9%。高盛的研报指出,DeepSeek和中国本土AI模型的突破,正逐步重塑科技产业的叙事逻辑。这种技术的革新不仅吸引了投资者的目光,也背后预示着中国企业将在未来十年内迎来按年增长的收益提升。

在NSA机制的实际应用中,DeepSeek称该技术在多项基准测试及长上下文任务中均表现优于传统的全注意力模型。例如,在使用高性能计算集群进行实验时,NSA的前向和反向传播速度分别比全注意力模型快了9倍和6倍,显示出其在处理长序列数据时的显著优势。在处理64k长度的序列时,NSA的速度提升可达到11.6倍,这不仅限于通用任务,还在复杂任务如链式推理中展现出了极大潜力。

虽然DeepSeek的技术进步令人振奋,但团队也意识到还有改进的空间。他们计划进一步探讨稀疏注意力的理论边界,同时将这一技术拓展到更多的应用场景,包括多模态理解和实时生成任务的领域。

另一AI初创企业“月之暗面”也在这波技术浪潮中作出响应,公布了其最新的模型“Kimi Latest”,旨在为开发者和企业用户提供增强的AI生成能力。尽管在产品投放策略上出现了变化,例如暂停部分宣传投放,该公司依然致力于满足市场对优秀AI模型的需求。

行业分析普遍认为,DeepSeek的突破在科技领域将引发一系列的投资潮流。高盛预计,当AI技术逐渐普及,未来十年内每年将为中国企业的每股收益提高2.5%。这意味着,随着技术的不断革新和应用的广泛,资本市场中将涌入大量投资,助力科技公司实现更高的估值。

分析机构如中信证券表示,即使近期中国科技公司的股价已有显著上涨,长远来看,AI时代仍处于早期阶段,技术的每一次突破都可能带来系统性的资产估值提升。同时,光大证券也指出,随着AI应用不断扩展,相关企业在技术和产品上的创新将为资本市场提供更多投资机会。

DeepSeek的超高速稀疏注意力机制不仅提升了自身竞争力,同时推动了投资者对AI技术领域的重视,引领了相关公司股价的上涨。这一系列变化也为中国科技行业的未来奠定了更加稳固的基础,进入了一个充满机会与挑战的新篇章。未来,随着技术的不断进步和市场的快速发展,各大企业在AI领域的竞争将更加激烈,我们有理由相信,更多创新将不断涌现,为全球科技产业带来新的机遇。

精品推荐

相关文章

猜你喜欢

更多

热门文章

更多