
2026年2月25日,中国AI初创企业DeepSeek在arXiv上正式发布论文《DualPath: Breaking the Storage Bandwidth Bottleneck in Agentic LLM Inference》(arXiv:2602.21548)。该论文由DeepSeek核心研究团队联合北京大学和清华大学团队完成,首次系统性地针对Agentic LLM(智能体大语言模型)多轮推理场景下的存储带宽瓶颈提出解决方案。DualPath通过引入“双路径KV‑Cache加载”机制和全局调度器,成功打破了当前解耦式(disaggregated)推理架构中的根本性不对称问题,在真实Agentic工作负载下实现了离线推理吞吐量最高提升1.87倍,在线服务吞吐量平均提升1.96倍,且不违反SLO(服务水平目标)。这一成果被视为Agentic AI时代高效推理技术的重大突破,也为DeepSeek V4即将发布的推理引擎提供了关键技术支撑。
Agentic LLM推理的存储带宽瓶颈
论文开篇指出,随着Agentic LLM从单轮问答转向多轮工具调用、长上下文规划和复杂决策,推理性能瓶颈已从计算转移到KV‑Cache的存储I/O。在当前主流的解耦式推理架构中:
- Prefill阶段(首次填充KV‑Cache)需要从外部持久化存储加载海量KV‑Cache,导致存储NIC带宽饱和(论文图1显示Prefill引擎存储NIC利用率接近100%)。
- Decode阶段(自回归生成)几乎不消耗存储带宽,存储NIC处于闲置状态。
这种不对称导致整体系统吞吐量严重受限:Prefill引擎成为瓶颈,Decode引擎空闲,GPU利用率难以超过40%。作者在真实Agentic工作负载上的测量数据(图2)显示,传统架构的GPU利用率长期徘徊在30–40%,远低于计算密集型任务的80%以上。
DualPath核心创新:双路径KV‑Cache加载 + 全局调度
DualPath提出了两个关键创新来彻底打破这一瓶颈:
- 双路径KV‑Cache加载机制 除了传统“存储→Prefill”路径,DualPath新增一条“存储→Decode”路径:
- KV‑Cache首先被加载到Decode引擎的本地内存(利用Decode阶段原本闲置的存储带宽)。
- Decode引擎通过RDMA over Compute Network(计算网络上的远程直接内存访问)将KV‑Cache高效传输给Prefill引擎。 这一设计充分利用了计算网络的高带宽(论文实验中使用8×400Gbps/node RDMA),避免了存储网络的拥塞,同时避免干扰模型执行的延迟关键通信路径。论文图3展示了这一双路径数据流的架构对比。
- 全局调度器 DualPath引入一个跨Prefill和Decode引擎的全局调度器,动态平衡两类引擎的负载:
- 当Prefill负载高时,优先将KV‑Cache加载到Decode引擎并转发;
- 当Decode负载高时,切换回传统路径。 论文表1显示,这种动态调度使系统整体吞吐量提升显著。
实验在DeepSeek自研推理系统上验证了三种不同规模的Agentic LLM(Llama‑3‑70B、Mixtral‑8x22B、DeepSeek系列模型),在真实多轮工具调用工作负载下:
- 离线推理吞吐量:最高提升1.87×
- 在线服务吞吐量:平均提升1.96×(不违反SLO)
- GPU利用率:从40%提升至接近80%(图4对比曲线)
与现有方法的对比与意义
DualPath与传统Speculative Decoding、PagedAttention、Medusa等方法的区别在于:它不依赖模型内部的加速技巧,而是从系统级数据路径和全局调度切入,直接解决了解耦式架构的根本不对称问题。论文表2对比显示,DualPath在带宽受限场景下的提升幅度远超现有方法。
这一工作对Agentic AI的实际落地具有深远意义:
- 在多轮复杂任务中,推理延迟和吞吐量是核心瓶颈,DualPath直接提升了系统整体效率。
- 对于企业级部署,DualPath大幅降低了对高端存储NIC的需求,减少了基础设施成本。
- 在边缘AI场景中,双路径机制为低带宽环境提供了可行方案。
DeepSeek的战略布局与未来展望
DualPath的发布时机恰逢DeepSeek V4即将亮相前夕,被视为V4推理引擎的核心技术预热。结合DeepSeek今年年初发布的另外两篇重要论文:
- 2026年元旦发布的《mHC: Manifold‑Constrained Hyper‑Connections》:通过流形约束超连接恢复残差恒等映射,显著抑制训练不稳定。
- 2026年1月12日发布的《Conditional Memory via Scalable Lookup》:提出Engram条件内存模块,作为LLM稀疏性的新轴,在27B规模实验中优于MoE。
这三篇论文形成了完整的逻辑链条:mHC优化训练稳定性、Engram扩展稀疏性、DualPath革新推理效率。DeepSeek通过连续的基础性突破,正从消费级多模态模型向高效、可扩展的大模型全链条能力跃升。
虽然论文未透露V4具体细节,但社区普遍推测V4将深度集成DualPath,作为其Agentic推理引擎的核心组件。DeepSeek团队表示,将在未来版本中逐步开源部分DualPath实现,以推动社区协作。
结语
《DualPath》以系统级视角重新定义了Agentic LLM推理的性能边界。它证明:在AI进入智能体时代的今天,单纯的模型优化已不足以突破瓶颈,系统级数据路径和全局调度的创新同样关键。DeepSeek的这一工作,不仅为V4的发布注入强劲技术支撑,也为全球高效推理技术提供了全新范式。
在2026年AI算力与效率竞赛白热化的今天,DualPath的出现提醒我们:真正决定胜负的,往往不是参数规模,而是对系统瓶颈的深刻洞察和优雅解决。Agentic AI的高效推理时代,或许正从这里开始加速。
▶️ 喜欢这篇内容?创作真的很辛苦!
欢迎关注我们的 YouTube 频道:
AI Rosetta
你的点赞、订阅和分享,是对我们最大的支持!🙏
更多AI新闻请访问:
https://www.airosetta.com