李泽南

原创

18小时前

国内首个超节点集群，华为云CloudMatrix 384，拥有哪些黑科技？

5 月 16 日，华为云 AI 峰会于北京成功举办。

本次大会上，华为云面向客户伙伴详细介绍了 CloudMartix 384 超节点的创新技术优势，并与在场嘉宾共同探讨如何加速 AI 应用落地，为加速行业智能化发展提供了切实可行的技术路径和实践指南。

华为北京总经理张东亚

2025 年还没过去半年，伴随着 DeepSeek 的横空出世，AI 浪潮席卷全国，千行万业正在加速智能化跃迁。华为北京总经理张东亚在活动致辞中表示，面向政府、教育、金融、零售、互联网、交通、制造等行业，昇腾 AI 云服务已经成为超过 600 家创新先锋企业的数字化转型伙伴。

CloudMatrix 384 超节点，定义下一代 AI 基础设施

随着大模型训练和推理对算力需求的爆炸式增长，传统计算架构已难以支撑 AI 技术的代际跃迁，超节点架构的诞生不仅是技术的突破，更是以工程化创新开辟 AI 产业的新路径。

华为云副总裁黄瑾

在 AI 领域，大语言模型（LLM）的训练方式经历了早期小模型单卡训练、小参数大模型在单机训练，到如今 MoE、长序列、多模态大模型在 AI 集群上训练的演进过程。AI 算力的瓶颈，已经从单卡算力的瓶颈，变为集群间通信带宽的瓶颈。

然而过去的 8 年里，单卡硬件的算力增长了 40 倍，但是节点内的总线带宽只增长了 9 倍，跨节点的网络带宽只增长了 4 倍，这使得集群网络通信成为当前大模型训练和推理的最大挑战。

华为云创新性地推出采用全对等互联架构的 CloudMatrix 384 超节点。这项技术创新跳出单点技术限制，走向系统性、工程性的创新算力架构，直面通信效率瓶颈、内存墙制约、可靠性短板三大技术挑战。通过新型高速互联总线实现 384 张卡互联成为一个超级云服务器，最高提供 300Pflops 的算力规模，比业界同类产品领先 67%。

华为云副总裁黄瑾表示，华为云 CloudMatrix 384 超节点具备 MoE 亲和、以网强算、以存强算、长稳可靠、朝推夜训、即开即用六大领先技术优势，以系统架构创新重新定义新一代 AI 基础设施。

其中，「朝推夜训」新机制据称可将算力资源利用率再提升 50%，可以用于大模型的训练、微调等工作，在华为云上，训练与推理可以在 5 分钟内实现切换。该能力预计会在第三季度提供。

盘古在制造制药金融医疗等行业保持领先。我们帮助客户打造自己的大模型，我们会深耕根技术，持续保持创新。

当前，基于 CloudMatrix 的超节点集群已经在芜湖、贵安、内蒙规模上线，其中芜湖的算力设施成为了国内首个正式商用的超节点集群。

华为云数据中心全球 DC 运维首席专家谢峰

稳定的 AI 算力供给，离不开可靠的数据中心载体。大会期间，华为云数据中心全球 DC 运维首席专家谢峰分享了华为云 CloudMatrix 384 超节点机房质量挑战与思路。他表示，通算平稳发展，AI 智算快速发展，数据中心在空间、供电、散热和运维等方面面临着更多挑战。

其一，AI 集群超大规模组网带来的光链路可靠性挑战；
其二，AI 集群功率快速增长和毫秒级功率波动，带来供电的可靠性挑战；
其三，AI 集群超高密度散热带来的水质安全和水力平衡挑战。华为云数据中心通过产品化实现快速交付、低成本、低 PUE，并开展锂电预测、液冷预测等智能化实践，