技术解析|英伟达推出新一代GPU Rubin CPX

芝能智芯出品 英伟达推新产品的速度,是很快的,特别是现在需要不断证明自己领先的位置。 英伟达Rubin CPX 是 GPU 设计新的思路,采用了解耦推理的方式,把长上下文处理和生成任务拆分开来,还搭配

芝能智芯出品

英伟达推新产品的速度,是很快的,特别是现在需要不断证明自己领先的位置。

英伟达Rubin CPX 是 GPU 设计新的思路,采用了解耦推理的方式,把长上下文处理和生成任务拆分开来,还搭配大容量 GDDR7 显存打造了新的 GPU。

这种设计考虑到了算力和内存需求的差异,能给百万 Token 推理、长视频生成以及复杂软件开发带来更高的效率和扩展性。

Part 1

Rubin CPX  架构设计与技术特点

Rubin CPX 是专门针对大模型推理中 “上下文阶段” 和 “生成阶段” 的不同需求来设计的。

传统 GPU 靠 HBM 显存同时处理计算和带宽任务,但碰到百万 Token 的输入序列时,单一架构就显得有些吃力了。

Rubin CPX 会把长上下文处理交给专用的 GPU 来做,具体有这几个特点:

◎ 显存方面:单芯片搭载 128GB GDDR7 显存,相比 HBM 显存性价比更高,适合在机架级进行大规模部署。

◎ 算力表现:在 NVFP4 精度下能提供 30 PFLOPS 的算力,专门优化了高吞吐的上下文解析任务。

◎ 视频处理能力:内置了四个 NVENC 和 NVDEC 引擎,很适合多模态 AI 的应用场景。

◎ 系统互联:能和 Vera CPU、Rubin HBM GPU 以及 ConnectX-9 SuperNIC 配合使用,在 NVL144 CPX 机架内可以实现 12.8Tbps 的网络吞吐。

这个新的产品采用了单芯片设计,这样能减少延迟,保持性能的一致性,但在制造和散热方面会面临一些难度。看得出来,NVIDIA 在规模训练、推理之间,一直在平衡成本和性能。

软件层面,Dynamo 平台会协调上下文处理和生成处理这两部分工作。

解耦推理需要快速的 KV 缓存传输和灵活的内存管理,而 Dynamo 平台刚好能支持这套体系。

Rubin CPX 负责处理长序列输入,Rubin GPU 负责逐 Token 生成,两者通过高速连接和统一的软件栈配合,就能完成整个任务。

Part 2

性能提升与应用价值

在 Vera Rubin NVL144 CPX 平台上,36 颗 Vera CPU、144 颗 Rubin GPU 和 144 颗 Rubin CPX 搭配使用,总算力能达到 8 EFLOPS(NVFP4 精度),比 GB300 NVL72 高出 7.5 倍。

再加上 100TB 的存储和 1.7PB/s 的内存带宽,这个配置已经接近当前的极限水平了。

Rubin CPX 的性能优势很突出,主要体现在这三个方面:

◎ 长上下文推理:注意力机制的处理速度比 GB300 NVL72 快 3 倍,在百万 Token 的场景下,延迟和效率都有明显改善。

◎ 视频与多模态处理:专用的编解码单元能适配长视频生成需求,很适合 AI 内容生产的场景。

◎ 推理经济性:解耦设计减少了对 HBM 显存的依赖,预计投资回报率(ROI)能达到 30-50 倍,投资效率大幅提高。

应用场景上,它不只是能用于 AI 推理,还能支持复杂的软件开发。

长序列处理能力可以从代码生成扩展到软件工程优化,在科研和视频生成领域,也能满足持续处理的需求。

从路线图来看,

◎ Rubin CPX 会在 2026 年底推出,之后会和 Rubin GPU、Vera CPU 组成异构生态。

◎ 到 2027 年,Rubin Ultra 会加入 12 堆 HBM4;

◎ 2028 年,新架构 Feyman 也会跟进。

能看出 NVIDIA 一直在推进分层解耦和持续扩展的策略。

小结

Rubin CPX 算是 GPU 发展的一个新方向,通过解耦和协作分工,来适应 AI 推理的需求,这体现出了设计上的灵活性和前瞻性。

百万 Token 推理从设想变成了现实,能为生成式 AI 应用的发展铺路。从 2026 年开始,随着 Rubin CPX 的落地,异构架构和解耦推理或许会成为未来的主流方向。

       原文标题 : 技术解析|英伟达推出新一代GPU Rubin CPX

(来源:维科网)
免责声明:本文内容来源于第三方或整理自互联网,本站仅提供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。

相关推荐