数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 27|回复: 0

[业界] 消息称英伟达重启推理预填充芯片Rubin CPX项目,设计大幅调整

[复制链接]
发表于 1 小时前 | 显示全部楼层 |阅读模式

爱科技、爱创意、爱折腾、爱极致,我们都是技术控

您需要 登录 才可以下载或查看,没有账号?立即注册

x
分析师郭明錤昨日表示,其最新产业调查显示 NVIDIA(英伟达)已重启人工智能推理预填充加速 GPU "Rubin CPX" 项目,不过其设计得到了大幅度的调整,预计 2027Q1 开始生产。
在芯片级别,新 Rubin CPX 拥有接近标准 Rubin GPU 的算力,预填充性能进一步提升,单体最高功耗同为 2300W,配备 168GB HBM4 内存(IT之家注:旧 Rubin CPX 为 128GB GDDR7,168GB 或指向 7×24GB 设计)。
来到托盘与机架级别,8 颗新 Rubin CPX 构成 1 个计算托盘;8 个计算托盘构成 1 个机架模组,内部以 Spectrum-6 全铜以太网横向扩展 (Scale-out);新 Rubin CPX 采用独立的 MGX ETL 机架,每个机架包含 1~4 组机架模组,机架模组间横向扩展则是 Spectrum-6 + OSFP 光学方案。
而在系统层面,NVIDIA 建议 Rubin CPX 与标准 Rubin 按 1:1 配对,Rubin CPX ETL 机架与 Vera Rubin NVL72 机架间采用基于以太网的 RDMA 连接。
这位分析师评论称,目前的 AI 推理工作量中超过 50% 来自处理输入并建立相应的 KV Cache,新 Rubin CPX 能以更具弹性的部署方式与更低成本承接预填充负载;新 Rubin CPX 计算托盘具备 1.34TB HBM 内存,足以满足大多数长上下文预填充与 KV Cache 建立需求。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|数码之家-技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2026-9-1 21:37 , Processed in 0.078000 second(s), 5 queries , Gzip On, Redis On.

Powered by Discuz!

© MyDigit.Net Since 2006

快速回复 返回顶部 返回列表