|
|
哎呦我去,所有搞AI的、搭服务器的、还有那些看着显卡价格和HBM容量发愁的硬件佬们,赶紧把手里活放一放!就在老黄的GTC 2026大会开得如火如荼的时候,另一个角落传来一声巨响——这次不是老黄本人,而是给他“供弹药”的顶级伙伴之一,铠侠(Kioxia),也就是原来东芝存储那大佬,扔出来一个可能比很多新显卡还要命、还要解决实际痛点的玩意儿。
他们搞了个全新的SSD系列,名字听起来挺朴实,叫“Super High IOPS SSD”(超高IOPS固态硬盘)。但你可千万别被这名字骗了,这玩意儿的野心,根本就不是简单地当个“跑分冠军”。它的目标,是要砸碎横在AI计算面前那堵最厚的“内存墙”,而且是用一种特别聪明、特别直接的方式。
简单说,这玩意儿想让你的GPU显卡,能像用自己的显存(HBM)一样,直接、高速地去访问一块超大容量的固态硬盘。你就把它理解成,给GPU的超级高速缓存(HBM)配了一个同样速度快到飞起、但容量大了几十上百倍的“外挂仓库”。
这需求到底有多急?被逼出来的革命
你先想想现在AI最头疼的事是啥?模型参数朝着万亿、十万亿去了,上下文长度(就是一次性能处理的文本量)也奔着百万tokens去了。这带来的直接结果就是,计算时需要临时存放的“钥匙-值”缓存(就是KV Cache)需求爆炸式增长,大得吓人。
现在GPU上那点HBM显存,金贵是真金贵,快也是真快,但容量就那么点,死贵死贵的。这就好比一个世界级大厨(GPU),手艺通天,但厨房操作台(HBM)就一张A4纸那么大,食材(数据)稍微多点儿,他就摆弄不开了,只能不停往后厨(系统内存和慢速存储)跑,效率咔咔往下掉。
所以整个行业都在找办法,怎么给这个“大厨”扩一扩操作台。老黄的NVIDIA就搞了个叫 “Storage-Next” 的计划,直接向所有SSD厂商喊话:“兄弟们,别光卷传统性能了,来设计点专门为GPU发起的AI工作负载优化的硬盘吧!让GPU也能直接、高效地用上你们的闪存,把HBM的容量从物理上给扩展出去!”
这不,铠侠就是第一个拍马赶到、掏出实货响应的重磅玩家。他们的KIOXIA GP系列 SSD,就是为这个“Storage-Next”倡议量身定做的答案。
那这GP系列SSD,到底牛在哪儿?
第一,也是最大的不同:访问方式变了。它不是让CPU当二道贩子倒手数据,而是让GPU通过一条更直接的路径(比如NVLink或者未来类似CXL的接口)去读写它。延迟低得多,效率高得多。
第二,用料贼狠。它用的是铠侠自家的XL-FLASH存储级内存。这名字你甭记,就知道它是一种比普通TLC闪存延迟低得多、性能高得多、专门用于这种“介于内存和硬盘之间”场景的顶级闪存介质。
第三,效果拔群。跟铠侠自家普通的TLC SSD比,这GP系列能提供更高的每秒读写操作次数(IOPS)、能进行更细颗粒度的数据访问(小到512字节),而且每次IO操作消耗的功率还更低。这全是AI负载最看重的指标:快、准、省。
用铠侠公司SSD事业部高级总监Makoto Hamada的话说就是:“铠侠全力支持NVIDIA的Storage-Next计划,并将交付量身定制的SSD,以有效满足GPU可访问内存的需求。这次合作对塑造未来AI存储架构至关重要。”
说人话就是:老黄指明了方向,要“扩内存”,铠侠就把最好的闪存和主控技术拿出来,造出了专门用来“扩内存”的顶级SSD。这叫精准协同。
光有GP系列就完了?不不不,还有另一个“容量怪兽”
铠侠这次是双管齐下。他们知道,除了给GPU直接扩展“工作内存”,AI系统还有一个巨大的需求:存放那个超级庞大的KV缓存。这东西对速度要求也高,但容量需求更是恐怖。
所以,他们同时端出了另一个大杀器:KIOXIA CM9系列PCIe 5.0 E3.S SSD。这玩意儿不像GP系列那么激进地让GPU直访,但它是在传统的高速存储位置上,提供了AI推理规模所需的顶级容量、性能和耐用性铁三角。
它单盘容量能做到25.6 TB,而且是TLC颗粒,耐用性指标是3 DWPD(意思是每天可以把整个硬盘写满3次,持续保修期内)。这个规格,就是瞄着NVIDIA的上下文内存存储(CMX) 这类架构去的。CMX架构的核心思想也是用高性能存储来扩展GPU的内存层次。
简单说,CM9系列就是给那些需要运行万亿参数模型、处理百万token上下文的大型推理机房准备的“高速缓存仓库”。铠侠相信,这类存储将在构建高效、成本优化的AI推理基础设施中,扮演核心角色。
所以,啥时候能摸着?
这可是实实在在的干货:
KIOXIA GP系列(那个让GPU直访的):会在2026年底前,向选定的客户提供评估样品。
KIOXIA CM9系列(那个25.6TB的容量怪兽):计划在2026年第三季度开始出样。
而且,就在现在进行的NVIDIA GTC大会上,在3522号展台,铠侠已经在用仿真器演示这个Super High IOPS SSD和其他技术了。有兴趣的壕们,可以直接去现场摸一摸(虽然大概率摸不到真货)。
唠到最后,这事儿有多大?
我觉得吧,铠侠这波操作,比单纯发布一块读写速度破纪录的消费级SSD,意义要深远得多。
它标志着一个明确的趋势:在AI计算的驱动下,存储和内存的界限正在彻底模糊。未来的AI服务器,不再会是“CPU+内存+GPU+硬盘”这种泾渭分明的结构,而更像是一个“计算-内存-存储”深度融合的异构体。
GPU需要更大、更快、更直接的“数据补给区”,而像铠侠这样的存储巨头,正在把自己的看家本领(闪存介质、控制器、低延迟设计)从“数据仓库管理员”,升级改造成“计算单元的亲密副手”。
这不仅仅是多卖几块硬盘的事儿。这是在参与定义下一代AI基础设施的形态。如果这条路走通了,我们可能不需要无休止地、代价高昂地只去堆叠HBM的容量,而是可以通过智能的存储层级扩展,用更合理的成本,去支撑那些规模大得不可思议的AI模型。
所以,下次你再为“CUDA Out of Memory”而秃头时,或许可以期待一下了。救星可能不只在下一代显卡里,也可能就在你机柜里那个未来的SSD硬盘位里。AI的战场,已经从前端的算力芯片,烧到了后端的数据供给链了。这场好戏,才刚刚开始。
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|