数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

搜索
查看: 61|回复: 0

[产品] Solidigm搞了个AI数据怪兽!23.6PB硬盘塞满16U机柜​

[复制链接]
发表于 昨天 15:57 | 显示全部楼层 |阅读模式
兄弟们,最近AI这赛道真是卷得没边了。以前大家光盯着GPU咔咔比算力,现在可好,连后边吭哧吭哧喂数据的“仓库管理员”都开始秀肌肉了。说的就是Solidigm——你可能更熟悉它家消费级固态硬盘,但人家现在掏出一个专为AI准备的“超级实验室”,那阵仗,简直是把数据中心当乐高积木来玩。今天咱们就钻进这个藏在加州Rancho Cordova的“AI中央厨房”,看看他们是怎么给B200、H200这些“大胃王”GPU准备数据盛宴的。

一、 这地方不简单,AI存储界的“双子星”配置​​
先别被“实验室”仨字唬住,这地方可不是摆几台电脑装样子的。它建在FarmGPU设施里头,这名字起得就挺直白,像个专门“种植”和“收割”算力的农场。Solidigm在这儿整了两套堪称极致的系统,一套追求速度刺激,另一套专注容量平流层。

先说“速度与激情”担当。这套系统用的全是Solidigm D7-PS1010固态硬盘,在MLPerf Storage测试里——就相当于存储界的奥运会——单节点跑出了116 GB/秒的吞吐量!Solidigm直接放话这是AI模型训练测试里的历史最高分。通俗点讲,这就好比给数据流修了条磁悬浮轨道,确保GPU这类计算核心永远处在“吃饱了撑的”状态,绝不会因为等数据而“饿肚子”。

另一边,“容量恐惧症”患者慎入。这套系统在仅仅16U的机架空间里(差不多普通机柜一层多点的身高),丧心病狂地塞进去了192块固态硬盘!每块盘的容量是122TB,数学好的朋友可以心算一下:192乘以122TB,总容量达到了惊人的23.6PB!这是个什么体量呢?大概能装下整个维基百科的文字内容几十个来回还有富余。这种简单粗暴的堆料,用的就是为海量冷热数据混合场景而生的Solidigm D5-P5336盘。

二、 真刀真枪干,专治AI的“数据消化不良”​​
光有顶级硬件不过是堆料,关键得看能治好什么“病”。这个实验室的环境,完全复刻了全球大型数据中心的通用架构。这意味着合作伙伴跑来测试,得到的结果能直接套用在真实项目里,绝不是在沙盘上模拟打仗。

那具体治哪些“病”呢?清单挺长:
首先是AI模型训练和推理的基本功,看存储系统能不能跟上GPU的疯狂节奏。

更有意思的是像“KV缓存卸载”这种精细活——他们和Metrum AI一起搞了个技术演示,在RAG场景下,成功把推理时对珍贵内存的占用量砍掉了57%!而且模型表现和精度还稳如泰山。这相当于给运营成本做了个大幅瘦身,可是真金白银的节省。

还有向量数据库调优、功耗基准测试等等,全是AI应用里那些让人头大的实际问题。

这么干的好处是,Solidigm能跳出过去在单一零件上测试的思维,直接观察整个存储系统在服务器、机架、甚至集群级别上的真实表现。就像不再单独测试发动机的马力,而是把车直接开上纽博格林赛道,看综合性能到底有多炸裂。

三、 已经开门接客,合作伙伴晒出“疗效”​​
这实验室可不是什么样板间,已经有不少机构在里面捣鼓出成果了。前面提到的和Metrum AI的合作就是现成的例子,内存占用量砍半多这种成绩,对于未来大规模部署AI应用极具诱惑力,毕竟内存条也是要花钱的。

和FarmGPU的长期合作更是着眼于未来,目标是持续优化整个AI基础设施,在性能和效率之间找到那个完美的甜蜜点。

这么一圈看下来,Solidigm的算盘打得挺明白。在AI这场马拉松里,算力是强劲的心脏,但数据存储与供给才是决定能跑多远的供血系统。这个AI中央实验室,就是Solidigm秀技术肌肉、搞前沿研发、拉着生态伙伴一起打造未来方案的核心场子。下回再被哪个AI应用惊掉下巴时,或许可以琢磨一下,背后很可能正有这么一个装满硬盘的“超级数据仓库”,在默默无闻地支撑着一切。等更多测试成果浮出水面,估计AI基础设置的玩法还得跟着变。好了,今天的“云参观”就到这里,有啥想法的,咱们评论区接着唠!















本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册 微信登录

x
您需要登录后才可以回帖 登录 | 立即注册 微信登录

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-10-13 00:10 , Processed in 0.140401 second(s), 17 queries , Gzip On, Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表