|
|
兄弟们,今天咱们来唠个特别实在的嗑!您肯定听说过英伟达最新那批Blackwell Ultra服务器机架吧?对,就是那个性能强到能让显卡跑分软件直接跪下来喊爸爸的超级算力怪兽!大家都盯着它那吓人的运算速度流口水,但您猜怎么着?我今天想跟您唠的,不是它有多能算,而是它有多能“发烧”,以及为了让这尊大神别把自己给烧糊了,你得额外准备一笔多么感人的“空调费”!
这事儿得从英伟达自己个儿使劲吆喝的顶配型号说起,叫 GB300 NVL72。您听这名字就一股子硬核味儿对不对?他们官方是怎么夸的呢?原话我给您掏出来啊,说的是这玩意儿是“顶级配置”,用的是“基于Grace Blackwell Ultra超级芯片打造的液冷机架”。
光这么说您可能没感觉,我给您翻译翻译:这就好比不是给您一块两块顶级显卡玩游戏了,是直接把72个顶级显卡的核心,跟32个高性能CPU的大脑,用超级胶水粘成了一个巨型算力堡垒!官方说它能实现“百亿亿次级别的密集FP4性能”,而且跟以前的老平台HGX比,“每兆瓦吞吐量有大幅提升”。
划重点啊:“每兆瓦吞吐量提升”!这话啥意思?就是说它不光算得快,还显得“比较省电”?哎,您可别被这话术给骗了,这里的“省电”是跟它自己以前那个更电老虎的版本比的!它本身的绝对耗电量,那简直就是个无底洞!这就好比说,一个新款电饭煲比老款“能效提升50%”,但老款一小时耗10度电,新款还得耗5度呢,照样是吃电大户!
好,前方高能,咱们来算算这笔电费和空调费!
为啥必须用液冷?风冷不行吗?您看这数据就懂了:每一颗Blackwell Ultra GPU芯片的热设计功耗(TDP)标称是1,400瓦!1,400瓦啊朋友们!这一个小芯片的发热量,都快赶上两个小太阳取暖器了!您想想,一个机架里,像塞糖果一样塞了72颗这样的GPU!
简单乘法:72颗 x 1,400瓦 = 100,800瓦!也就是超过100千瓦!这还只是GPU的部分,还没算上那32颗叫做“Grace”的CPU也在那儿拼命干活发热呢!全算上,这整个机架满载的时候,产生的总热量轻松突破10万瓦,就是个100千瓦起步的大型移动暖风机!
100千瓦热量是啥概念?我给您打个比方,大概相当于您家里同时开了250个400瓦的电暖气!就这么个发热怪物,您指望用几个小风扇对着吹就能降温?那不是做梦嘛!所以传统的基于空气的冷却方案根本不可行,必须上狠活——全身泡在“水”(冷却液)里的液冷系统!
那么问题来了,给这么个“算力火山”装一套顶级“中央空调”,得花多少钱?
贴心如摩根士丹利(对,就是那个大名鼎鼎的投资银行Morgan Stanley),他们还真像拆手机一样,把英伟达这个叫做 Oberon的机架给“拆解”了,建了个估值模型来算这笔账。
算出来的数字有点吓人:光冷却系统,英伟达就得花掉接近5万美元!
5万美元啊!合着买这套顶级算力,还得额外配一台入门级豪华轿车的钱,专门给它吹空调!这钱是怎么花出去的呢?摩根士丹利算得那叫一个细:
这个Oberon机架里面,不是一整个大铁盒子,而是由18个计算托盘和9个交换托盘组成的。每个计算托盘的功耗大概是6.6千瓦,其中大约6.2千瓦的热量需要冷却系统来处理。他们估算,单个计算托盘的冷却部件成本就在2,260美元左右。18个托盘乘一下,光是计算部分的冷却成本就奔着 40,680美元去了!
还没完呢!还有那9个负责连接的交换托盘,每个托盘的冷却成本大概是 1,020美元,加起来又是 9,180美元。全机架总冷却成本:40,680 + 9,180 = 49,860美元,约等于5万美元!
摩根士丹利还特别点名了,整个冷却系统里最烧钱的零件是“高性能冷板”,这玩意儿一个就要“几百美元”。您想想,这机架里得用多少块这种冷板?这成本可不就蹭蹭上去了!
你以为这就到头了?图样图森破!
报告里还提了个更刺激的:下一代叫 “Vera Rubin”的NVL144配置(猜猜144是啥意思?对,GPU数量翻倍,到144颗了!),正在来的路上。随着GPU和互联芯片功耗继续增加,需要的散热硬件只会更多!摩根士丹利估计,到时候冷却成本还得再涨大约17%,达到55,710美元左右!
这反映了一个众所周知的现象:计算密度和TDP功耗越高,维持系统在温度墙以下工作的花费和工程复杂度就越高。特别是交换机的耗电量也在涨,给这种先进系统散热的成本预计还会往上爬,管理越来越强大的AI基础设施的散热,真是个越来越头疼的挑战。
唠到这儿,您明白了吧?
英伟达这些Blackwell Ultra机架,确实是性能猛兽,是AI计算的强大引擎。但您享受它带来的极致算力风暴的同时,也得准备好承受它带来的“热力风暴”和“成本风暴”。那笔五万美元起步、未来还可能更贵的“空调费”,可不是开玩笑的。这玩意儿就像养了一头吞电吐热的巨龙,您得先给它修个足够结实、足够凉爽的龙巢,它才能乖乖给您干活。
所以下次再看到谁家宣布采购了英伟达最新的超算平台,除了感叹“哇,有钱!算力强!”,或许也可以在心里默默补一句:“嗯,他们机房的电费和空调费,一定也相当得劲!”
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|