数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

搜索
查看: 63|回复: 0

[产品] 微软Azure搞了个大事情:全球首套NVIDIA GB300 NVL72超算集群给OpenAI备上了

[复制链接]
发表于 昨天 16:03 | 显示全部楼层 |阅读模式
本帖最后由 麻薯滑芝士 于 2025-10-12 16:06 编辑

哎哟我去!今天科技圈这事够劲爆——微软Azure那边突然甩出来一个王炸消息,他们家新搞的NDv6 GB300虚拟机系列正式上线了!这玩意儿可不仅仅是普通升级哦,这是全球第一个真正投入大规模生产环境的NVIDIA GB300 NVL72超算集群!简单来说就是,微软给OpenAI专门造了一个“算力宇宙”,里面塞了4600多块NVIDIA最新的Blackwell Ultra显卡,全都用NVIDIA Quantum-X800这种超级网络连在一起,就跟搭乐高似的组成了一个超级计算机。

这么说可能有点抽象,我给您打个比方:这就像是给AI模型造了一个“超级大脑”,每个脑细胞(GPU)之间都能光速通信。微软这次真的是把服务器当成了变形金刚来改造,专门对内存和网络系统做了大手术,就为了扛住那些需要超级多计算资源的推理模型和智能体AI系统。

这事能成真不容易,是NVIDIA和微软这两个大佬磨炼了好几年的大招。他们从几年前就开始合作,专门为全球最复杂的AI任务定制硬件基础设施。这次发布等于是给下一代AI技术铺好了高速公路。微软Azure AI基础设施的副总裁Nhid Chappell说得挺实在:“搞出业界第一个大规模NVIDIA GB300 NVL72生产集群,光堆硬件芯片可不够,这体现了微软Azure和NVIDIA对优化整个现代AI数据中心的共同承诺。”

那么这个GB300 NVL72到底是个什么神仙设备?​​
来来来,咱们仔细瞅瞅这个黑科技。每个NDv6 GB300虚拟机的核心都是一个采用液冷散热的整机柜NVIDIA GB300 NVL72系统。您想象一下,一个机柜里塞了72个NVIDIA Blackwell Ultra显卡和36个NVIDIA Grace处理器,所有这些硬件被整合成一个统一的计算单元,专门用来加速超大AI模型的训练和推理。

这配置夸张到什么程度呢?每台虚拟机能提供37TB的超高速内存和1.44 exaflops的FP4张量核心性能——这就相当于给AI模型准备了一个“记忆宇宙”,特别适合那些需要“深度思考”的推理模型、能自主行动的AI系统,还有那些要同时处理文字、图片、音频的复杂多模态生成式AI。

这些硬件背后还有NVIDIA全栈AI软件平台撑腰,包括用了新格式NVFP4的集合通信库(训练速度直接起飞),还有NVIDIA Dynamo这种编译器技术(让AI推理性能冲到顶)。最近MLPerf Inference v5.1基准测试中,GB300 NVL72用NVFP4创造了新纪录:在6710亿参数的DeepSeek-R1推理模型上,每个GPU的吞吐量比NVIDIA Hopper架构高了5倍!新加入的Llama 3.1 405B模型测试也全部领先。

这么大规模的网络是怎么搭建的?​​
要把4600多个Blackwell Ultra GPU连成一个整体,微软Azure用了两层网络设计。在每个GB300 NVL72机柜内部,第五代NVIDIA NVLink交换机提供了130TB/s的全互联带宽,让72个GPU之间能够无缝通信。而在机柜之间,则使用NVIDIA Quantum-X800 InfiniBand平台,为每个GPU提供800Gb/s的带宽,确保所有4608个GPU都能高效协同工作。

这套网络还自带了智能调度、拥堵控制、性能隔离等高级功能,加上NVIDIA SHARP v4协议加速集合运算——相当于给大规模AI训练推理装上了智能交通管理系统。

这对未来AI发展意味着什么?​​
微软为了把这个集群真正落地,几乎把数据中心从头到脚改造了一遍:从定制液冷系统、电力配送到经过重构的软件栈,每个环节都进行了深度优化。这个里程碑意味着AI基础设施建设进入了新阶段。随着Azure计划部署数十万个NVIDIA Blackwell Ultra GPU,像OpenAI这样的客户肯定能搞出更多突破性应用。

说实话,看到这种级别的算力投入,感觉AI技术真的要迎来新一波爆发了。不过具体能爆发出什么,咱们还得继续观望。毕竟有这么强大的算力支持,那些以前只在论文里见过的超大模型,说不定很快就能真正投入实用了。





本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册 微信登录

x
您需要登录后才可以回帖 登录 | 立即注册 微信登录

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-10-13 00:15 , Processed in 0.078000 second(s), 8 queries , Gzip On, Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表