单条512GB！美光把DDR5内存容量干到了新高度，服务器直接奔着12TB去了

麻薯滑芝士 · 发表于 2 小时前

爱科技、爱创意、爱折腾、爱极致，我们都是技术控

您需要登录才可以下载或查看，没有账号？立即注册

x

嗨，各位平时泡在数据中心机房里、天天跟服务器硬件打交道的老哥，还有那些搞AI训练被内存容量逼得快薅光头发的大佬们，今天这条消息你们可得好好品一品。这几年大语言模型和AI推理任务对内存的胃口有多大，大家心里应该都有数，大到什么地步呢？大到DRAM厂商们不得不拼命往单条内存条里塞进更多的颗粒，才能勉强喂饱那些永远吃不饱的计算集群。就在昨天，美光正式对外亮出了一项里程碑式的成果——全球第一款512GB容量的DDR5内存条，而且这玩意儿的速度还冲到了9200 MT/s。你没看错，就是单条512GB，不是128GB，也不是256GB，直接翻着倍往上跳。这意味着什么呢？意味着在一台配备了24个内存插槽的双路服务器里，你可以把这些512GB的内存条全部插满，总内存容量直接飙到12TB。12TB的内存是个什么概念？很多人的电脑固态硬盘都没这么大，而现在它变成了服务器的运行内存。国外科技媒体Wccftech在昨天，也就是9月15号，第一时间报道了这个消息，文章里提到美光已经在多个服务器平台上成功演示了这款512GB的DDR5模块，证明了它的可行性。

事情的来龙去脉其实不难理解。现在的AI工作负载，特别是那种代理式AI和需要频繁读写内存的重度计算任务，已经把DRAM的需求推到了一个以前想都不敢想的高度。以前大家觉得单条32GB、64GB就算挺大的了，后来128GB成了标配，再往后256GB开始在高端服务器上普及。但到了今天这个节骨眼上，256GB在某些场景下也开始显得捉襟见肘了。美光这次推出的512GB DDR5内存条，就是冲着这种越来越夸张的内存饥渴来的。根据美光官方发布的新闻稿，这根内存条之所以能塞进去512GB的容量，靠的是他们家的先进垂直互连封装技术。这项技术的原理说白了，就是把多个DRAM芯片一层一层垂直堆叠起来，然后用硅通孔技术把这些上下叠在一起的芯片打通，让它们互相连通。这样一来，单个内存封装内部的密度就被推到了极限，同时又没有牺牲现代数据中心架构所要求的高速传输性能。美光官方在新闻稿里说得很清楚，这次的成果是他们在内存创新领域的一个重要里程碑，进一步巩固了他们在高性能、大容量服务器内存市场的领先地位，同时也给企业级数据中心和云服务客户指明了一条道路，让他们能够更高效地去支撑那些大规模且要求苛刻的AI、数据分析、内存数据库和仿真密集型工作负载。

速度方面，这根512GB的内存条最高能达到9200 MT/s。9200 MT/s这个数字放在今天的DDR5产品线里，妥妥属于第一梯队的水准。要知道，目前市面上主流的DDR5内存条速度大多还在5600到6400 MT/s之间徘徊，能跑到8000 MT/s以上的已经算高端货了，而美光这根512GB的大家伙直接干到了9200 MT/s，等于在容量翻了不知道多少倍的同时，速度一点都没落下风。这对于那些需要在内存里装载超大模型的AI训练任务来说，简直就是及时雨。

美光的这次突破也得到了上下游生态伙伴的大力支持。AMD和Intel两家都在积极验证这根内存条，确保它能完美兼容各自下一代的服务器平台。AMD那边负责计算和企业AI平台方案工程的企业副总裁Amit Goel在新闻稿里说了，随着AI和数据密集型工作负载不断重塑基础设施的需求，AMD的解决方案一直在推动数据中心的性能、扩展性和效率往前走。他还特别强调，AMD和美光之间的紧密工程协作，把计算和内存的创新融合在了一起，能够帮助客户充分挖掘AMD驱动平台的真正价值。两家公司正在联手打造平衡且高性能的基础设施，来应对现代工作负载日益增长的规模和复杂度。Intel这边也不甘落后，数据中心集团负责平台和系统工程业务的总经理Karin Eibschitz Segal在新闻稿里表示，AI和其他数据密集型工作负载的增长给服务器基础设施带来了全新的要求，内存容量和带宽对系统整体性能的重要性变得越来越突出。她透露，Intel正在和美光紧密合作，验证这根512GB的RDIMM，目的是帮助未来的服务器平台能够满足下一代数据中心工作负载不断增长的需求。

除了容量和速度这两个硬指标之外，美光这根新内存条在功耗方面的表现也很抢眼。根据美光官方给出的数据，一根512GB RDIMM在运行时的功耗，比起用四根128GB RDIMM来实现相同总容量的方案，降低了超过60%。这意味着什么呢？意味着数据中心运营商可以在不增加电力预算的前提下，把单台服务器的内存容量翻好几倍，同时还能省下一大笔电费开支。对于那些拥有成千上万台服务器的大型云计算厂商来说，这种能效提升带来的成本节约是非常可观的数目。美光云内存业务部门的高级副总裁兼总经理Raj Narasimhan在新闻稿里也提到了这一点，他说512GB RDIMM能够实现多TB级别的服务器配置，支持更大规模的AI和数据库工作负载，提高虚拟化密度，改善电源效率，而且所有这些都是在现有的服务器空间内完成的，不需要额外增加物理占地面积。

在具体的性能表现上，美光也给出了一些很有说服力的参考数据。对于一些特别吃内存的工作负载，比如基于Spark支持向量机的数据分析任务，使用512GB DDR5内存条的配置，比使用256GB DDR5配置的性能提升了最多1.4倍。这个提升幅度相当明显，意味着同样的计算任务可以在更短的时间内完成，或者同样的时间内可以处理更多的数据。此外，对于那些重度依赖内存的数据库和缓存平台，比如RocksDB和Redis，512GB的超大容量可以让更多数据常驻在内存里，减少对低速存储层的访问次数，从而大幅提高吞吐量和并发处理能力，让数据集的管理和扩展变得更加高效。美光在新闻稿里还提到，大语言模型的快速普及、代理式AI的兴起、实时推理任务的增多，以及高核心数CPU工作负载的扩张，都在共同推动市场对更大服务器内存容量、更高带宽和更好能效的需求。而512GB RDIMM正好回应了这些需求，它让更大的数据集能够留在主内存里，减少了对较慢存储层的依赖，也最大限度地降低了代价高昂的数据搬移操作。

回过头来看这件事，美光这次拿出的512GB DDR5内存条，不仅仅是一个容量数字上的突破，更是对整个数据中心基础设施的一次重新定义。在过去，服务器的内存容量往往受限于物理插槽的数量和单条内存的最大容量，想要扩容就得加服务器，加了服务器就得加机柜、加电力、加散热，成本直线往上涨。而现在，单条512GB的出现，让现有的服务器可以在不增加物理空间的前提下，把内存容量翻倍甚至翻四倍。这对于那些正在被AI模型规模快速增长而困扰的企业来说，无疑是一条非常清晰的升级路线。

当然，这根内存条目前还处在演示和验证阶段，距离大规模量产和上市还有一段时间。但美光既然敢在昨天公开宣布这个成果，并且得到了AMD和Intel两大平台的同步验证支持，说明产品的成熟度已经相当高了。可以预见的是，在接下来的几个月里，我们会陆续看到越来越多的服务器厂商开始跟进，推出支持512GB DDR5内存的新机型。到那个时候，12TB内存的单台服务器将不再是实验室里的概念产物，而是真正走进数据中心、为AI训练和大数据分析提供动力的生产工具。这场由AI需求倒逼出来的内存容量竞赛，美光已经率先打出了一张王牌，接下来就看三星和海力士这几家内存巨头怎么接招了。