美光宣布其用于英伟达 AI 芯片的 HBM3E 及 SOCAMM 已量产出货

数码芝华士

IT之家 3 月 25 日消息，美光今日宣布成为全球首家且唯一一家同时出货 HBM3E 及 SOCAMM 产品的存储厂商。

据介绍，其用于英伟达 GB300 Grace Blackwell Ultra 超级芯片的 SOCAMM 内存，以及针对 HGX B300 平台打造的 HBM3E 12H 36GB、用于 HGX B200 平台的 HBM3E 8H 24GB 已量产出货。

美光表示，SOCAMM 是一款与 NVIDIA 合作开发的模组化 LPDDR5X 内存解决方案，是全球速度最快、体积最小、功耗最低、容量最高的模组化内存解决方案。

• 速度最快：在相同容量下，SOCAMM 能提供比 RDIMM 高出 2.5 倍的带宽，从而使其能更快存取更庞大的训练数据与更复杂的模型，同时提高推理工作负载的数据传输量。
• 体积最小：SOCAMM 规格尺寸为 14x90 mm ，仅为业界标准 RDIMM 尺寸的三分之一，可实现更加精巧、更高效率的服务器设计。
• 最低功耗：SOCAMM 解决方案功耗仅为标准 DDR5 RDIMM 的三分之一，从而重塑 AI 架构中的功率效能曲线。
• 最高容量： SOCAMM 解决方案采用四组 16 层堆叠 LPDDR5X 内存，打造 128GB 高容量内存模组，可提供业界最高容量的 LPDDR5X 内存解决方案。
• 最佳拓展能力和维修性：美光 SOCAMM 采用模组化设计和创新堆叠技术，具备 ECC 纠错功能，还可大幅提升维修便利性，同时也有助于液冷服务器设计。
  
  

IT之家从美光官方获悉，其 HBM3E 12H 36GB 在相同外形规格下可提供比 HBM3E 8H 24GB 高 50% 的容量。相较于竞争对手 HBM3E 8H 24GB 产品，美光 HBM3E12H 36GB 功耗降低 20% ，同时存储容量也高出 50%。