AMD MI355X显卡杀疯了！大模型训练暴打友商，跑分秀肌肉！

麻薯滑芝士

哎哟喂，家人们！最近AI圈可真是锣鼓喧天鞭炮齐鸣啊！训练那些个超大语言模型（LLM），简直是把显卡往死里逼，普通GPU都快扛不住了，分分钟给你表演个“原地去世”。但是！但是！AMD它带着最新的大杀器 Instinct MI355X​ 显卡，还有配套的王牌软件 ROCm 7.0​ 闪亮登场了！这波操作，直接就把AI训练的天花板给捅穿了好吗！人家可不是小打小闹，是实打实地给JAX和PyTorch这俩顶流框架（搞AI开发的程序员老铁们的最爱）做了深度优化，专治各种LLM训练不服！

最近放出来的 v25.9 训练容器（Training Dockers），那叫一个牛X！甭管你是单机单卡自己玩（单节点），还是拉上一帮兄弟搞分布式（多节点），它都能给你整得明明白白，效率高到飞起！这啥概念？就是说搞研究、搞开发的兄弟们，现在可以放心大胆地往死里堆模型参数，搞更复杂、更变态的大模型了，以前不敢想的规模，现在都能整！

AMD的独门秘籍：Primus框架，训练加速器！
重点来了啊！这次PyTorch的训练容器（v25.9），里面塞了个超级狠活儿—— Primus！这玩意儿可不是啥花架子，它是AMD自家搞的一个统一又灵活的LLM训练框架，专门就是为了让在AMD Instinct显卡（比如咱的主角MI355X）上搞大模型开发变得贼拉丝滑！

Primus这哥们儿，讲究！它玩的是模块化、可复现的配置模式。翻译成人话就是：你想咋训练，就跟搭积木似的自己组合，而且效果还能稳定复现，告别玄学调参！以前可能得折腾半天的配置，现在分分钟搞定，省下来的时间喝杯奶茶它不香吗？

更狠的是，这次v25.9版本，Primus它双修了！同时支持了 PyTorch TorchTitan​ 和 PyTorch Megatron-LM​ 这俩鼎鼎大名的训练后端！这意味着啥？意味着开发者手里有了一个威力巨大、还能轻松扩展的利器，搞下一代模型？盘它就完了！

王炸升级：Primus-Turbo，Transformer模型起飞！
你以为这就完了？Too young too simple！v25.9还掏出了另一个秘密武器—— Primus-Turbo！听名字就知道，这货是专门给Transformer模型（现在大模型的核心结构）在AMD显卡上加速用的！装上它，训练速度直接再上一个台阶，AMD Instinct MI355X显卡的潜力被榨得一滴都不剩！这波操作，AMD是铁了心要把训练效率拉满啊！

跑分见真章：MI355X vs. 某大厂旗舰B200，正面硬刚！
光吹牛X没意思，是骡子是马拉出来溜溜！AMD这次直接甩出了硬核跑分，重点看一个指标—— token吞吐量（tokens/gpu/s）。这玩意儿在大规模LLM训练里贼关键，直接反映你显卡干活快不快、效率高不高。测试环境？那必须是顶配：ROCm 7.0 + PyTorch Training Docker v25.9。

单节点（一台机器）性能测试：Primus火力全开
测了啥模型？既有传统的“实心”大模型（Dense LLMs），比如当红炸子鸡 Llama3；也有最近贼火的“专家混合”模型（Mixture-of-Experts, MoE），比如 Mixtral 8x7B。结果？AMD MI355X显卡那是全程高能，输出拉满！

划重点：
Llama3 70B FP8精度：​ 用Primus-TorchTitan后端，MI355X直接干到了 1.0X（对标基准，稳稳持平）。
Llama3 70B BF16精度：​ 还是Primus-TorchTitan，MI355X跑出了 1.16X！比基准还猛！
Llama3 8B FP8精度：​ 换Primus-Megatron后端，MI355X 1.08X，稳得很！
Llama3 8B BF16精度：​ Primus-Megatron下， 1.02X，小胜一筹。
Mixtral 8X7B FP16精度：​ Primus-Megatron，MI355X 1.15X！MoE模型也拿捏了！

（想象一下图1：一张柱状图，上面清楚标着上面这些模型的性能倍数，MI355X的柱子普遍比B200的高，标题：PyTorch单节点性能对比 - MI355X vs B200）

这结果说明啥？甭管你是小巧玲珑的8B模型，还是庞然大物70B模型，在单台机器上，AMD MI355X显卡都能给你整得服服帖帖，效率杠杠滴！

单节点性能再探：JAX MaxText，科研党的福音！
JAX这框架，最近在AI圈那是火得一塌糊涂！为啥？因为它组合性强、搞高性能数值计算贼溜、在多块加速卡上扩展还贼方便！它那套函数式编程的玩法，加上跟XLA编译器深度绑定，让它成了搞前沿LLM和科学计算的香饽饽。

AMD这边呢？直接给你整了个 ROCm MaxText Docker镜像！这玩意儿就是个开箱即用的环境大礼包，里面塞好了JAX、XLA、ROCm的各种库，还有MaxText的工具。好处是啥？开发者想用JAX的灵活性和高性能，在AMD显卡（MI355X）上跑，再也不用吭哧吭哧配环境了，省心！

测了啥？在 ROCm 7.0 JAX MaxText Training Docker v25.9​ 环境下，跑了三个模型。结果？MI355X在“实心”模型上全程碾压B200（用的是JAX MaxText 25.08），在MoE模型上也几乎打平手！

再划重点：
Llama3.1 70B FP8精度：​ MI355X 1.11X​ 提升！优势明显！
Llama3.1 8B FP8精度：​ MI355X 1.07X​ 提升！稳稳拿捏！
Mixtral 8×7B FP16精度：​ MI355X 1.00X，跟B200打了个平手！

（想象一下图2：类似图1的柱状图，展示JAX MaxText单节点性能，MI355X在Llama3上优势明显，Mixtral持平，标题：JAX MaxText单节点性能对比 - MI355X vs B200）

这说明啥？AMD Instinct MI355X显卡不仅干活快（高吞吐量），还能完美发挥JAX框架的灵活性和多卡扩展能力，简直就是为那些搞最前沿研究的科研党量身定做的神器！

多节点（分布式训练）：组团开黑，实力依旧能打！
搞超大模型，一台机器肯定不够看，得上多台机器组团（多节点分布式训练）。这时候，显卡的扩展性就贼重要了。MI355X表现如何？答案是：稳得一匹，跟B200打得有来有回！

关键战报：
Mixtral 8x22B BF16精度：​ 在4个节点上用Primus-Megatron跑，MI355X 优势达到1.14X！组团效率更高！
Llama3 70B FP8精度：​ 同样4节点Primus-Megatron，MI355X 稳稳持平（1.01X）。
Llama3.1 405B FP8精度：​ 挑战巨无霸模型！在8个节点上用Primus-Megatron跑，MI355X 表现非常接近（0.96X），虽略低但绝对在同一个水平线上竞争！

（想象一下图3：展示多节点性能的柱状图，MI355X在Mixtral上有优势，Llama3持平，Llama3.1接近，标题：PyTorch多节点性能对比 - MI355X vs B200）

这结果够硬核了吧？AMD Instinct MI355X显卡不仅单打独斗厉害，拉上兄弟（多卡多节点）搞分布式训练，扩展性优秀，性能依然非常能打，完全Hold住大规模训练的需求！

总结陈词：AMD这回真的站起来了！
兄弟们，把“AMD YES！”打在公屏上！这次 ROCm 7.0 软件 + Instinct MI355X 显卡的组合拳，妥妥地给AI训练性能立了个新标杆！咱们从头唠到尾，从单机到多机，从PyTorch到JAX，从实心模型到专家混合模型，MI355X的表现那是全程高能，输出爆炸，灵活得飞起，扩展性还贼强！

有了Primus框架和JAX MaxText的无缝加持，开发者们现在可以甩开膀子干了，训练下一代大模型？没有瓶颈，直接梭哈！

甭管你是想在一台机器上追求极限速度，还是要搞几百张卡分布式训练挑战模型规模极限，ROCm 7.0都给你提供了贼靠谱、贼硬核的基础设施。MI355X显卡就是研究猿和工程师手里的超级武器，让他们能信心满满、效率爆表地去攻克当下最变态、最吃硬件的AI模型！

心动不如行动！
AMD都把这王炸组合摆你面前了，还等啥？赶紧的！

传送门在此：立刻下载 v25.9 Training Docker！（https://rocm.docs.amd.com/en/lat ... _train_llama-3.1-8b）

亲自上手体验一下在AMD显卡上跑优化LLM训练有多爽！亲眼看看ROCm 7.0软件是怎么给你的AI工作负载疯狂提速的！新世界的大门已经敞开，就等你来探索了！

（原文来源：AMD ROCm Blog，信息保真，一个字儿不落！）