国产GPU迈出一大步！天数智芯天垓300实测反超NVIDIA H200

刘绪刚

快科技10月29日消息，据报道，在天数智芯10月28日举办的从模型到世界2026媒体开放日活动，旗下新一代AI芯片天垓300首次面向媒体开放实机演示。
活动现场开放天垓300实机演示，接受与H200在GLM-5.3等大语言模型、文生图、文生视频场景的对比测试，天垓300整体表现均优于H200。
训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。
天垓300于今年7月世界人工智能大会上正式发布，采用天数天枢架构，集成新一代Tensor Core，配备144GB显存，原生支持标量、矢量、张量三类计算模式，覆盖FP4、FP8、FP16、BF16等多种数据精度，并支持高速片间互联。
上海仪电今年7月完成的第三方实测显示，在大模型典型的PD分离部署下，天垓300折算单卡整体端到端吞吐达到H200的1.05倍，这是国内首个实测性能达到H200水平的通用GPU。
天数智芯性能实验室的实测进一步覆盖典型业务场景：
在64K长上下文下，天垓300的Attention性能为H200的1.05倍；
GLM-5.3模型64K规模下，保障同等用户体验的同时，MoE吞吐为H200的1.15倍；
8K至128K长上下文场景下Agent首字延迟较H200降低约10%至30%；
多模态生成推理吞吐较H200提升约2%至5%；
在搜广推等在线业务中，推荐推理吞吐提升21%，轻量计算时延降低26%。
规模化交付侧，天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案，天垓300 IXL144超节点在单个标准机柜内集成144颗GPU，约10.1TB显存，每百万有效Token成本较国际主流方案可降低约40%。

bj549

游客请登录后查看回复内容

leifeng

游客请登录后查看回复内容