d-Matrix推出JetStream I/O加速卡：实现大规模AI推理超低延迟，比GPU方案快10倍

Meise

嘿，朋友们！如果你最近频繁使用各类AI应用，可能会发现有时候响应没那么快——尤其当海量用户同时访问、AI还得处理多模态任务时，延迟就成了大问题。不过别急，行业里已有团队在全力攻坚这个痛点。

最近，人工智能计算领域备受关注的企业d-Matrix宣布推出全新产品：JetStream I/O加速卡。这可不是普通硬件迭代，而是专为提升AI推理任务的数据吞吐与响应速度而设计的“底层利器”。眼下，AI应用用户量早已突破百万级，智能体（Agent AI）、多模态内容生成和复杂推理需求爆发，行业焦点正从“训练大模型”转向“让大规模推理又快又稳”。

JetStream I/O加速卡的厉害之处，在于它并非单兵作战。配合d-Matrix早前发布的Corsair计算加速器和Aviator软件，这一整套方案能够支持参数量超过1000亿的尖端大模型，并在实际运行中实现显著提升：速度达到传统GPU方案的10倍，成本效益提高3倍，能效也比现行方案优三倍。也正因为JetStream的加入，d-Matrix成为少数能提供“计算-软件-网络”全栈解决方案的AI基础设施供应商。

d-Matrix联合创始人兼首席执行官Sid Sheth说道：“AI正在变得越来越多元，用户对交互速度的要求已接近‘实时’。借助JetStream与我们已有的Corsair计算平台，d-Matrix正在铺就一条让AI推理既具备规模性、又拥有极速响应能力的新路径。”

技术上来说，JetStream是一张透明网络接口卡（NIC，Network Interface Card）和流数据处理方案，专为匹配d-Matrix Corsair加速器而优化。它采用标准的PCIe Gen 5接口形态，并能兼容市面常见的以太网交换机，因此可以无缝部署于现有数据中心内，企业不需要更换底层基础设施，大大减少部署成本与复杂度。

规格方面，JetStream以全高PCIe Gen 5板卡提供，最高支持400Gbps带宽。目前该产品已开放样品申请，预计今年年底就能进入大规模量产。

从行业动向来看，AI推理阶段的瓶颈已不容忽视，而像d-Matrix这样从I/O层面入手提供系统性优化，无疑为AI大规模应用提供更强支撑。未来，有没有可能即便上亿用户同时调用AI，也能流畅如对话？看来，这场提速之战才刚刚开始。