数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 53|回复: 0

[概念] AMD Helios炸场:不跟Nvidia比谁家芯片跑分高,专治AI公司花钱太狠的毛病

[复制链接]
发表于 4 小时前 | 显示全部楼层 |阅读模式
哎哟喂,各位每天早上睁开眼第一件事就是打开ChatGPT或者Claude、噼里啪啦敲进去一个问题、结果发现对面那个AI跟你一来一回拉扯了几十轮才肯给个准话、月底打开API账单一看数字差点从椅子上摔下来的重度AI用户,各位整天泡在数据中心机房里、耳朵里全是服务器风扇的嗡嗡声、脑子里盘算着这个月光电费又要烧掉多少预算、头发一把一把掉的运维老哥,各位刷着各大电商平台眼睁睁看着Nvidia显卡的价格像坐了直升机一样往上蹿、好不容易咬咬牙下定决心准备剁手却发现连个预约按钮都灰着的等等党,各位被老板堵在办公室门口拍着桌子吼“赶紧把AI业务搞起来”同时又被财务总监冷冷甩过来一句“预算就这么多你自己看着办”夹在中间两头受气的技术负责人,还有那些虽然不搞技术也不搞运维但就喜欢看科技圈神仙打架、想知道AMD这回到底有没有本事把Nvidia从那个坐了不知道多少年的王座上拽下来、顺便还能学到点谈资好跟朋友吹牛的围观群众——今儿个咱聊的这件事儿,说大不大说小不小,但跟你们每一个人或多或少都有那么点儿关系,因为AI烧钱的速度已经离谱到连OpenAI、微软、Meta这种级别的巨头都开始捂着胸口喊肉疼了,而AMD偏偏在这个节骨眼上掏出了一套全新的玩法,说白了就是一句话:别跟我比谁家芯片跑分高,咱们比比谁能让AI公司省下更多真金白银。

先说说现在AI圈子里正在发生的一个翻天覆地的变化吧。以前大家玩AI聊天机器人是什么画风?你丢一句话过去——“今天北京天气怎么样”——对面秒回一句“晴转多云,最高气温28度,微风”,完事儿,各回各家各找各妈。那个年代,一个token就能搞定一个问答,干净利落,谁也不欠谁。但现在已经完全不是那么回事儿了。人工智能正在朝着一个叫做“智能体AI”的方向一路狂奔,什么叫智能体AI?我给你打个比方你就明白了。就好比你以前雇了一个实习生,你跟他说“去帮我倒杯咖啡”,他二话不说就去倒了,端回来给你,完事儿。但现在你雇的这个实习生升级了,你跟他说“去帮我倒杯咖啡”,他会先自己想:老板喜欢喝美式还是拿铁?糖要几勺?现在去茶水间会不会排队?要不要顺便帮其他同事也带一杯?然后他自己决定先去查一下你的口味偏好记录,再去茶水间看看咖啡豆还剩多少,最后再决定用什么杯子——整个过程他自主规划、自己调用各种资源、自己检查每一步的结果对不对,然后再决定下一步怎么走。哪怕你只是提了一个看起来非常简单的要求,他在背后可能得跟各种系统来回交换几十次甚至上百次的信息,才能给你最终那个满意的答案。这就带来了一个什么问题呢?Token的消耗量直接起飞了,而且是那种连安全带都没系好的起飞。

Token这个东西,你可以把它理解为AI模型生成文字的最基本单位,就像盖房子用的砖头一样。你问ChatGPT一句“帮我写一封辞职信”,它会把这个句子拆成“帮”“我”“写”“一”“封”“辞”“职”“信”这样一个一个的token,然后逐个生成回复的每一个字。每产生一个token,背后都需要消耗电力、占用GPU的计算资源、产生硬件损耗。以前一个token就能搞定一个简单的问答,现在处理一个稍微复杂点的任务可能得吃掉几百个甚至上千个token。对AI公司来说,这可不是闹着玩的——OpenAI、Meta、微软、谷歌、Anthropic这些巨头,每天光是维持AI服务正常运转所消耗的电费和硬件折旧费用,加起来就是一个普通人想都不敢想的天文数字。你想想,全世界几亿用户每天不停地提问,每个问题背后都在燃烧token,每个token都在燃烧电费,这笔账算下来,谁看了不得倒吸一口凉气?

就在这个大家都被成本压得有点喘不过气的节骨眼上,AMD出手了。7月22日这一天——也就是本周三——在美国旧金山的Moscone West会展中心,AMD举办了一年一度的大型活动AMD Advancing AI 2026,正式向外界展示了新一代AI加速器Instinct MI455X,同时还端出了一套名字叫做Helios的整体系统。这个Helios可不是简简单单的一块芯片或者一台服务器,它的玩法完全不同——AMD把芯片、服务器、还有把这些东西全部连接起来的网络设备,从头到尾作为一个完整的解决方案打包在了一起。AMD这次的路数跟以前完全不一样,他们没有像往年那样逮着单个芯片的性能跑分使劲吹、恨不得把跑分数据印在T恤上穿出去逛街,而是换了一个全新的角度来思考问题:他们围绕着“生产一个token到底能便宜到什么程度”这个核心指标,从零开始重新设计了整套AI基础设施。

这个思路是怎么来的呢?其实道理特别朴素,一点都不玄乎。就算你手里那块芯片算力再强、跑分再高、参数再好看,但如果围在它周围的那一堆服务器和网络设备跟不上节奏、成了拖后腿的瓶颈,那你整体的运营成本照样降不下来,甚至可能更高。我打个比方你就明白了。就好比你花大价钱买了一台F1赛车的发动机,结果把它装到了一辆破破烂烂的二手奥拓上——发动机确实猛,一脚油门下去声浪震天响,但变速箱承受不住、轮胎抓地力不够、底盘扛不住那个扭矩,结果你一脚油门踩到底,车没跑出去多远,零件倒是散了一地,修车的钱比加油的钱还贵好几倍。AMD的想法就是:与其光顾着升级发动机、在发动机上堆料,不如把整辆车从头到尾重新设计一遍,让发动机、变速箱、底盘、轮胎、悬挂系统所有东西从一开始就能完美配合,尽量减少那些因为零件不匹配而产生的浪费和损耗。

在发布会那天,AMD着重强调了Helios最大的卖点到底是什么。他们说,芯片、服务器、网络这三样东西,是从项目启动的第一天起就被当作一个整体来联合设计的,而不是先把芯片做好再去配服务器、最后随便找根网线插上就完事儿了。他们还专门给在场的人算了一笔非常具体的账——当你把一个完整的机架从上到下全部跑起来的时候,实际的运营支出到底能降低多少。这里面有一个概念叫做“机架级经济学”,这个词听起来有点绕口,但说白了就是一句话:别再盯着单个芯片的算力看了,你得看一整台机架每花出去一块钱,到底能产出多少个token。这个指标才是真正决定一家AI公司到底是赚钱还是亏钱的关键所在。

说到token这个东西,咱们再多唠几句,把这事儿彻底掰扯清楚。Token是AI模型用来生成句子的最小单元,这个刚才已经说过了。你打开ChatGPT或者Claude这样的AI服务,输入一个问题之后,AI就会一个token一个token地往外蹦答案,就像打印机一个字一个字往外打一样。每蹦出来一个token,背后都有对应的电费账单和硬件损耗账单。这些零零碎碎的成本单个看起来好像不多,但积少成多、聚沙成塔,加起来就构成了AI公司日常运营的主要开销。尤其是现在智能体AI这种模式越来越流行——AI通过多个自主步骤来处理任务——处理单个请求所要消耗的token数量,已经不是简简单单的线性增长了,而是呈指数级的爆炸式增长。你想想,以前问一句话花一个token的钱就能搞定,现在问一句话可能得花一百个token的钱才能得到同样的答案,这成本能不高吗?而且随着AI应用越来越深入、越来越复杂,这个趋势只会越来越明显,不会回头。

AMD在当天的活动中还深入剖析了AI行业正在经历的一场结构性转变。负责AMD数据中心GPU业务的公司副总裁Andrew Dieckmann在现场说了一段非常有分量的话,我原原本本地给大家转述一下。他说:“2024年的时候,用来训练模型的‘训练’环节占了AI半导体总需求的60%。但是到了2026年,也就是今年,在实际服务中负责给出答案的‘推理’环节,占比已经反超到了60%。”他接着解释说,“一旦模型被成功地训练好了,AI半导体的主要工作就变成了每天给数不清的用户提供答案,而且提供答案的方式还在变得越来越复杂、越来越多样化。”这段话信息量很大,我来帮你拆解一下。前两年,大家的重点是把模型训练好,谁的芯片训练得快、训练得效果好,谁就能在市场上抢占先机。那个时候,训练是主角,推理只是个配角。但现在情况已经完全颠倒过来了。主流的大模型基本上都已经训练得差不多了,真正的战场已经转移到了日常的推理服务上——谁能用更低的成本、更快的速度、更稳定的质量给用户输出答案,谁就能在市场上站稳脚跟、赢得用户的青睐。

在这种大趋势下面,一个非常明显的事实就摆在了所有人的桌面上:比起单个芯片算得有多快、跑分有多高,更重要的是整套基础设施——包括芯片、服务器、网络设备全部整合在一起之后——每创造一个token到底要花多少钱。这个指标才是硬通货,才是AI公司CFO们真正关心的事情。这就是为什么AMD在这次发布中,把“机架级经济学”放在了一个比单个组件性能高得多的优先级上。他们觉得,你要是只看单个芯片的跑分,那格局就太小了;你得站在一家AI公司首席财务官的角度去想问题:我每个月掏出去那么多电费和硬件折旧费,到底换回来了多少个token?这个投入产出比的账才算得明白、算得清楚。

那这套思路落实到具体产品上,就是AMD的下一代AI解决方案Helios。AMD不仅仅是在单个半导体器件上做了一些修修补补的改进,他们是动了大手术——从一开始就把服务器CPU、GPU、还有连接这些东西的网络设备,全部作为一个整体来进行设计。他们的目标不是让每一个组件的性能都跑到极致、跑到冒烟,而是让整个系统像一组精密咬合的齿轮一样无缝配合,把那些因为组件之间不匹配、不协调而产生的浪费和损耗降到最低最低。这就好比你组装一台高性能电脑,你光买了市面上最好的CPU、最好的显卡、最好的内存条、最好的固态硬盘,但如果你不考虑它们之间的兼容性和协同效率,那这台电脑的实际表现可能还不如一台配置稍微低一点但各个部件搭配得非常合理、磨合得很好的机器。这个道理放到数据中心级别的系统上,效果会被放大无数倍。

AMD还当场放出了一个相当大胆、相当有火药味的对比——他们直接拿竞品Nvidia的下一代机架系统Vera Rubin NVL72来做了正面比较。按照AMD官方公布的数据,在他们自己的测试环境里,跑了一个真实的大模型——就是Moonshot AI开发的那个千亿参数级别的推理模型Kimi K2 Thinking——结果Helios的处理速度比Nvidia的那套产品快了10%到15%,具体快多少取决于响应时间的条件和测试的具体设置。如果把这个速度优势换算成实实在在的成本的话,AMD算了一笔非常直观的账:同样的预算,用Helios可以多产出最多30%的token。我给你翻译翻译这是什么概念。假设你原本打算拿出1000万美元来采购算力,用Nvidia的方案你可能能买到一定数量的token产能,但换成Helios的话,相当于你白捡了300万美元的额外算力——同样的钱,多干了30%的活儿,这搁谁身上不心动?

AMD表示,他们在设计Helios的时候,脑子里一直绷着一根弦,从来没有松过:怎么才能在花同样多钱的情况下,处理更多的计算任务。他们没有一门心思地去堆单个组件的性能、去追求那些看起来很漂亮的数字,而是死死盯着机架级别上的产出效率——每花出去一块钱,到底能换来多少个token。对于AI公司来说,这套策略的意义非常直接、非常现实:同样的预算,你能从AI服务中得到更多的成果、处理更多的用户请求、产生更多的价值。这反过来又能帮助AMD在AI生态系统里不断扩大自己的影响力,让越来越多的公司和开发者愿意在他们的平台上构建应用和服务。

一位AMD的官员在接受媒体采访的时候,把话说得更透了、更直白了,完全没有遮遮掩掩。他是这么说的:“我们不是单纯地去改进某一个芯片,也不是在现有的架构上修修补补,而是围绕着‘经济性’这个核心指标,从头重新设计了整个基础设施。这种做法最终反映出来的,其实是AI公司在挑选半导体供应商时做出的那个最真实的判断——他们看的不是纸面上的‘理论算力有多高’,也不是PPT上那些漂亮的跑分图表,而是‘运营这套服务到底能便宜到什么程度’。”这位官员还补充了一句分量非常重、足以让整个行业侧目的话:“像OpenAI、Meta、微软、甲骨文、Anthropic这些AI圈子里最顶级的玩家,之所以已经做出了决定要采用Helios,就是因为这套关于生产效率和生产成本的计算逻辑,实实在在地说服了他们,让他们觉得这笔账怎么算都划算。”

说实话,看完这整件事情的前前后后,我觉得AMD这次确实是找准了一个非常刁钻、非常聪明的切入角度。以前大家提起AI芯片的竞争,第一反应就是比跑分、比制程工艺、比显存带宽、比浮点运算次数,好像谁家芯片上的数字大谁就赢了,谁就能笑到最后。但AMD这回跳出了那个已经挤满了人的框框,开始从AI公司真实的运营成本和投资回报率出发,重新定义了游戏规则和评判标准。你想啊,一家像OpenAI这样的公司,每个月可能要为维持服务正常运转支付几百万甚至上千万美元的电费和硬件维护费。如果能在这上面省下30%,那可不是一笔小数目——省下来的钱可以用来训练更大更好的模型、可以雇佣更多顶尖的研究员、可以降低产品售价来吸引更多用户、也可以直接转化为利润让投资人开心。而且随着智能体AI这种模式越来越普及、越来越主流,token的消耗量只会像滚雪球一样越滚越大,到那个时候,成本控制的重要性甚至会超过算力本身,成为决定一家AI公司生死存亡的关键因素。

当然,Nvidia那边肯定也不会坐在那里干瞪眼、什么都不做。他们的Vera Rubin NVL72目前还没有正式上市销售,具体表现到底怎么样、有没有隐藏的杀手锏,还得等第三方评测机构拿到实物之后做了详细的测试才能见分晓。但不管怎么说,AMD这次至少在战略层面上找到了一个非常有说服力、非常有杀伤力的切入点——你不是比我强吗?行,那我就不跟你比谁强,我跟你比谁更能省钱、谁的投资回报率更高。而且从他们已经公开的客户名单来看,OpenAI、Meta、微软、甲骨文、Anthropic这些AI圈子里站在金字塔尖的顶级玩家,都已经决定上Helios这条船了。这说明什么呢?说明AMD这套关于成本和效率的计算逻辑,确实精准地戳中了这些大公司的痛点和软肋,让他们不得不认真对待。

这场芯片巨头之间的巅峰较量,肯定还远远没有到尘埃落定、分出胜负的时候。但至少在今天,在这个7月的星期五,AMD让所有人都看到了另外一种可能性、另外一条路:在AI算力这个疯狂烧钱的赛道上,最后的赢家不一定是谁家的芯片跑分最高、参数最好看,而是谁能帮AI公司把兜里的每一分钱都花出更大的价值、产生更多的回报。毕竟,在这个烧钱如流水的行业里,谁会跟自己的钱包过不去呢?

新闻来源:Chousunbiz



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|数码之家-技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2026-7-24 12:57 , Processed in 0.093600 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz!

© MyDigit.Net Since 2006

快速回复 返回顶部 返回列表