|
|
哎!所有在埋头搞AI应用开发的工程师、在公司里为算力账单发愁的技术负责人、还有好奇“为啥AI聊天机器人有时反应那么慢”的网友们,赶紧放下手里的泡面,过来听个新鲜热乎的!韩国那边儿,三星家族里那个特能打的“IT管家”——三星SDS,刚放了个大招:他们在全韩国,头一个!上线了能直接租用英伟达最新“核弹”显卡B300的云服务! 对,你没听错,就是那个代号“Blackwell Ultra”、目前最顶的AI算力怪兽,现在不用你卖房去抢,可以像交网费一样按月租了!
这消息是这周一,3月23号,三星SDS自己敲锣打鼓官宣的。他们通过自家的“三星云平台”(简称SCP),推出了这个叫GPUaaS的服务,说白了就是“图形处理器订阅服务”。这里头最核心的两个关键词,一个是“韩国首个”,排面拉满;另一个就是“B300”,性能拉爆。
你可能会问,三星SDS一个搞IT服务的,为啥急着抢这个“首发”名头?这背后啊,藏着一个现在所有大公司都在拼命卷的趋势:AI的战场,已经从前期的“训练模型”,烧到了真刀真枪的“推理应用”阶段。 啥意思?训练就好比是厨师在厨房里闭关修炼菜谱,而推理就是厨师面对你点单,必须立刻、马上、零失误地把菜给你炒出来端上桌。现在,无数公司手里已经捏着训练好的AI菜谱了,愁的是怎么在客流量爆炸(用户并发请求多)的时候,还能让“后厨”(算力)不卡壳、上菜快(低延迟)。三星SDS这步棋,就是冲着给这些“餐厅”提供最猛、最现代化的“厨具套装”去的。
那这套新“厨具”的核心,B300显卡,它到底猛在哪儿?官方的参数看着有点唬人,咱把它翻译成人话。这块卡,塞进去了12颗HBM3E高速内存,堆叠在一起。结果就是,单块B300能提供288GB的巨型内存容量,以及每秒8TB的恐怖数据传输带宽。
光说数字你可能没感觉,咱找个参照物。跟之前AI界公认的“卡皇”H100比,B300在内存容量上直接翻了3.6倍,带宽也涨了2.4倍。这提升是啥概念?三星SDS自己打了个比方:以前跑那些大语言模型(比如你用的聊天AI)的时候,经常会遇到一个“数据瓶颈”。就好比你给一辆法拉利装了个摩托车的输油管,引擎嗷嗷叫,但油供不上,车还是跑不快。GPU计算速度飞快,但数据从内存里搬出来的速度跟不上,整体性能就被卡脖子了。现在B300等于是把输油管换成了消防水管,这个卡脖子的地方就被“戏剧性地改善了”。说人话就是,AI在推理、生成内容的时候,更不容易因为“喂不饱数据”而卡顿、发呆了。
其实啊,三星SDS搞“GPU租赁”这事儿,已经不是新手了。他们2021年就基于英伟达A100搞过,2023年又上了H100的服务,一直想着法儿把最好的算力变成云上“即开即用”的自来水。这次抢B300的首发,无非是把自家“算力自来水厂”的档次,又往上狠狠提了一级。
那对于真正要用的公司来说,租这个“超级自来水”到底香在哪儿?三星SDS的官员讲得很实在。第一,能啃动更大的模型,延迟更低。客户用上这个服务,就能借助B300的超级大内存,更顺畅地运行那些千亿、万亿参数的巨型AI模型。这样一来,像AI智能体自动处理任务、或者实时生成分析图片、视频、代码这些对响应速度要求极高的服务,延迟就能压到最低,用户体验蹭就上去了。
第二,省钱,还省心。用订阅制,你开多少算力用多久就付多少钱,不用动不动就砸几个亿自建数据中心,也不用去全球市场上像抢显卡一样肉搏。这极大降低了公司尝试和部署尖端AI的门槛和风险。而且现在全球高端GPU多难抢啊,但通过三星的云平台,你立马就能用上最新的英伟达架构,不用干等着。
第三,安全有保障。公司那些命根子一样的敏感数据,可以在三星SDS打造的、结合了他们自家安全技术的云环境里处理,不用担心数据泄露,心里踏实多了。
三星SDS的蓝图还不止于此。他们都已经盘算好了,计划在今年第三季度,再推出两个更精细的服务:一个是“无服务器推理服务”,这个模式挺有意思,就是你调用AI模型的时候,只按实际消耗的“令牌数”(可以理解为处理了多少字、多少张图)来付费,没有基础的服务器“座机费”;另一个是“AI训练服务”,开发者只要把代码和数据扔进去,系统就能自动分配资源开始训练,省得你自己去折腾复杂的机器集群。
三星SDS云服务事业部的头儿,李浩俊常务(执行副总裁)说了,他们打算基于SCP平台在资源调度和节能方面的优势,通过这个韩国首发的B300 GPU服务,去积极支持各大公司、中小企业和政府部门的“AI转型”大业。
所以,你看,这件事儿表面是三星SDS发布了个新服务,但里子反映的,是AI竞赛进入了全新的深水区:从拼模型研发,到拼应用落地的效率和成本。 巨头们正在争分夺秒,把世界顶级的算力,用更灵活、更经济的方式,输送到千行百业的前线。谁提供的“算力军火”更强大、更便宜、更安全易用,谁就能在接下来这场真正决定胜负的AI应用普及战中,握住更多客户的命脉。这场没有硝烟的战争,已经从抢显卡硬件,蔓延到了云服务的每一个毛细血管里了。
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|