|
|
本帖最后由 麻薯滑芝士 于 2026-7-23 08:45 编辑
嘿,各位每天早上睁开眼第一件事就是查看OpenAI或者Claude的API账单、看到那个数字比昨天又涨了一截、恨不得把每次对话的token消耗都记在小本本上精打细算的AI应用开发者和独立创业者,各位自己花了小两万块钱攒了一台顶配台式机、塞了两块RTX 5090进去、结果发现跑个700亿参数的Llama 3都卡得跟幻灯片似的、只能对着命令行唉声叹气的硬件发烧友和深度学习玩家,各位家里智能灯泡智能门锁智能空调智能摄像头智能音箱买了一整套、结果某天突然刷到新闻说某品牌智能设备偷偷把用户家里的录音上传到云端分析、吓得连夜把所有设备的联网权限都给关了的数据隐私敏感型用户,各位正在给公司或者团队物色一套靠谱的内部AI知识库和自动化助手方案、结果一问价发现随便一套企业级私有化部署方案起步就是十几二十万、还得专门腾出一台服务器来伺候的中小企业和初创团队的技术负责人和CTO,各位单纯就是受够了每次用AI都得打开网页或者App、输入一段话之后盯着转圈圈等好几秒钟、心里还得默念“这次可别超额度了”的普通数码爱好者和效率工具控——今天这个日子你们可得记住了,2026年7月23号,星期四,一家名字可能还有点陌生、但来头绝对不小的技术公司Acrab,正式把他们闷头研发了好几年的压箱底宝贝给亮了出来:第一代专门为边缘AI场景从头到尾重新设计的系统级芯片GELIX 1,以及搭载这颗芯片、号称要把AI智能体直接从云端请到你办公桌上来的个人边缘AI系统——Agent Box。这玩意儿可不是那种发布会PPT上吹得天花乱坠、等媒体评测机到了发现各种缩水打折的概念验证品,人家连实验室里跑出来的实测数据、跟苹果Mac Mini M4 Pro的正面PK成绩单都一股脑儿全甩在桌上了。而且说实话,Acrab这套方案背后藏着的那套逻辑,说白了就是要跟过去这几年整个AI行业几乎所有人都在信奉的“一切计算交给云端”的黄金法则唱一出反调——而且人家还不是嘴上说说,是真把东西做出来了。
咱们先把时间轴往回拉一拉,捋一捋这几年AI圈子到底是怎么走到今天这一步的。自从2022年底ChatGPT横空出世、把生成式AI这个概念炸进了大众视野之后,OpenAI的GPT系列、Anthropic的Claude系列、谷歌的Gemini系列、Meta的Llama系列,一个接一个的大语言模型像下饺子一样往市场上端,参数规模从最初的几百亿一路狂飙到上千亿甚至几千亿。大家的用法也逐渐固定下来了:打开浏览器或者手机App,敲一段话,点发送,等个两三秒钟,云端那边成百上千块GPU一起开工算完了,再把结果通过网络传回来显示在屏幕上。这套模式的好处确实很明显——你不需要自己掏钱买那些贵得离谱的显卡,不需要操心CUDA驱动版本对不对、散热风扇噪音大不大、电源功率够不够,更不用半夜三更爬起来给服务器打安全补丁,按用量付费就行,省心省力。但是吧,这套模式运行了这么久,它的毛病也慢慢暴露出来了,而且一个比一个让人头疼。首先就是钱的问题——每次调用API都是在烧钱,token费看着单价不高,但架不住用量大啊,重度用户一个月花掉几千块人民币跟玩儿似的,有些做AI原生应用的创业公司,每个月营收还没捂热乎呢,一半以上先交给云厂商当API费了。其次就是隐私这道坎儿,你把自己的聊天记录、公司内部的商业计划书、客户的个人信息、甚至医疗数据一股脑儿丢到别人的服务器上去做推理,就算对方在用户协议里写得清清楚楚“我们采用企业级加密存储、绝不会泄露你的数据”,但你扪心自问,心里那块石头真的能完全放下吗?反正我是放不下。第三就是延迟问题,哪怕你家拉的是一千兆光纤、手机连着5G满格信号,数据从你的设备出发,经过路由器、光猫、运营商骨干网、CDN节点,最终到达云厂商的机房,排队等GPU资源分配,算完了再沿着原路返回——这一来一回,再怎么优化也得几百毫秒甚至一两秒。遇到那种简单的问答还好,要是碰上需要多轮对话、或者处理上百页PDF文档、或者分析一段长视频的任务,等得你真想砸键盘。所以最近这两年,“边缘AI”和“本地推理”这两个词的热度那是一天比一天高,所有人都想把大模型从云端那间恒温恒湿的机房里拽回到自己手边的设备上。但理想很丰满,现实很骨感——那些动辄几百亿上千亿参数的大模型,对算力的要求、对内存带宽的要求、对功耗控制的要求,根本不是普通消费级芯片能扛得住的。以前你要想在本地跑个像样点的大模型,只有两条路可以选:要么上那种插满了四块甚至八块旗舰级GPU的专业工作站,噪音大得像开了台吸尘器,电费账单看得人心惊肉跳;要么就忍着,用那种量化压缩到极致的小模型,效果嘛,跟云端大模型比起来差了不是一星半点。直到今天,Acrab端出来的这套方案,才算真正给了大家一个看起来既有技术底气又有产品落地能力的答案。
咱们先来好好聊聊这颗芯片,GELIX 1。注意一下名字中间那个“Ξ”字符,这是希腊字母表中的第14个字母Xi,读作“克西”,跟中文里的“克赛”发音有点像,不过大家平时叫它GELIX 1就行,不用太纠结那个符号到底怎么念。这是Acrab公司历史上推出的第一颗专门为边缘AI场景从头设计、从零定义的片上系统,采用的制造工艺是目前半导体行业最前沿的5纳米节点。5纳米制程是个什么概念呢?目前全球范围内能量产的最先进的芯片制造工艺之一,苹果的A17 Pro和M4系列芯片、高通的骁龙8至尊版、联发科的天玑9300/9400这些旗舰移动平台,全都是在这个节点上造出来的。但GELIX 1跟那些芯片的定位完全不同——它不是设计来跑手机App、刷抖音、玩原神的,它的终极目标只有一个,而且非常明确:在功耗控制在一个合理范围之内、能够让设备安安静静地24小时不停机运转的前提下,把那些参数规模达到千亿级别的超大语言模型拉到本地来跑,而且要跑得足够快、足够流畅、足够稳定,让用户体验跟用云端服务几乎没有差别。为了实现这个听起来有点疯狂的目标,Acrab的芯片设计团队没有走那种传统的“CPU管逻辑运算、GPU管图形渲染和并行计算、NPU管神经网络加速、三个单元各管各的、互相之间通过总线通信”的老路,而是另辟蹊径,把中央处理器、图形处理器和神经网络处理器全部整合到了一个统一的内存架构下面。这句话听起来可能有点绕,我给你打个比方你就明白了:以前的传统方案,就好比三个各自独立的仓库,每个仓库都有自己的库存管理系统和运输车队,货物要从A仓库运到B仓库,得先装车、开出园区、上路、到了B仓库再卸货,一来一回光是路上就要耽误不少时间,而且运输过程中还有货物损坏或者丢失的风险。现在Acrab的做法,相当于直接把这三个仓库合并成了一个超级巨大的中央仓库,所有货物全部堆放在一起,谁需要什么直接走过去拿就行,中间的运输环节全部省掉了。就这么一个改动,大模型推理过程中最让人头疼、也是最限制性能的那个瓶颈——数据在不同计算单元之间搬来搬去所消耗的时间和能耗——就被大大缓解了。
具体到看得见摸得着的参数层面,GELIX 1这颗芯片里面集成了哪些东西呢?一个拥有20个核心的Arm架构中央处理器,一个专门为神经网络推理加速设计的多核心NPU单元,以及一条每秒可以吞吐273GB数据的统一内存通道。273GB/s这个数字,光看数字可能没什么感觉,我们来做几个对比你就知道它的分量了。目前市面上你能买到的最顶级的消费级显卡,NVIDIA的RTX 5090,它的显存带宽大概在1.8TB/s左右,也就是每秒1800GB出头,但那张卡的满载功耗直奔600瓦去了,你需要一个额定功率1500瓦以上的电源、一套分体式水冷或者至少是三风扇的超大散热器才能压得住它,而且它那个体积和重量,根本不可能塞进一个桌面小盒子里24小时开着不关机。而GELIX 1的设计目标,是把功耗控制在一个适合全天候不间断运行的范围内,也就是说你可以把它封装在一个巴掌大小的外壳里,放在书房的书架上或者办公室的显示器旁边,一年365天不断电,既不用担心下个月的电费账单暴涨,也不用害怕散热问题把周围的空气烤得滚烫。在这么严格的功耗约束条件下,273GB/s的统一内存带宽,配合专门为Transformer架构大模型优化过的NPU加速单元,已经足够支撑在本地流畅地部署和运行那些开源社区里常见的千亿参数级别的模型了。注意,我这里反复强调的“千亿参数”,对应的就是英文里常说的100 billion parameters这个量级。在GELIX 1问世之前,这种规模的大模型你想都不要想在本地跑,唯一的办法就是依托云端数据中心里那些动辄几十上百块GPU组成的服务器集群。现在Acrab告诉你,一颗还没有你手掌大的芯片,就能把这事儿给办了。
当然,光有硬件层面的底子还不够扎实,软件层面的优化和算法层面的创新才是决定最终用户体验好坏的关键因素。Acrab在发布的技术文档里特别强调了GELIX 1的一个核心设计目标,那就是尽最大可能缩短模型从接收到用户输入到开始产生第一个输出token之间的那段等待时间,也就是俗称的“首token延迟”。用过本地大模型的朋友应该都有过这种让人抓狂的体验:你辛辛苦苦打了一大段话,或者从PDF里复制粘贴了一整篇学术论文进去,然后按下回车键,模型就像被人按了暂停键一样,愣在那里好几秒钟一动不动,屏幕上光标一闪一闪的,就是不见有半个字蹦出来。这个过程在技术术语里叫做“预填充”,简单来说就是模型先把你的输入内容从头到尾消化一遍,建立起必要的Key-Value缓存和注意力矩阵,然后才能开始一个token一个token地往外生成答案。预填充阶段花费的时间越长,用户的体验就越糟糕——这种感觉就像你跟一个人面对面说话,你说完之后对方盯着你的脸发了半分钟的呆才开始张嘴回答,换谁都得怀疑这人是不是走神了。Acrab拿自家的GELIX 1跟苹果目前在桌面端性能最强的Mac Mini M4 Pro做了一组非常具体的对比测试。测试选用的模型是Gemma 26B A4B这个配置——Gemma是谷歌开源的一系列轻量化大语言模型,26B表示模型的总参数量是260亿,A4B指的是一种稀疏激活架构,意思是虽然模型总共有260亿个参数,但在每一次前向推理过程中,只会根据输入动态激活其中的一小部分参数,从而在不显著牺牲效果的前提下大幅降低计算量。测试的具体条件是这样的:KV缓存的大小设置为40K,也就是缓存了4万个token的键值对,输入的序列长度为1万个token。在这种设定下,GELIX 1的预填充速度跑到了每秒1416.8个token,而作为对比对象的Mac Mini M4 Pro,在同一条件下的成绩是每秒188.9个token。两者一除,GELIX 1的预填充性能达到了M4 Pro的7.5倍,准确说是7.5倍。这个数字意味着什么呢?意味着你用GELIX 1来跑大模型的时候,不管是输入一篇上万字的深度报告,还是一段包含复杂指令的多轮对话历史,模型几乎在你松开回车键的同一瞬间就开始进入状态、往外吐答案了,那种让人心烦的等待感基本上消失了。而如果用Mac Mini M4 Pro来跑同样的任务,你就得老老实实等上好几秒钟,眼睁睁看着光标在那里闪啊闪。这种体验上的差距,对于日常高频使用来说,简直就是天壤之别——一边是行云流水、一气呵成,另一边是老牛拉破车、一步三喘。
芯片这块最难啃的硬骨头啃下来了,接下来的事情就顺理成章了:把这颗芯片装进一个实实在在的、消费者能买到、能摆在家里或者办公室里用的产品里去。这就是Acrab同步发布的Agent Box,一台由GELIX 1芯片驱动、定位为个人边缘AI中心的桌面设备。Acrab给这台设备的定位非常有意思,他们在宣传材料里反复强调了一个核心观点:Agent Box不是一台用来“运行应用程序”的传统意义上的电脑,而是一台用来“承载智能”的全新品类设备。咱们不妨回顾一下个人计算设备在过去将近半个世纪里的演进轨迹:从上世纪七十年代末期Apple II和IBM PC相继诞生,到九十年代笔记本电脑开始普及,再到二十一世纪头十年智能手机和平板电脑的爆发式增长,每一次所谓的“划时代革新”,说到底无非就是处理器跑得更快了一些、屏幕尺寸变得更大了一些、硬盘和内存容量翻了几番。但Agent Box跳出了这个延续了几十年的、几乎已经固化的升级框架——它从设计之初就不是为了让用户安装Microsoft Office写文档、打开Adobe Photoshop修图、或者启动Steam平台打3A大作而存在的。它的核心使命只有一个,而且非常纯粹:让AI智能体真正地、全天候地、无缝地融入你的日常生活和工作流程,成为你身边一个随时待命、随叫随到的得力帮手。Agent Box具备以下几项核心能力:首先是本地大模型推理,所有的计算都在设备内部那颗GELIX 1芯片上完成,不需要联网去请求任何云端服务,所以也不会有额外的token费用和网络延迟;其次是多模态交互能力,它不仅能理解你输入的纯文本内容,还能看懂你上传的图片、图表、截图甚至短视频片段;第三是持久化记忆功能,它会记住你跟它说过的每一句话、你设置过的每一项偏好、你做过的每一个选择,而且所有这些数据全部加密存储在设备本地,绝对不会被上传到任何远程服务器或者第三方平台;第四是一个被称为“编排层”的智能任务调度系统,这个编排层就像一个经验丰富的项目总监,它可以理解你提出的一个相对宽泛和模糊的目标,然后自动把这个目标拆解成若干个逻辑清晰、可执行的具体步骤,再根据不同步骤的需求,分别调用不同的智能体模块、软件子系统以及与之相连的物联网设备去协同完成。我来给你举个具体的例子你就明白了:假设你今天早上睡眼惺忪地从床上爬起来,对着Agent Box随口说了一句“帮我安排一下今天的工作节奏,中午十二点有个重要的商务午餐别忘了提前十五分钟叫车,下午三点跟技术团队开周会的时候顺便把我昨晚构思的那个新产品方案的大纲投到会议室的大屏上,还有昨天晚上我那台NAS下载的那部纪录片帮我转码成MP4格式放到共享文件夹里”。如果是传统的智能音箱或者手机助手,听到这么一串混杂了日程管理、交通调度、会议协作、文件处理等多个领域的复合指令,大概率直接就懵了。但Agent Box不一样,它的编排层会自动识别出这条指令中包含的四个子任务,然后分别调用日历管理模块去创建日程和提醒、调用地图和出行服务模块去预约网约车、调用投屏模块去连接会议室的显示设备、调用NAS管理模块去执行转码任务——整个过程完全不需要你手动干预,它自己就把所有事情安排得明明白白的。
这里面有一个特别关键、也是Acrab试图从根本上撼动现有AI商业模式的核心卖点:Agent Box采用了一次性买断、长期使用的硬件销售模式,跟目前主流的云端AI服务那种每次调用都按token消耗量计费的订阅制完全不同。你只需要一次性支付一笔硬件费用把它买回家,之后所有的推理运算、记忆存储、多模态交互全部在本地完成,再也没有那种“每跟AI说一句话都在心里默默计算花了多少钱”的心理负担和财务压力。Acrab的联合创始人兼首席执行官Ken Phua博士在产品发布当天的演讲中说了一段非常直白的话,我在这里给大家原原本本地复述一下:“生成式AI帮助人们找到了问题的答案,而智能体AI将帮助人们真正把事情办成、办好。把千亿参数级别的模型放到一个足够小巧、可以安安稳稳摆在办公桌上运行的系统里,这本身就是一个极其艰巨的计算工程挑战。GELIX 1就是为了提供所需的高性能算力、充足的内存带宽以及低延迟的本地推理能力而精心设计的,而Agent Box则向整个行业展示了,这种强大的底层计算能力是如何转化成一整套让普通用户也能轻松上手、愿意每天使用的完整体验的。”说白了,Acrab想要帮你彻底戒掉那种在AI圈子流传已久的“token焦虑症”——就是每次打开AI对话框之前,都得先在脑子里飞速盘算一下这次对话大概会消耗多少token、折合多少美金或者人民币、这个月的预算还剩多少的那种让人很不舒服的紧张感。从此以后,AI不再是那个你偶尔打开用一下、用完赶紧关掉省钱的“奢侈品工具”,而是像房间天花板上的那盏LED灯一样,永远在线、随叫随到、用起来毫无心理负担。
再从产品设计的理念层面多说几句。Acrab把Agent Box定义为一座专为日常生活场景打造的私有AI中心,它被设计成可以在个人书房、小型工作室或者家庭客厅里全天候安静运行。它的核心设计哲学总结起来就是一句话:把智能带到离人最近的地方——离使用者本人近,离使用者每天产生的信息和所处的物理环境近。与此同时,Agent Box也是一个面向整个硬件行业的参考样板,向那些想要开发类似产品的设备制造商和品牌方展示,如何利用Acrab提供的完整计算平台——从芯片到软件栈到参考设计——快速打造出具有完整智能体AI体验的商用产品。在过去好几十年里,个人计算设备的进步一直沿着一条高度可预测的线性轨迹前进:中央处理器的主频一代比一代高,屏幕的分辨率和刷新率一代比一代好,硬盘和内存的容量一代比一代大。但Agent Box代表的完全是另外一种维度的创新——它可以说是人类消费电子历史上第一台不是为运行应用程序而设计、而是为承载和托管人工智能而设计的专用系统。它把本地语言模型推理、本地视觉模型推理、多模态交互、持久化记忆以及那个能够理解高层次目标、自动拆分任务步骤、跨智能体和设备协调行动的编排层,全部无缝地整合在了一个紧凑的机身里。用户在使用过程中产生的所有数据和记忆,始终保持着完全的私密性,全部加密存储在设备本地的存储介质中,不会有任何一个字节流出到外部网络。而且随着使用时间的不断累积、交互上下文的持续加深、以及记忆库的日益丰富,这套系统会变得越来越了解你、越来越贴合你的个性化需求和表达习惯——它会在你不经意间变得更加强大和顺手。Acrab的硬件和软件团队是从零开始、完全重新设计了整个计算架构,他们的目标非常明确:在单一设备这个物理尺度内,同时实现最优的本地AI推理性能、最佳的日常可用性和易用性、最具竞争力的成本结构,以及最低的能耗表现。
好了,让我们再回过头来,深入挖掘一下GELIX 1这颗芯片本身更多值得一提的技术细节。前面已经提到它是基于目前最先进的5纳米制程工艺打造的,而且是Acrab这家公司成立以来推出的第一款完全针对边缘AI推理场景从头设计的SoC。它在架构层面最大的特点,就是没有沿用业界常见的“把CPU芯片、GPU芯片、NPU芯片分别做好,然后通过主板的PCIe总线或者片间互联接口把它们拼在一起”的分离式方案,而是把所有不同类型的计算资源全部整合到了同一颗芯片内部,配合一个专门为大型语言模型和智能体工作负载深度优化过的统一内存子系统。这颗SoC的具体硬件配置清单如下:一个拥有20个高性能核心的Arm v9架构CPU集群,一个专为Transformer模型中的矩阵乘法运算做了大量硬化加速逻辑的多核心NPU单元,以及一条理论峰值带宽达到每秒273GB的统一内存通道。它的设计目标非常明确,就是要在本地支持部署和运行那些参数量最高可以达到千亿级别的开源大语言模型,而且在推理过程中,CPU、GPU、NPU三个异构计算单元会根据各自的特点和当前任务的负载情况,动态协调、共同分担计算任务。要在本地这种功耗和散热都受限的环境下支撑起这种规模的大模型,对计算性能的极致要求、对内存带宽的巨大胃口、以及对能效比的严苛标准,三者缺一不可。GELIX 1在设计阶段就把所有这些因素都考虑了进去,它被优化到可以在适合桌面设备全天候运行的功耗区间内,实现快速、流畅的响应。其中一个贯穿了整个芯片设计流程的核心目标,就是最大限度地缩短模型在接收到用户输入之后、开始产生第一个输出token之前的那段延迟——也就是前面详细解释过的“预填充”阶段的耗时,特别是在面对很长很复杂的提示词、以及很大的上下文窗口时,这个优化带来的体验提升会格外明显。
Acrab在公司内部搭建的标准化测试平台上进行了一系列严谨的基准测试。在Gemma 26B A4B这个模型配置下,配合大小为40K的KV缓存和长度为1万个token的输入序列,GELIX 1实现的预填充速率达到了每秒1416.8个token。而在完全相同的测试条件和模型配置下,苹果公司在2025年底发布的Mac Mini M4 Pro——这款被很多开发者拿来当作本地大模型推理主力机的桌面设备——跑出来的成绩是每秒188.9个token。简单除一下就知道,GELIX 1的预填充性能达到了M4 Pro的7.5倍。这种量级的性能飞跃,意味着GELIX 1有能力把一颗不起眼的单芯片变成一个用途极为广泛的本地超级计算平台,能够从容应对从个人助理到专业内容分析、从代码生成到多媒体处理的各式各样的应用场景。
当然,Acrab这家公司的野心和布局绝不仅仅停留在卖一颗芯片或者一款桌面硬件产品上。他们比谁都清楚,要让边缘AI这个概念真正走出极客和发烧友的小圈子,进入千家万户、渗透到各行各业,单靠一两个爆款产品是远远不够的,必须建立起一整套从底层芯片到上层应用、从开发工具到参考设计的完整生态系统。所以在GELIX 1这颗芯片之外,Acrab还投入了大量资源,构建了一套将本地模型推理能力真正转化为可用的、可靠的智能体产品所必需的全部软件和系统层级。这些东西具体包括:一套经过深度优化和针对性调校的运行时环境,一套面向开发者的完整工具链,一系列智能体操作系统层面的核心能力,一批针对不同垂直场景的参考设计,以及一些能够帮助设备理解上下文语境、保留长期记忆并在现实世界中协调行动的示范性应用程序。Agent Box这款产品,仅仅是Acrab这家公司更宏大、更长远的战略愿景的第一个具体落地成果——他们内心深处真正的目标,是为广泛部署在各种各样边缘设备和智能系统中的智能体AI,提供一个通用的、横向扩展的、不绑定任何特定应用场景的基础计算平台。
如果我们把视野拉高一点,从一个更宏观的角度来审视Acrab这套方案背后的商业逻辑和技术哲学,你会发现他们其实是在重新思考和定义云端计算与本地计算之间应该建立怎样一种新的分工合作关系。Acrab的核心判断是:在当前和未来的AI应用场景中,有相当大比例的工作负载是完全可以在本地设备上高效完成的,而且这么做能带来一系列云端方案无法比拟的优势。首先,可以大幅减少对那些按用量计费的云端推理服务的依赖,从而显著降低反复发生的计算和数据传输成本;其次,可以彻底避免每一次交互都要经过远程服务器所带来的固有延迟,实现近乎即时的响应;最后,也是最重要的一点,所有敏感数据都可以留在本地,不需要经过网络传输,从根本上杜绝了数据在传输和存储过程中被截获或泄露的风险。当然,Acrab并不是那种极端到认为云端一无所有的公司,他们也很清楚地认识到,当某个任务确实需要超大规模的算力集群、或者需要访问云端独有的海量数据集时,仍然可以通过网络调用云端资源来完成。开发者可以根据具体的使用场景、成本预算和延迟要求,在本地执行和云端执行之间灵活地找到那个最适合自己的平衡点。
在构建更广泛的边缘AI设备生态系统这个方向上,Acrab已经有了比较清晰和务实的路线图。他们计划在未来一段时间内,积极与各类消费电子设备制造商、汽车厂商、工业自动化公司和机器人开发商展开合作,把自家的GELIX计算平台推广到更多不同类型的产品形态中去。这些目标产品包括但不限于:具备本地AI推理能力的NAS网络附加存储设备、新一代AI增强型个人电脑、具备高级辅助驾驶和智能座舱功能的汽车、以及在工厂车间和商业场所工作的工业机器人和服务机器人。Agent Box已经用自己的实际产品形态证明了,Acrab的芯片和软件可以被成功地整合成一款体验完整的商用产品。这家公司的终极目标是,为即将到来的、席卷全球各个行业的下一波AI转型浪潮,提供一整套从芯片到软件到系统集成的完整计算基础设施。通过把自主研发的定制化AI芯片、经过验证的全栈软件平台,以及针对不同使用场景预先设计和优化的智能体参考设计方案这三者有机地结合在一起,Acrab希望能够显著降低行业合作伙伴和应用开发者将智能化AI产品推向市场的门槛和周期。
最后,我想再用Ken Phua博士在发布会现场说的那段话来给今天这篇文章做一个收尾。他说得非常诚恳,也非常有远见:“我们的目标,自始至终都是给设备制造商和软件开发者提供一个坚实可靠的基础,让他们能够把智能体的智能——那种能够理解上下文、自主决策、协调行动的能力——带入到各种各样不同的产品和应用环境中去。Agent Box向世界展示了我们这项技术在今天这个时间点已经能够做到什么程度,而GELIX 1芯片以及围绕它构建的全栈计算平台,则是为了支撑一个远比现在更加庞大、更加多样化的设备和应用生态系统而精心设计的。今天只是一个开始。”
好了,各位,今天这条来自Techpowerup的消息,信息量确实是够大的。从一颗采用5纳米制程、集成了20核心CPU和273GB/s统一内存带宽的专用AI芯片,到一个能安安静静摆在你办公桌上、永远在线、一次性买断终身免费使用、再也不用心疼token费的私人AI管家,再到一整套瞄准未来边缘AI时代、从硅片到软件的完整生态蓝图——Acrab这家此前可能并不为大众所熟知的公司,这一次踩油门的力度确实够猛、够坚决、也够有底气。如果你是个每天都在跟大模型打交道、被API账单折磨得焦头烂额的开发者,或者是个对个人数据隐私有着近乎偏执的要求、不愿意把自己的一切都交给云端的用户,又或者只是个对新鲜科技产品充满好奇心、愿意第一时间尝试新事物的数码爱好者,那么Agent Box和GELIX 1绝对值得你放进关注列表里,持续跟踪后续的进展。毕竟,当千亿参数级别的大模型真的能够安安静静地待在你手边那个不比路由器大多少的小盒子里、随时随地听候你的差遣、帮你处理各种繁杂的事务、而且永远不会在月底给你寄来一张按字数计算的账单的时候,AI这个东西才算真正从高高在上的云端落到了踏踏实实的地面上,融入了我们每个人日常生活的每一个细小的角落。
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|