数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

搜索
查看: 65|回复: 0

[产品] 把GPT-4塞进充电宝?全球最小AI超算发布 离线跑1200亿模型真成了!

[复制链接]
发表于 昨天 17:48 | 显示全部楼层 |阅读模式
各位搞AI的、玩硬件的、蹲实验室的、写代码的兄弟姐妹们!今天这瓜保熟——美国黑科技公司Tiiny AI,真把“个人AI超算”做成了烟盒大小!还拿了吉尼斯认证的“全球最小迷你PC”称号!重点不是小,是它能在完全离线、没网没云端的情况下,本地跑通1200亿参数大模型!这玩意儿直接叫板传统GPU服务器,把AI算力塞进你裤兜的时代,可能真要来了!

先划重点:
真·烟盒尺寸:14.2cm × 8cm × 2.53cm,重量≈300克(比手机还轻)
脑容量逆天:本地运行120B参数大模型(对标GPT-4级别)
功耗比离谱:整机峰值65W,待机30W(笔记本充电宝都能带)
隐私拉满:银行级加密本地存储,敏感数据不出设备
成本屠夫:性能叫板万元级专业显卡,价格??(待公布)

一、这玩意儿到底多离谱?吉尼斯认证的“口袋超算”
Tiiny AI Pocket Lab(这名儿直译就是“袖珍AI实验室”),昨天(2025年12月11日)刚被吉尼斯世界纪录官方认证为 “全球最小迷你PC(支持本地运行100B+大模型)”​ ——注意括号里才是重点!不是普通迷你主机,是能扛住千亿参数大模型蹂躏的真·超算!

传统AI咋干活?​ 要么靠天价GPU服务器,要么联网跪求云端算力。烧钱烧电不说,断网就歇菜,隐私还像裸奔。

Tiiny AI咋解决?​ 直接掀桌子:“别扯什么算力不够,真正的瓶颈是你们太依赖云端了!”(引用CEO原话)

二、1200亿参数本地跑?黑科技拆解:省电又狂暴
肯定有人拍桌:吹吧!120B模型跑本地?显卡都得冒烟!

别急,Tiiny真有两把刷子:

核心黑科技1:TurboSparse(涡轮稀疏激活)
原理粗暴:让AI模型运行时只激活必要的神经元(类似人脑思考时不会整个脑袋发热)
效果炸裂:推理效率飙升,但模型智商完全不掉线!官方说能省掉大量无效计算。

核心黑科技2:PowerInfer(开源异构引擎)
GitHub爆款项目(8000+星),专为低功耗设备优化
骚操作:把大模型计算任务动态拆分给CPU+NPU(内置AI加速器),谁闲谁干活,绝不浪费1毫瓦电!
结果:传统GPU要几百瓦才能干的活,它65W搞定!

这组合拳打下来,等于给AI模型做了个“抽脂手术”还打了“兴奋剂”​ ——瘦身增效两不误,这才把120B大模型塞进了烟盒!

三、能干啥?离线写论文、解机密、当私人智库!
别看它小,Tiiny官方放话:覆盖80%个人AI需求!​ 包括:

多轮深度推理(比如帮你拆解学术论文核心矛盾)
超长上下文理解(百页PDF直接喂进去总结)
运行AI智能体(自动写周报、做PPT、爬数据)
绝密数据处理(医疗记录/财务数据本地加密跑,不怕泄露)
永久私人记忆:你的习惯、文档、知识库全存本地,随时调用

更骚的是:它专攻“黄金参数区”(10B-120B模型)​ ——太大没必要,太小不够用,这个区间刚好兼顾智商与效率。跑120B时智商堪比GPT-4o,博士级逻辑分析+多步骤任务拆解手到擒来!

四、市场王炸?2025年AI硬件圈要变天!
这玩意儿挑了个绝佳时机杀入战场:

据Grand View Research数据:
2025年全球大模型市场规模74亿美元(今年!)

2030年预计冲到354亿美元(年增速37%!)
零售、电商、医疗、媒体都在疯狂上大模型!

但痛点也明显:云端AI贵、慢、危、费电!

电费暴涨(训练一次GPT级模型≈300户家庭年用电)
全球断网事故频发(参考某云去年崩了12小时)
长文本处理贵到肉疼(百万token上下文烧钱如烧纸)
隐私风险(敏感数据上传容易泄露)

Tiiny的解法就一句:别上云了,揣兜里自己算!​
“AI不该锁在数据中心,它该属于每个人!”(Tiiny市场总监Samar Bhoj原话)

五、硬核配置:12核ARM芯+80G内存+1TB固态
参数党狂喜!这小身板堆料是真狠:

CPU:ARMv9.2架构 12核处理器(移动端天花板)
AI算力:定制异构模块(CPU+NPU组合拳),峰值算力190 TOPS(每秒19万亿次操作)
内存:80GB LPDDR5X(比很多游戏本还猛!)
存储:1TB SSD(塞几个大模型绰绰有余)
系统功耗:日常65W(type-C充电宝就能续命)

对比传统方案:​
想本地跑120B模型?以前得买张RTX 4090,配个i9主机,现在?一个烟盒搞定。

六、生态大招:一键部署开源全家桶!
怕没模型玩?Tiiny直接送你开源全家桶:

预装主流大模型:OpenAI GPT-OSS、Llama、Qwen、DeepSeek、Mistral、Phi...点一下直接开跑
智能体框架全支持:OpenManus、ComfyUI、Flowise、Presenton、Libra、Bella、SillyTavern...搞AI工作流像搭积木
终身OTA升级:硬件软件都能远程更新(官方承诺持续迭代)

重点:2026年1月CES展会现场开秀!​ 所有功能实测亮相!

最后说两句人话:
这玩意儿要是量产价格不离谱(比如几千块),绝对炸场!

学生党不用蹭学校服务器了,程序员本地调试模型省下云费用,医生律师离线处理敏感文件,UP主出差路上剪视频加AI特效...

更别说野外作业、保密单位、网不好地区,离线AI就是刚需!

Tiiny这波操作,等于把“AI私有化”从概念锤进现实。​ 明年CES(2026年1月)必须盯紧这货——万一真成了,AI硬件圈可就要卷出新次元了!



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册 微信登录

x
您需要登录后才可以回帖 登录 | 立即注册 微信登录

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-12-13 00:35 , Processed in 0.078000 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表