|
|
嘿,屏幕前各位经常没事就喜欢在本地跑个大语言模型、用Stable Diffusion疯狂出图、或者拿自己的游戏卡偷偷干点渲染剪辑活儿的硬核玩家和AI折腾党,你们有没有过这种憋屈的感受?明明花了大几千甚至上万块钱买回来的RTX 3090 Ti或者RTX 4090,论芯片底子跟那些卖好几万的专业计算卡用的是同一块硅片,可一到跑神经网络、搞矩阵运算的时候,性能就像被人用手按住了一样,怎么也冲不上去。老黄的刀法向来精准,这一点大家心里都有数——消费级显卡在游戏领域给你堆满参数,但在计算密集型任务上,驱动层一锁,你就只能干瞪眼。不过就在昨天,也就是2026年10月24号,国外知名科技媒体Techpowerup报道了两条让整个DIY圈子炸锅的消息:有大神级别的民间开发者,先后搞定了针对RTX 30系和RTX 40系显卡的性能解锁方案,直接把消费级显卡在计算任务上的潜力给释放了出来。这两套解锁方案几乎是前后脚冒出来的,一套瞄准的是基于Ampere架构的RTX 30系列,另一套则对准了基于Ada Lovelace架构的RTX 40系列。而且最关键的是,这两套方案都不是那种只能跑个测试软件好看的噱头,而是实实在在地提升了显卡在处理FP16、BF16这类数据类型时的计算吞吐量,对于跑本地大语言模型的人来说,这简直就是天上掉馅饼的好事。
咱们先来聊聊RTX 30系这边的情况。根据Techpowerup那篇报道里透露的信息,一位研究人员针对Ampere架构开发出了一种解锁手段,这套方案主要作用在GA102、GA103、GA104和GA106这几颗核心上。具体是怎么个玩法呢?简单来说,这位大神通过修改底层固件,成功把FP16和BF16 FMA指令发射到FP32运算单元的速度给翻了一倍。你可能不太熟悉这些技术术语,但我说一个实际效果你就明白了——以RTX 3090 Ti为例,在这套解锁方案的加持下,这块卡在BF16数据类型下的矩阵乘法运算速度,最高能提升80%。矩阵乘法这个东西,恰恰是所有神经网络模型运行时的核心计算操作,不管是训练还是推理,都离不开它。换句话说,你手里那张本来只配玩游戏的RTX 3090 Ti,在被解锁之后,跑AI模型的效率直接向专业卡看齐了一大截。而且这套方案覆盖的范围还挺广的,只要是基于GA102、GA103、GA104和GA106核心的GeForce RTX显卡,理论上都能享受到这个福利。这意味着什么呢?意味着像RTX 3080、RTX 3070这些更亲民的卡,也可能从中受益,虽然提升幅度可能不如旗舰那么大,但对于预算有限又想玩AI的玩家来说,绝对是个好消息。
接着再来看RTX 40系这边的情况,这一波的提升幅度更吓人。另一个独立的项目团队,针对Ada Lovelace架构搞出了另一套解锁方案,目标锁定在AD102、AD103和AD106这三款核心上。这帮人做的事情本质上跟30系的解锁差不多,也是突破了NVIDIA在固件层面设置的限制。但他们拿出来的测试数据,简直可以用夸张来形容。他们拿一张RTX 4090做了实测,在FP16张量吞吐加上矩阵累加的这个测试项目里,解锁之前的成绩是165.6 TeraFLOPS,也就是每秒可以进行165.6万亿次浮点运算。这个数字本身其实已经不低了,但解锁之后呢?直接飙到了331.6 TeraFLOPS,刚好翻了一倍。331.6 TeraFLOPS是个什么概念?这个级别的计算性能,以往通常只属于那些高高在上的专业计算卡,比如NVIDIA自家的RTX 6000 Ada Generation。这就很能说明问题了——AD102这颗芯片在硬件层面上其实完全具备更强的计算能力,是老黄在驱动和固件层面人为地给它加了把锁,把消费级显卡在矩阵乘法和累加这类对计算敏感的任务上的性能给刻意压低了。这种做法直接影响的就是跑大语言模型时的表现,因为大模型的核心运算恰恰就集中在这些被限制的操作上。现在好了,一把锁被撬开,RTX 4090瞬间拥有了接近专业卡的算力,对于那些在家里跑Llama 3、Mistral或者Qwen这类开源大模型的玩家来说,推理速度的提升会是质的飞跃。
这两套解锁方案还有一个共同的厉害之处,那就是它们都绕过了NVIDIA的驱动检测机制。根据Techpowerup的报道,无论是30系的解锁还是40系的解锁,都能够顺利通过NVIDIA官方驱动的检查,不会触发驱动报错或者功能禁用。它们还能覆盖PCIe Function Level Reset这个机制,也就是说在重启或者重置设备之后,解锁效果依然能保持住。测试者在使用原版NVIDIA驱动的情况下,正常跑CUDA基准测试,一切功能都运转正常。比如说,他们在测试GA102和AD102核心的显卡时,无论解锁前还是解锁后,都维持了同样的450瓦TGP整板功耗设定,没有为了提高性能而额外增加功耗墙。这说明性能的提升纯粹来自于计算效率的改善,而不是靠蛮力堆功耗换来的。对于平时喜欢在本地跑大语言模型的人来说,这个解锁带来的好处是非常直接的。跑过本地LLM的人都懂,模型在预填充阶段和解码阶段的token吞吐量,直接决定了你用起来爽不爽。解锁之后,额外的算力会让这两个阶段的速度都有明显提高,消费者可以在自己家里用更低成本的硬件,享受到更高的推理性能。
不过话说回来,天下没有免费的午餐。Techpowerup在报道中也特意提醒了,任何对显卡固件级别的修改都会导致保修失效。而且这个解锁必须在每次开机启动时就加载生效,它需要在NVIDIA驱动把显卡绑定到内核之前就先完成绑定,否则就会失效。所以如果你打算尝试,一定要做好心理准备和技术准备。总的来说,这两套几乎同时在2026年10月下旬浮出水面的解锁方案,等于给所有手上有RTX 30系或40系显卡、同时又对AI计算有需求的玩家,打开了一扇原本紧闭的大门。以前你得花好几倍的钱去买专业卡才能干的事,现在可能一张消费级的RTX 4090就能搞定,而且性能还不输专业卡。这对于整个AI爱好者和独立开发者群体来说,意义确实不小。至于NVIDIA那边会不会通过后续的驱动更新来封堵这些漏洞,那就得走着瞧了。如果你正好手里有一张符合条件的显卡,又不怕折腾,不妨去了解一下具体的解锁方法。毕竟,谁能拒绝免费翻倍的性能呢?
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
x
|