数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

搜索
查看: 61|回复: 0

[科技] 狠人开发者破解苹果M4芯片神经引擎 解锁15.8 TFLOPS隐藏AI算力

[复制链接]
发表于 昨天 21:20 | 显示全部楼层 |阅读模式
各位手里拿着M4芯片的MacBook Pro或者iPad Pro、没事就打开Activity Monitor盯着CPU和GPU占用率看、总觉得自己手上这台设备的性能远没有被完全释放出来、恨不得把硬件的每一滴算力都榨干的硬核玩家们,还有那些平时搞AI开发和机器学习训练、被苹果的CoreML和Metal框架折磨得够呛、无数次在心里吐槽“明明硬件支持这个功能为什么非要在软件层面上把它锁死”的开发者们,以及那些虽然自己不写代码但特别喜欢看各路技术大神怎么花式破解苹果设备各种限制的围观群众们——今天这个故事,我觉得你们应该都会很感兴趣。

事情是这样的。最近有一位开发者在X平台上公布了一项相当炸裂的成果:他成功地对苹果M4芯片内部的神经引擎进行了逆向工程,绕过了苹果官方设置的软件限制,解锁了高达15.8 TFLOPS的隐藏AI训练算力。而且最关键的是,这一切都是在苹果官方提供的开发工具链之外独立完成的,完全没有用到CoreML、Metal这些苹果标准框架,甚至连图形处理器都没有依赖。

咱们先来聊聊背景,搞清楚这件事到底牛在哪里。苹果从好多年前就开始在自家芯片里集成神经引擎,这个东西专门用来加速机器学习相关的计算任务。到了M4这一代,神经引擎的理论算力已经相当可观了,硬件底子是有的,性能潜力摆在那里。但问题在于,苹果一直以来都对这块硬件做了非常严格的软件层面的限制。默认情况下,M4芯片里面的神经引擎只能用来做推理,也就是运行那些已经提前训练好的现成模型,让它去识别图片里的物体、转换语音转文字之类的工作,这些都是推理。但它不能用来做训练,也就是从零开始去训练一个新模型,让模型自己去学习数据里的规律。这就像你花大价钱买了一台性能很强的跑车,结果厂家告诉你这车只能在小区里以时速20公里的速度遛弯,不能开上高速公路。硬件明明有这个能力,但软件层面上给你焊死了,你拿它没办法。

那这位叫0x0SojalSec的研究人员到底是怎么做到的呢?他最近在GitHub上传了一段代码,详细展示了他如何挖掘出M4神经引擎的真正潜力。因为苹果没有开放与神经引擎直接通信所需的权限级别,用常规手段根本没办法让它执行训练任务,所以他不得不另辟蹊径,走一条完全不同的路。他没有使用CoreML,没有使用Metal,甚至没有依赖图形处理器来帮忙,而是完全从零开始,自己构建了一套自定义的模型中间语言。这套自制的软件成功地搭建起了一座桥梁,让数据能够在神经引擎上顺畅流通,实现了完整的反向传播和变换器模型训练,全部直接在苹果神经引擎上运行,不需要经过任何中间环节。

由于这套硬件在设计之初就被苹果严格限制了用途,这位开发者在实现过程中还不得不想出一些非常巧妙的办法来保持系统的稳定性。我给你举个具体的例子,如果在高强度训练过程中某个进程卡住了,卡在那儿不动了,他写的这套自定义语言会用一条特定的执行命令来重新启动那个卡住的进程,相当于让系统刷新一下当前的运行状态,然后把机器学习任务接回来继续往下跑,而不会导致整个程序崩溃掉。这个机制有点像电脑死机了你按一下重启键,但它是自动完成的,不需要人工干预。

速度也是一个非常关键的问题。为了让训练过程尽可能高效地运行,这位开发者把配置改成了将所有数据全部写入系统RAM,也就是内存里面。通过刻意避开速度慢得多的NAND闪存存储,整个运算过程保持了极高的响应速度。这就像你在厨房里做饭的时候,把所有需要的食材和调料都提前摆在灶台边上,伸手就能够到,而不是每次需要什么东西再从冰箱里去翻,效率自然就上去了。内存的速度比固态硬盘快得多,把数据放在内存里跑,训练速度就会有明显的提升。

那这个发现对我们来说意味着什么呢?对于任何使用M4芯片Mac或者iPad的用户来说,这个巧妙的破解实实在在地证明了M4的硅片完全有能力处理AI训练的工作负载,即使苹果官方出于自己的考虑选择把这些能力锁起来不让人用。至于苹果为什么要把这些功能锁死,可能有几种猜测。一种可能是为了区分产品定位,让Mac Pro或者Mac Studio这种更高端、散热更好的设备保持独占优势,不然大家都用轻薄本搞定训练了,谁还买工作站。另一种可能是出于功耗和散热的考虑,担心用户在轻薄本上跑高强度训练导致设备过热,影响使用寿命和用户体验。还有一种可能是出于安全方面的考虑,不希望神经引擎被滥用去做一些苹果不想看到的事情。但不管原因是什么,这位开发者用实际行动证明了一件事——M4芯片硬件的潜力远比苹果愿意展现出来的要大得多。

好了,今天就跟大伙儿聊到这儿。如果你手上刚好有一台M4芯片的设备,自己也对AI开发感兴趣,欢迎在评论区唠唠。你会试着去折腾一下这个破解方案,亲自跑跑看吗?还是觉得苹果既然选择锁死这些功能自然有它的道理,没必要去碰?咱们评论区见。



本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册 微信登录

x
您需要登录后才可以回帖 登录 | 立即注册 微信登录

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|数码之家-技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2026-6-18 01:41 , Processed in 0.109201 second(s), 6 queries , Gzip On, Redis On.

Powered by Discuz!

© MyDigit.Net Since 2006

快速回复 返回顶部 返回列表