数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

微信登录

微信扫一扫,快速登录

搜索
查看: 38|回复: 0

[科技] 安卓手机将拥抱 Arm SME2 技术,AI 性能迎来飞跃

[复制链接]
发表于 前天 20:21 | 显示全部楼层 |阅读模式

爱科技、爱创意、爱折腾、爱极致,我们都是技术控

您需要 登录 才可以下载或查看,没有账号?立即注册 微信登录

x
Arm 公司昨日(7 月 10 日)发布博文,为了满足未来生成式 AI 的需求,扩展提供更多先进智能功能,推出了可以加速 AI 工作负载的可扩展矩阵扩展 2(SME2)技术,开发者无需修改代码,即可集成至现有模型和应用中。
该公司指出,在移动设备上的生成式 AI 应用不再局限于传统的聊天机器人和虚拟助手,而是逐渐发展到生成文本、声音、图像和视频,执行数学推理、以及群聊摘要等诸多高级智能功能。
SME 最初出现在 Armv9 架构中,是一组可选的高级 CPU 架构扩展,专门设计用于加速矩阵数学运算。
SME2 在 2022 年底首次亮相,在此基础上增加了新功能,据 Arm 称,它能够实现实时的移动端推理任务,涵盖生成图片、自然语言处理任务等。
Arm 还分享了一些数据,这些数据确实让 SME2 看起来非常可靠。根据 Arm 的说法,Google 的 Gemma 3 模型在 SME2 增强的硬件上,比没有 SME2 的硬件快 6 倍。
它可以在单个 CPU 核心上不到一秒钟内运行 800 字的文本摘要,IT之家注:这里 Arm 所指的 CPU 型号尚不清楚。
对于消费者来说,公告中的关键部分是,未来安卓手机即将具备 SME2 硬件能力。
到目前为止,SME 主要保留给服务器和工作站级处理器,因为其要求较高。然而,SME2 被设计为更加可扩展,能够部署在笔记本电脑、平板电脑,以及高端智能手机上。
重要的是,安卓已经准备好支持 SME2。SME2 在 Google 的 XNNPACK 库中启用,并支持 llama.cpp、阿里巴巴的 MNN 和微软的 ONNX 等框架。


您需要登录后才可以回帖 登录 | 立即注册 微信登录

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-7-13 03:46 , Processed in 0.202800 second(s), 6 queries , Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表