低预算高回报：MemryX MX3 M.2 AI加速模块仅售149美元

土耳鸡烤鸡

密歇根大学（University of Michigan）下属科技初创公司MemryX，日前推出了一款价格只有149美元的M.2模块，专为紧凑型计算系统提供高效AI处理能力。该模块据称特别适合边缘计算应用，其核心优势在于优良的能效和紧凑设计。

MemryX通过将四颗MX3 AI加速器芯片集成到标准M.2 2280外形尺寸中，使得该模块能够轻松地安装于配备PCIe Gen 3 M.2插槽的系统内。据称，每个MX3芯片可提供6 TOPS（每秒万亿次运算）的处理能力，因此整个模块的综合算力高达24 TOPS，而功耗却控制在6至8瓦之间。此外，该模块支持多种数据格式，包括4位、8位、16位权重以及BFloat16。值得一提的是，该模块无需主动冷却即可稳定运行，其热性能管理完全依赖于内置的被动散热器。

Phoronix 对 MemryX MX3 M.2 模块进行了详尽测试，旨在评估其作为 AI 加速器的性能表现与实用性。此次测试在配置为 Ubuntu 24.04 LTS 并配备 M.2 PCIe Gen 3 插槽的系统上进行。得益于 MemryX 提供的开源驱动程序及开发工具，该模块的集成过程简便快捷。据称，这款模块内置的四个 MemryX MX3 芯片，共计可提供 24 TOPS 的峰值算力，能够高效应对各类推理任务，特别是那些针对 8 位权重进行优化的工作负载。

该评测对该模块软件兼容性给予极高的正面评价，支持包括 TensorFlow 和 ONNX 在内的多种主流框架，并且在运行中小型人工智能模型方面表现出极高的效率。每个 MX3 芯片能够支持多达 1050 万个 8 位参数，而模块内含的四个芯片总计可以处理多达 4200 万个参数。这一参数处理能力的上限主要是由于缺乏板载缓存所致。MemryX 公司计划于 2025 年推出一款新型 PCIe 扩展卡以解决此问题，该卡将配备更多的 MX3 AI 芯片。

MX3 M.2 模块的售价为 149 美元，对于希望为其边缘设备增添 AI 处理能力的开发者及组织而言，这无疑是一个极具性价比的选择。MemryX 还宣布，该模块将在 2025 年的国际消费电子展（CES）上亮相拉斯维加斯，届时将通过一系列实际应用演示来展示 MX3 的卓越性能，从而进一步突显其多功能性和适用性。