谷歌发布LiteRT.js库，Web AI推理最高提速3倍

数码芝华士

谷歌昨日（7 月 9 日）发布博文，为提升浏览器人工智能（AI）及机器学习（ML）工作负载的运行速度，推出全新的 LiteRT.js库。

谷歌表示 LiteRT.js采用 WebAssembly，并结合 WebGPU 与 WebNN 等硬件加速能力，用于替代 TensorFlow.js所使用的 Java 内核方案。IT之家附上相关截图如下：

LiteRT.js架构概述

WebAssembly 是一种二进制指令格式，支持网页在浏览器中以接近本地代码的速度执行高性能计算。

TensorFlow.js是由谷歌开发的库，支持用户在 Java 环境中构建、训练和部署机器学习模型。它允许开发者将基于 TensorFlow 构建的模型直接部署到 Web 浏览器中，实现客户端的 AI 功能。

在搭载 M4 芯片的 2024 款苹果 MacBook Pro 笔记本上，谷歌测试发现相比较现有方案，LiteRT.js速度提升 3 倍。谷歌在官方博文中表示，在运行旧硬件或使用不同引擎的浏览器时，实际性能可能存在差异。