7月9日，Google 正式对外发布了 LiteRT.js，这是其端侧推理库 LiteRT 的 JavaScript 绑定版本。这一新工具的问世，标志着 Google 将强大的机器学习推理能力进一步推向了 Web 前端领域，使得开发者无需后端服务器支持，即可在浏览器中直接执行 .tflite 格式的模型文件。
LiteRT 是 Google 在移动端和端侧设备上广泛使用的推理引擎，而 LiteRT.js 的核心突破在于它通过 WebAssembly（Wasm）技术，让这些模型能够在浏览器环境中高效运行。与以往依赖 JavaScript 逐行计算的方案不同，LiteRT.js 能够利用底层的硬件加速接口，显著提升了推理性能。
在硬件加速策略上，LiteRT.js 展现出了极高的灵活性。它支持多后端运行时机制：在 CPU 上，它集成了 XNNPACK，这是一个针对 ARM 和 x86 架构优化的高性能数学库；在 GPU 加速方面，它引入了 WebGPU 支持；此外，针对拥有神经网络处理单元（NPU）的设备，它还提供了实验性的 WebNN 支持。这种多后端架构意味着用户无论是在普通的笔记本电脑，还是高性能的移动设备上，都能获得最佳的运行效率。
性能表现是本次发布的亮点之一。官方数据显示，LiteRT.js 的整体性能比其他 Web 运行时快了约 3 倍；而在 GPU 或 NPU 上，其性能更是比其自身的 CPU 路径提升了 5 到 60 倍。这一巨大的性能飞跃主要得益于 WebGPU 技术的引入，它能够利用浏览器的并行计算能力，极大地减少了模型推理的延迟，为实时交互和大规模数据处理提供了可能。
这一技术的发布具有深远的意义。随着隐私保护意识的增强，越来越多的应用场景倾向于在本地处理数据，而非上传至云端。LiteRT.js 使得在浏览器中运行复杂的 AI 模型成为现实，这将广泛应用于图像识别、语音转文字、自然语言处理（NLP）以及可穿戴设备上的智能分析。用户可以在完全离线、保护隐私的环境下使用各类 AI 功能。
然而，开发者在使用该库时也需注意一个重要的技术细节：张量管理。与 Python 或 Java 等语言中通常由垃圾回收机制自动管理内存不同，LiteRT.js 要求开发者手动分配和释放张量内存。这意味着开发者需要具备更强的内存管理意识，以避免潜在的内存泄漏问题，这对前端开发者的技能提出了更高的要求。
总的来说，LiteRT.js 的推出不仅是 Google 生态系统的又一扩展，也为 Web 开发者提供了一个强大且高效的端侧 AI 解决方案。随着 WebGPU 技术的成熟和更多 NPU 的普及，浏览器端的 AI 应用将迎来爆发式增长。
信息来源：MarkTechPost，原文链接：https://www.marktechpost.com/2026/07/15/google-releases-litert-js-a-javascript-binding-of-litert-that-runs-tflite-models-in-browsers-via-webgpu/
封面图片来源：Unsplash / 摄影师 Favour Usifo
