浏览器里直接跑模型——更低延迟、更省接口费、更少把用户数据甩上云。对工具站和前端人,这是值得盯的信号。
2026 年 7 月 9 日,Google 在官方开发者博客宣布 LiteRT.js:把 LiteRT(原 TensorFlow Lite 一脉的端侧推理运行时)以 JavaScript 绑定的形式,带到网页里。
一句话:
让网页在用户设备上跑兼容的 .tflite 模型,而不是每次推理都打云端 API。
✅ 一手:Google Developers Blog《LiteRT.js, Google's high performance Web AI Inference》(2026-07-09)。 ✅ 交叉:Google AI Edge 文档「LiteRT for Web」、GitHub google-ai-edge/litert。
公开材料里常见路径:用 WebAssembly 把原生运行时带进浏览器,并借 WebGPU 等加速。有 .tflite 模型的团队,叙事是「比纯 JS 内核时代更接近端侧性能」。
⚠️ 具体快多少取决于模型和设备,本文不写死单一倍数。
如果你在做浏览器里的图片压缩/轻量分类、想要少打云端 API 的小功能,LiteRT.js 的方向和「网页工具站」是同一条河。
它不是让你明天重写整个站。 它是在提醒:
2026 年的前端 AI,不全是调大模型 API。本地小模型,会重新成为产品选项。
点 | 说明 |
|---|---|
模型要兼容 | 不是任意大模型一键塞进浏览器 |
体积与设备差异 | 首包、低端机、浏览器支持要实测 |
合规仍在 | 本地跑不等于免隐私政策 |
LiteRT.js · 浏览器本地AI · WebGPU 推理 · 端侧AI 2026
云端大模型负责「又强又贵的思考」;\ 浏览器本地运行时负责「又快又省的小动作」。
两边会长期并存。会做工具的人,值得把 LiteRT.js 放进观察清单——不是因为热搜,是因为成本结构和产品形态可能被改写。
袁锐钦 · AI产品实操 & 出海工具站日更中。做产品、测工具、跑变现,把试过的路摊开给你看。