LiteRT Tensor API C++ 怎么用?XNNPACK、GPU 与 NPU 路线如何选择

Google 在 2026 年 10 月介绍了 LiteRT Tensor API。它解决的不是"再发布一个大模型",而是让开发者通过 C++ 算子直接组织计算图,并选择 CPU、TFLite 或特定 GPU 的执行路线。

三条路径怎么选?

  • XNNPACK CPU:通过 XnnpackMixinTag 直接运行,适合先验证计算图和数值结果。
  • TFLite + CompiledModel:通过 TfLiteMixinTag 序列化为 .tflite,适合现有 LiteRT 应用的后续部署验证。
  • ML Drift GPU:通过 MlDriftMixinTag 走受支持的 GPU 后端,需要验证算子、驱动及目标设备。

为什么不能直接说 NPU 更快?

CPU/GPU/NPU 的支持需要分别核查:能构图不代表目标后端具备全部算子;设备有 NPU 也不等于实际在 NPU 上运行。更不能在没有真实运行记录时写"速度提升"。

本文根据 Google 官方说明和公开源码进行工程梳理,尚未在目标手机运行测试,也没有独立性能、内存或电量跑分。

官方来源: developers.googleblog.com/en/native-m... github.com/google-ai-e...

详细 C++ 代码路径、Bazel、验证步骤与设备兼容问题见原文: www.xbstack.com/ai/litert-t...

相关推荐
文谦南宁AI普工1 小时前
写了个 Agent Card 体检器:一张「自我声明」的名片,能验到什么程度
aigc·agent·ai编程
三轩说1 小时前
停更 5 年,它本该被淘汰 —— 直到 Workbuddy 让它跑在新 M6 上
ai编程
白日放歌须纵久1 小时前
Claude Skills 装了就等于能用吗?给 Claude Code Skills 建一套首跑验收流程
ai编程
柯南46681 小时前
【AI工程师精讲】15:DPO:不训奖励模型、不做强化学习,也能完成对齐
人工智能·ai编程
qinglongcn1 小时前
Agent 任务的一生——从用户按下发送到任务完成
agent·ai编程
小四的小六1 小时前
OpenAI 的 Agent 改完配置又改回去,两个月后才被回扫发现:给自家 Agent 补一套发现链路
aigc·openai·ai编程
Momo__1 小时前
155个App把豆包关在门外,豆包反手掏出第二把钥匙
app·agent·ai编程
znnnk2 小时前
【AI技术】Vibe Coding 实践指南:从项目规划到高效开发
人工智能·ai·ai编程·ai ide·vibe coding
孟健3 小时前
Claude Code 工程化实战:从保守问答到 3 个月 27 万行代码的全自动重构
架构·ai编程·claude