[TensorFlow-Lite][深度学习]【快速简介-1】

前言:

很多场景下面我们需要需要把我们的深度学习模型部署到Android,IOS 手机上面.

Google 通过TensorFlow Lite 提供了对应的解决方案.


目录:

  1. 端侧部署优点
  2. 硬件支持
  3. 性能
  4. 应用案例

一 端侧部署优点

1; 很多场景下面: 无网络,数据无法传到服务器侧进行推理

2:很多场景下面:带宽很低,传递到服务器推理效率低

3:很多场景下面:网络延迟,无法在服务器侧进行实时推理

4: 当把数据传递到往网络侧推理,会导致终端功耗增加.

5: 隐私要求

TFLite 应用例子:

Google 语音识别算法

爱奇艺的视频分割

对象检测


二 硬件支持

android& IOS, MCU, TPU. 目前全球有40亿台设备支持TFLite


三 性能

实测在CPU 上面,1ms 左右能完成推理.

LNet-5结构 ,输入size(1,30)

下面是MobileNet 在各种硬件上面推理性能:


四 应用案例

4.1 NLP 以及图像处理都有丰富的应用案例

4.2 TFLite Model:

可以通过迁移学习,即使不懂ML,也可以快速的部署自己的模型.

看介绍https://www.tensorflow.org/lite/guide?hl=zh-cn,codegen 可以直接通过命令生成

对应的JAVA 代码,但是没有找到对应的入口

3: 支持android studio


参考:

将tflite格式的模型部署在安卓移动端详细步骤_特立独行の猫-华为云开发者联盟

TensorFlow Lite | TensorFlow中文官网

https://www.youtube.com/watch?v=XlLtUsJvsBI&list=PLQY2H8rRoyvwFS5vSa9oV48AOdzfJwxXH&index=1

相关推荐
大魔王(已黑化)3 分钟前
OpenCV —— 绘制图形
人工智能·opencv·计算机视觉
开开心心_Every24 分钟前
多线程语音识别工具
javascript·人工智能·ocr·excel·语音识别·symfony
机器之心26 分钟前
扣子开源全家桶,Apache 2.0加持,AI Agent又一次卷到起飞
人工智能
草堂春睡足42 分钟前
【Datawhale AI夏令营】科大讯飞AI大赛(大模型技术)/夏令营:让AI理解列车排期表
人工智能·笔记
余俊晖43 分钟前
GRPO强化学习缓解多模态大模型OCR任务的幻觉思路及数据生成思路
人工智能
sssammmm1 小时前
AI入门学习-模型评估示例讲解
人工智能·学习
小Tomkk1 小时前
AutoLabelImg:高效的数据自动化标注工具和下载
运维·人工智能·自动化
aneasystone本尊1 小时前
构建和使用 RAGFlow 的标签集
人工智能
柠檬味拥抱1 小时前
CI/CD与模型监控平台集成MLOps系统实现的全面路径
人工智能
人生都在赌1 小时前
MCP生态全景:2025年最值得关注的AI工具集成现状深度调研
人工智能·ai编程·mcp