TensorFlow :是由 Google 开发的一个开源机器学习框架,是一个功能全面的深度学习框架,不仅支持 NLP,还支持图像、语音等任务,适用于各种机器学习任务的模型训练和推理。用来训练自定义模型
Transformers :是一个专门为自然语言处理(NLP)任务设计的库,提供了大量的预训练 Transformer 模型,可以帮助开发者快速进行文本处理和分析任务。预训练模型库,可直接加载预训练模型
TensorFlow Lite(TFLite) :在移动端加载.tflite模型文件就可以在本地使用模型了,TensorFlow 官方提供了 TFLite 模型库和TensorFlow Hub,
尽管TensorFlow Hub主要提供 TensorFlow 格式的模型,但你也可以使用 TFLiteConverter 将这些模型转换为 .tflite 格式
其中包含了多个常见的预训练模型,适用于不同的设备和场景。你可以访问这个库并下载需要的模型:
-
图像分类(例如:MobileNet, Inception, EfficientNet)
-
物体检测(例如:SSD MobileNet, YOLO)
-
人脸检测(例如:FaceMesh)
-
语音识别(例如:Speech Commands)
-
语义分割(例如:DeepLabV3)
TensorFlow Lite主要特点
-
轻量级:TensorFlow Lite 经过优化,可以在内存和计算资源有限的设备上高效运行。
-
多平台支持:支持 Android、iOS、Raspberry Pi 和其他嵌入式设备。
-
快速推理:通过优化的库和算子,使推理过程在设备上非常快速。
-
模型量化:支持模型的量化技术,降低内存占用和计算需求,同时保证准确性。
-
离线运行:不需要依赖云服务,可以完全在设备本地运行推理任务。
-
边缘推理:适用于需要低延迟和高效能的边缘计算应用。