Jetson-XAVIAR NX 上编译tensorflow-lite

tensorflow-lite 是tensorflow 支持的可以在端侧部署的工具,可以在端侧做训练和推理,同时也无需用户上传自己的敏感数据,当把tensorflow 的模型转换成tensorflow-lite 之后,下一步就是要在指定平台上做tensorflow-lite的集成,tensorflow-lite支持Android, IOS 和arm 系列的嵌入式板子,下面是在arm 上编译tensorflow-lite的过程

参考链接:https://www.tensorflow.org/lite/guide/build_cmake

安装第三方库:

  • absl-cpp: abseil / C++ Quickstart With CMake

  • eigen3: sudo apt install eigen3-dev

  • flatbuffer:

  • gemmlowp:

    1. 放到tensorflow 的third_party 下面
  • ruy:

    1. Git clone xxx
    2. 把cpuinfo 放到third_party 目录下
    3. Cmake ..
    4. Make
    5. Make install
  • NEON_2_SSL

    1. 这个不用考虑
  • 编译tensorflow-lite

    1. Mkdir tflite-build
    2. Cd tflite_build
    复制代码
       cmake ../tensorflow/lite -DTFLITE_ENABLE_INSTALL=ON \
    
         -DCMAKE_FIND_PACKAGE_PREFER_CONFIG=ON \
    
         -DSYSTEM_FARMHASH=ON \
    
         -DSYSTEM_PTHREADPOOL=ON 

错误信息

-DTFLITE_ENABLE_GPU=ON # 这个地方enable gpu 之后会报错, 这里是为了让tensorflow-lite 在支持OPENCI 的情况下,用openci 代理去提供类似GPU的优化加速,由于Jetson 自带GPU,所以这里无需指定

相关推荐
智联视频超融合平台14 分钟前
视频 AI 的误报之战,正在从调参数卷到改架构
人工智能·大模型·边缘计算·视频监控·安防
水如烟1 小时前
孤能子视角:智能的边界不在算法强弱,在可形式化性——从概率法到因果推理,选择池的边界一直在那里
人工智能
万里侯2 小时前
日志聚类之后别把 noise 扔掉:降噪应该改变视图,不抹掉证据
人工智能·微服务·ai·容器·k8s
澹锦汐2 小时前
纯前端秋日银杏与枫叶落叶色板智能聚类器:基于 K-Means 色彩量化与直方图自动配方提取
前端·人工智能·ai·语言模型·vue·react·k-means
qq_158895411113 小时前
Suno-API 是什么?官方 V6 模型与 Python / TypeScript 接入指南
python·ai音乐·suno api
71777710 小时前
国内 AI 研发效能工具怎么选:2026 年基于公开信息的选型框架与 Gitee 实践
人工智能·gitee
Csvn10 小时前
换供应商要改一遍代码?把模型接入收进一层网关(C04)
人工智能·aigc·agent
孟健11 小时前
开源AutoClip切直播:1小时48分出19段,整月API只花0.08元
人工智能·开源·aigc
翰墨之道11 小时前
AI日报:豆包工作ARR超20亿,GPT-6.2跑分与实测割裂
人工智能·gpt·数据挖掘
Maynor99611 小时前
Trymodel 使用介绍:一个平台同时用 Claude、GPT、Gemini 和 Grok
人工智能·gpt·ai·程序员·教程·claude·语音