获取tensorflow lite模型指定中间层的输出

mobilenet v2为例子,我已经训练好了模型,有tflite格式和onnx格式两种模型的权重文件,我想获取tflite模型在推理阶段neck部分的输出。

  1. 查看onnx模型得到neck最后一层位置

使用netron查看onnx模型结构


从name中能知道Reshapeneck的最后一层

  1. 得到neck最后一层的outputtflite模型中的编号

使用netron查看tflite模型结构找到Reshape的输出的编号

  1. 在推理脚本中增加保存中间层输出

其他说明:

偶尔同样的操作就会报错ValueError: Tensor data is null. Run allocate_tensors() first,原因有说是tf的版本的原因,但我不更改版本的情况下有时也出现这个问题,以后再细究吧,保存下当前的tf版本:

相关推荐
深圳行云创新1 天前
采用 TitanIDE 3.0 开展团队级 AI-Coding 优势分析
人工智能
算法狗21 天前
大模型面试题:大模型的训练和推理中显存和计算量的情况
人工智能·深度学习·机器学习·语言模型
AI职业加油站1 天前
职业提升之路:我的大数据分析师学习与备考分享
大数据·人工智能·经验分享·学习·职场和发展·数据分析
摘星编程1 天前
CANN ops-nn 激活函数算子全解析:从ReLU到GELU的演进与实现
python
风指引着方向1 天前
昇腾算子性能调优:ops-nn 中的内存布局与向量化技巧
java·大数据·人工智能
班德先生1 天前
以全案策划设计思维破局,让电器科技品牌力落地生根
大数据·人工智能·科技
ujainu1 天前
CANN仓库中的AIGC确定性推理工程:昇腾AI软件栈如何在混沌中构建“可预测的智能”
人工智能·aigc
咕泡科技1 天前
架构演进:从确定性工作流 (Workflow) 到自主智能体 (LLM Agent)
人工智能·架构
love530love1 天前
【高阶编译】Windows 环境下强制编译 Flash Attention:绕过 CUDA 版本不匹配高阶指南
人工智能·windows·python·flash_attn·flash-attn·flash-attention·定制编译
DeniuHe1 天前
Pytorch中的众数
人工智能·pytorch·python