TesorRT10模型转换时的错误记录并解决

由于为个人安装的是TensorRT10,有些参数可能就不用了,在模型转换的时候会出现错误(本文章长期更新)

特别注意onnxruntime_gpu的安装,他是与CUDA和CUDANN版本进行绑定的
安装时候参考网址

错误1

YOLOv8模型转换的时候,出现了
attributeerror: 'tensorrt.tensorrt.builder' object has no attribute 'max_workspace_size'

这个是由于TensoRT8.4版本之后,取消了这个max_workspace_size,这个可以这样修改

复制代码
1注销掉
        #config.max_workspace_size = self.args.workspace * 1 << 30
2、紧接其后,添加这个
        config.set_memory_pool_limit(trt.MemoryPoolType.WORKSPACE, 1<<30)  # fix TRT 8.4 deprecation notice
3、write file的修改为这个
         with builder.build_serialized_network(network, config) as engine, open(f, 'wb') as t:
 4、写文件修改为:
             #t.write(engine.serialize())
            t.write(engine)
相关推荐
雪天鱼1 天前
TensorRT 10.14.1 初体验:介绍、安装与Demo尝试
tensorrt·ai模型推理·深度学习环境搭建
plmm烟酒僧3 天前
TensorRT 推理 YOLO Demo 分享 (Python)
开发语言·python·yolo·tensorrt·runtime·推理
<-->9 天前
TensorRT-LLM 核心技术深度分析报告
tensorflow·tensorrt
_Stellar1 个月前
【TensorRT】Could not load library libcudnn_cnn_infer.so.8
tensorrt
zhy295632 个月前
【DNN】基础环境搭建
人工智能·tensorrt·cuda·开发环境·cudnn
李李李li3 个月前
Ubuntu 22.04 安装tensorrt
linux·tensorrt
爱分享的飘哥4 个月前
第六十一章:AI 模型的“视频加速术”:Wan视频扩散模型优化
人工智能·剪枝·tensorrt·量化·模型优化·视频扩散模型·cuda graph
谢白羽4 个月前
tensorRT配合triton部署模型
yolo·tensorrt·onnx·triton
kcarly8 个月前
TensorRT 有什么特殊之处
ai·ai绘画·nvidia·tensorrt
鹅毛在路上了8 个月前
视频结构化框架VideoPipe-OpenCV::DNN-TensorRT安装教程【Nvidia各系列显卡-亲测有效】
opencv·音视频·tensorrt