TesorRT10模型转换时的错误记录并解决

由于为个人安装的是TensorRT10,有些参数可能就不用了,在模型转换的时候会出现错误(本文章长期更新)

特别注意onnxruntime_gpu的安装,他是与CUDA和CUDANN版本进行绑定的
安装时候参考网址

错误1

YOLOv8模型转换的时候,出现了
attributeerror: 'tensorrt.tensorrt.builder' object has no attribute 'max_workspace_size'

这个是由于TensoRT8.4版本之后,取消了这个max_workspace_size,这个可以这样修改

复制代码
1注销掉
        #config.max_workspace_size = self.args.workspace * 1 << 30
2、紧接其后,添加这个
        config.set_memory_pool_limit(trt.MemoryPoolType.WORKSPACE, 1<<30)  # fix TRT 8.4 deprecation notice
3、write file的修改为这个
         with builder.build_serialized_network(network, config) as engine, open(f, 'wb') as t:
 4、写文件修改为:
             #t.write(engine.serialize())
            t.write(engine)
相关推荐
燃烧的枫2 天前
Windows 下 YOLO11 Pose 的 TensorRT C++ 部署
windows·yolo·tensorrt·1024程序员节·yolo11-pose
智码看视界2 天前
模型压缩与部署——量化、剪枝与 ONNX 导出
深度学习·剪枝·模型压缩·tensorrt·模型部署·onnx·量化
燃烧的枫4 天前
Windows 下 YOLO11 Det 的 TensorRT C++ 部署
pytorch·windows·tensorrt·关键点识别·yolo11
燃烧的枫15 天前
Windows 下 YOLO26 的 TensorRT C++ 部署
人工智能·pytorch·windows·计算机视觉·tensorrt·cuda·yolo26
Briwisdom3 个月前
LLM 推理引擎三强争霸——vLLM vs SGLang vs TensorRT-LLM
tensorrt·vllm·推理引擎·sglang
爱听歌的周童鞋5 个月前
YOLO26-Sem推理详解及部署实现
tensorrt·cuda·语义分割·高性能·yolo26-sem
进击切图仔6 个月前
微调 qwen 时候踩坑记录
torch·tensorrt·qwen
d1z8887 个月前
(十八)32天GPU测试从入门到精通-TensorRT-LLM 部署与优化day16
人工智能·python·深度学习·gpu·tensorrt
七夜zippoe7 个月前
模型部署优化:ONNX与TensorRT实战——从训练到推理的完整优化链路
人工智能·python·tensorflow·tensorrt·onnx
小米的修行之路9 个月前
NVIDI核心板cuda, cudnn,tensorrt安装方法
nvidia·tensorrt·cuda·cudnn