技术栈
onnxruntime
szZack
6 个月前
人工智能
·
bert
·
onnxruntime
自定义 bert 在 onnxruntime 推理错误:TypeError: run(): incompatible function arguments
arg0: List[str] arg1: Dict[str, object]对应的参数arg0=[‘output’] 参数类型正确 arg1=toks 表面看参数也正常,打印看看toks的每个值的类型
nsq_ai
7 个月前
性能优化
·
less
·
onnxruntime
·
onnx
4.8 构建onnx结构模型-Less
构建onnx方式通常有两种: 1、通过代码转换成onnx结构,比如pytorch —> onnx 2、通过onnx 自定义结点,图,生成onnx结构
nsq_ai
8 个月前
python
·
性能优化
·
onnxruntime
·
onnx
4.4 获取onnx每个节点的输出结果
获取onnx每个节点的结果,进行输出显示、保存
颢师傅
1 年前
linux
·
c++
·
onnxruntime
【OnnxRuntime】在linux下编译并安装C++版本的onnx-runtime
安装CMake:可以通过包管理器(如apt、yum等)安装CMake。