Paddle Inference部署推理(十六)

十六:Paddle Inference推理 (C++)API详解

1. Config 构造函数

Config 类为用于配置构建 Predictor 对象的配置信息,如模型路径、是否开启gpu等等。

构造函数定义如下:

复制代码
// 创建 Config 对象,默认构造函数
Config();

// 创建 Config 对象,输入为其他 Config 对象
Config(const Config& other);

// 创建 Config 对象,输入分别为模型文件路径和参数文件路径
Config(const std::string& prog_file, const std::string& params_file);

代码示例:

复制代码
// 字符串 prog_file 为 Combine 模型文件所在路径
std::string prog_file = "../assets/models/mobilenet_v1.pdmodel";
// 字符串 params_file 为 Combine 模型参数文件所在路径
std::string params_file = "../assets/models/mobilenet_v1.pdiparams";

// 根据模型文件和参数文件构造 Config 对象
paddle_infer::Config config(prog_file, params_file);

// 根据 Config 对象创建预测器对象
auto predictor = paddle_infer::CreatePredictor(config);

注意事项: 一个 Config 对象只能用于调用一次 CreatePredictor 生成一个 Predictor,需要通过 CreatePredictor 创建多个 Predictor 时请分别创建 Config 对象。

相关推荐
浮生如梦_1 分钟前
图片转视频
图像处理·人工智能·计算机视觉·音视频
安全风信子6 分钟前
03_用LLM写代码:从函数到项目的全流程
人工智能
ai智能获客_狐狐15 分钟前
智能外呼产品架构组成
人工智能·算法·自然语言处理·架构·语音识别
安全风信子15 分钟前
05_用LLM创建知识库:从文档到智能问答系统
人工智能
金井PRATHAMA19 分钟前
逻辑的回归——一阶谓词逻辑及其变体在自然语言处理深层语义分析中的作用与前瞻
人工智能·机器学习·自然语言处理·数据挖掘·回归·知识图谱
沫儿笙36 分钟前
NACHI那智焊接机器人智能气阀
人工智能·机器人
半吊子全栈工匠1 小时前
企业AI应用的数据策略
人工智能
阿豪啊1 小时前
深入浅出:一文读懂国内外主流AI提示词(Prompt)框架
人工智能
炘东5921 小时前
vscode连接算力平台
pytorch·vscode·深度学习·gpu算力
春末的南方城市2 小时前
复旦&华为提出首个空间理解和生成统一框架UniUGG,支持参考图像和任意视图变换的 3D 场景生成和空间视觉问答 (VQA) 任务。
人工智能·科技·深度学习·计算机视觉·aigc