在 C++ 的工程实践中,如何在保证资源安全管理的同时,又避免头文件污染和不必要的编译依赖?这个问题贯穿了现代 C++ 库设计的核心。本文将沿着一条清晰的技术演进路径,探讨从 RAII 封装出发,历经值语义、裸指针、智能指针等阶段,最终走向 PIMPL(Pointer to Implementation) 这一成熟且优雅的解决方案。
1. RAII------资源管理的基石
C++ 的核心哲学之一是 RAII(Resource Acquisition Is Initialization):资源(内存、文件句柄、网络连接等)的生命周期应由对象的构造与析构自动管理。例如:
cpp
class FileHandle {
FILE* fp;
public:
FileHandle(const char* path) : fp(fopen(path, "r")) {}
~FileHandle() { if (fp) fclose(fp); }
};
RAII 让资源管理变得安全:利用类对象的生命周期,在构造函数中申请资源,在析构函数中释放资源。如果这个类对象是基于栈的值对象,那么就可以自动实现资源的管理。因此,在现代 C++ 中,相比传统的指针语义,更加提倡使用基于 RAII 的值语义。
2. 值语义的诱惑与代价
但是,当我们把这种思想用于封装复杂组件(如 ONNX 模型会话、数据库连接池)时,问题出现了。理想情况下,我们希望像使用 std::string 一样,用"值语义"操作一个封装对象:
cpp
class Embedder {
Ort::Session session; // 值成员
public:
std::vector<float> embed(const std::string& text);
};
这看起来非常简洁、高效、符合现代 C++ 风格。但也有另外一个问题:破坏了封装,导致不必要的环境依赖。最直观的问题就是 Ort::Session 的完整定义必须出现在头文件中,这意味着使用者必须包含 onnxruntime ,而这个头文件可能重达数 MB ,依赖数十个系统库。这就会造成如下问题:
- 编译时间暴增,微小的改动都需要编译很长的时间。
- 头文件耦合严重,调用者使用不方便,甚至造成环境污染。
- ABI 极其脆弱,内部改动导致所有用户重编译。
3. 指针语义的回退
为了解耦,一个比较好的办法就是使用前置声明 + 指针语义:
cpp
// header
class SessionImpl; // 前置声明
class Embedder {
SessionImpl* pimpl;
public:
Embedder();
~Embedder(); // 必须手动 delete
};
这样做确实切断了编译依赖,但也引入了新的问题。那就是需要按照 RAII 原则写好构造函数和析构函数。而一旦要写析构函数,也往往意味着需要写另外四个特殊的成员函数:
- 拷贝构造函数(Copy Constructor)
- 拷贝赋值运算符(Copy Assignment Operator)
- 移动构造函数(Move Constructor)
- 移动赋值运算符(Move Assignment Operator)
这样做要写非常多的样板代码,而且也很容易出问题。为了封装牺牲安全,得不偿失。
4. 使用智能指针
使用裸指针又麻烦又不安全,那么就可以使用 C++11 引入的智能指针:std::unique_ptr 和 std::shared_ptr;智能指针同样是基于 RAII 的:
cpp
class SessionImpl;
class Embedder {
std::unique_ptr<SessionImpl> pimpl;
};
这里为什么使用 std::unique_ptr 而不使用 std::shared_ptr 呢?其实也可以,不过在现代 C++ 中,更推荐使用 std::unique_ptr 。std::shared_ptr 是用来共享资源的所有权,会对引用资源进行计数,但是有可能会造成相互循环引用造成不能释放资源的问题;而std::unique_ptr 则表示独占资源的所有权,不仅开销更低(无引用计数),也更加安全(只能通过 std::move 转移所有权 )。
不过有一点需要注意:std::unique_ptr 和 std::shared_ptr 在处理不完整类型(incomplete type)时的行为截然不同。具体来说,当在头文件中使用前置声明(如 class Impl;)并用智能指针持有它时,Impl 是一个不完整类型。
std::shared_ptr可以安全地在头文件中默认析构,因为它在构造时(通常在.cpp文件中)会捕获一个完整的删除器(deleter),即使析构发生在头文件上下文中,也能正确调用delete。- 而
std::unique_ptr的删除器是其类型的一部分(通常是默认的std::default_delete<Impl>),它要求在析构点(即类的析构函数被实例化的地方)Impl必须是完整类型。如果在头文件中写~Embedder() = default;,此时Impl仍是不完整的,编译器可能不会报错,但会导致未定义行为(通常是链接失败或运行时崩溃)。
因此,使用 std::unique_ptr<Impl> 时,必须将主类的析构函数定义移到 .cpp 文件中,确保 Impl 已被完整定义:
cpp
// Embedder.cpp
class Embedder::Impl {
// 完整定义...
};
Embedder::~Embedder() = default; // ✅ 此时 Impl 完整,安全析构
5. 封装与效率的平衡:PIMPL
使用智能指针虽然好,但是总归是比不上值语义方便。当类中只有一个需要隐藏的成员还好,如果有很多个需要隐藏的成员,每一个都写前置声明,并用智能指针来管理,那就实在太繁琐了。并且,从编程品味上来说,C++ 智能指针的写法说不上优雅:智能指针是由传染性的,当满屏都是 std::shared_ptr 或者 std::unique_ptr 的时候,实在很影响阅读性。
另外,作为对外的接口,最好是提供像 Java / C# 那样的接口,C++ 的纯虚函类也行,隐藏掉所有的细节,包括私有函数和数据成员。这样有非常多的好处:
- 最小化依赖环境,提升编译速度。
- 调用者使用方便,不会污染环境。
- ABI 稳定,可以只更新库而不用更新整个程序。
那么要怎么进行优化呢?很简单,我们可以实现一个名为 Impl 的类中类 ,使用std::unique_ptr进行管理。Impl 是实现在 cpp 中的,可以将一切实现的细节,比说私有函数和数据成员,都放在这个 Impl 中。更重要的是,Impl 中的数据成员完全可以使用值类型!如下所示:
cpp
// 头文件
class Embedder {
class Impl;
std::unique_ptr<Impl> impl;
public:
Embedder(const std::string& model);
~Embedder(); // 声明但不在头文件定义!
std::vector<float> embed(std::string_view text) const;
};
cpp
// 源文件
class Embedder::Impl {
Ort::Session session;
hf::Tokenizer tokenizer;
int64_t dim;
public:
Impl(const std::string& path, const hf::Tokenizer& tok)
: session(...), tokenizer(tok) { /* init */ }
std::vector<float> embed(std::string_view text) const { /* ... */ }
};
Embedder::Embedder(const std::string& path)
: impl(std::make_unique<Impl>(path, global_tokenizer)) {}
Embedder::~Embedder() = default; // 此时 Impl 完整,安全!
这个实现,就是所谓的 PIMPL(Pointer to IMPLementation)惯用法,也常被称作 "编译防火墙"(Compilation Firewall) 或 "Opaque Pointer" 模式。不得不说,这种 PIMPL 设计模式确实精妙------它在安全性、封装性、编译效率与接口简洁性之间取得了近乎完美的平衡,既坚守了 RAII 的资源管理原则,又有效隔离了实现细节,堪称现代 C++ 工程实践中"高内聚、低耦合"的典范。
6. 没有银弹,只有权衡
PIMPL 使用了前置声明。是否使用前置声明一直是 C++ 中比较争议的一点,Qt 遵循前置声明的原则实现了非常强大、优雅且高效的 C++ 运行时框架。Google 则经历了从推荐使用前置声明到不推荐使用前置声明的转变。个人认为,PIMPL 解决的就是 C++ 中两个重要原则矛盾的问题:
- 推荐使用值语义,但是会引入更多环境依赖
- 封装需要尽可能隐藏不必要的细节
如果两者只能选择其中一个,那么还是尽量使用值语义的原则更加重要,毕竟这涉及到安全问题,而资源管理的安全问题贯穿 C++ 程序的始终。事实上,如果不是提供对外接口,或者实现比较小,那么直接使用值语义即可(第2节中的内容)------值语义永远是最简洁安全的实现。
另外,如果实现 C++20 Modules ,那么就不必要使用 PIMPL 了,完全可以回归值语义实现,因为 C++20 Modules 在语言层面已经实现了 PIMPL 的诸多优点。
7. 示例代码
最后放出笔者自己实现的基于 PIMPL 的嵌入器的完整代码供读者参考:
cpp
// BgeOnnxEmbedder.h
#pragma once
#include <memory>
#include <string>
#include <vector>
namespace embedding {
namespace hf {
class Tokenizer;
}
class BgeOnnxEmbedder {
public:
explicit BgeOnnxEmbedder(const std::string& modelPath,
const hf::Tokenizer& tokenizer);
~BgeOnnxEmbedder();
const int64_t& EmbeddingDim() const;
std::vector<float> Embed(const std::string& text) const;
private:
class Impl; // 前向声明
std::unique_ptr<Impl> impl;
};
} // namespace embedding
cpp
//BgeOnnxEmbedder.cpp
#include "BgeOnnxEmbedder.h"
#include <onnxruntime_cxx_api.h>
#include "HfTokenizer.h"
#include "Util/StringEncode.h"
namespace embedding {
class BgeOnnxEmbedder::Impl {
public:
Ort::Env& GetOrtEnv() {
static Ort::Env env(ORT_LOGGING_LEVEL_WARNING, "BgeOnnxEmbedder");
return env;
}
const int64_t& EmbeddingDim() const { return embeddingDim; }
explicit Impl(const std::string& modelPath, const hf::Tokenizer& tokenizer)
: session{GetOrtEnv(),
#ifdef _WIN32
util::StringEncode::Utf8StringToWideString(modelPath).c_str(),
#else
modelPath.c_str(),
#endif
Ort::SessionOptions()},
memInfo{Ort::MemoryInfo::CreateCpu(OrtDeviceAllocator, OrtMemTypeCPU)},
tokenizer(tokenizer),
embeddingDim(0) {
//
const auto& outputInfo = session.GetOutputTypeInfo(0);
const auto& tensorInfo = outputInfo.GetTensorTypeAndShapeInfo();
const auto& shape = tensorInfo.GetShape();
// 假设输出是 [batch, seq, dim] 或 [batch, dim]
// 我们取最后一个非 -1 的维度
for (auto it = shape.rbegin(); it != shape.rend(); ++it) {
if (*it != -1) {
embeddingDim = *it;
break;
}
}
if (embeddingDim == 0) {
throw std::runtime_error(
"Failed to infer embedding dimension from ONNX model.");
}
}
std::vector<float> Embed(const std::string& text) const {
hf::Tokenizer::ResultPtr result = tokenizer.Encode(text);
if (!result) {
throw std::runtime_error("tokenizer_encode failed");
}
// 定义张量维度
int64_t seqLen = static_cast<int64_t>(result->length);
std::vector<int64_t> inputShape = {1, seqLen};
size_t dataByteCount = sizeof(int64_t) * seqLen;
Ort::Value inputIdsTensor = Ort::Value::CreateTensor(
memInfo.GetConst(), result->input_ids, dataByteCount, inputShape.data(),
inputShape.size(),
ONNXTensorElementDataType::ONNX_TENSOR_ELEMENT_DATA_TYPE_INT64);
Ort::Value attentionMaskTensor = Ort::Value::CreateTensor(
memInfo.GetConst(), result->attention_mask, dataByteCount,
inputShape.data(), inputShape.size(),
ONNXTensorElementDataType::ONNX_TENSOR_ELEMENT_DATA_TYPE_INT64);
Ort::Value tokenTypeIdsTensor = Ort::Value::CreateTensor(
memInfo.GetConst(), result->token_type_ids, dataByteCount,
inputShape.data(), inputShape.size(),
ONNXTensorElementDataType::ONNX_TENSOR_ELEMENT_DATA_TYPE_INT64);
// 输入名必须与模型定义一致
const char* inputNames[] = {"input_ids", "attention_mask",
"token_type_ids"};
const char* outputNames[] = {"last_hidden_state"};
// 把三个输入张量放进数组
std::vector<Ort::Value> inputs;
inputs.push_back(std::move(inputIdsTensor));
inputs.push_back(std::move(attentionMaskTensor));
inputs.push_back(std::move(tokenTypeIdsTensor));
// 执行推理
auto outputs = session.Run(Ort::RunOptions(), // 运行选项(通常 nullptr)
inputNames, // 输入名数组
inputs.data(), // 输入张量数组
inputs.size(), // 输入数量(3)
outputNames, // 输出名数组
1 // 输出数量(1)
);
// 获取输出信息
auto& output_tensor = outputs[0];
auto output_shape = output_tensor.GetTensorTypeAndShapeInfo().GetShape();
if (output_shape.size() != 3 || output_shape[0] != 1) {
throw std::runtime_error("Unexpected output shape");
}
// 获取输出张量的原始 float 指针
const float* outputData = outputs[0].GetTensorData<float>();
// 提取 [CLS] token 的 embedding(第0个token)
int64_t hiddenSize = output_shape[2];
std::vector<float> embedding(outputData, outputData + hiddenSize);
// L2 归一化(BGE 要求)
float norm = 0.0f;
for (float v : embedding) norm += v * v;
norm = std::sqrt(norm);
if (norm > 1e-8) {
for (float& v : embedding) v /= norm;
}
return embedding;
}
private:
mutable Ort::Session session;
Ort::MemoryInfo memInfo;
const hf::Tokenizer& tokenizer;
int64_t embeddingDim;
};
BgeOnnxEmbedder::BgeOnnxEmbedder(const std::string& modelPath,
const hf::Tokenizer& tokenizer)
: impl(std::make_unique<Impl>(modelPath, tokenizer)) {}
BgeOnnxEmbedder::~BgeOnnxEmbedder() = default; // 此时 Impl 已定义,可安全析构
const int64_t& BgeOnnxEmbedder::EmbeddingDim() const {
return impl->EmbeddingDim();
}
std::vector<float> BgeOnnxEmbedder::Embed(const std::string& text) const {
return impl->Embed(text);
}
} // namespace embedding