C++高性能日志与监控系统设计
创建日期 : 2026-03-24
更新日期 : 2026-03-24
作者 : zry
标签: C++, 日志, 监控, spdlog, 异步, 性能, 结构化日志
📋 目录
引言：为什么日志系统如此重要
日志系统价值
问题诊断
快速定位Bug
分析异常原因
性能分析
识别瓶颈
优化指导
安全审计
追踪操作
合规要求
业务分析
用户行为
趋势预测
💡 统计：据Google SRE统计，70%的生产环境问题通过日志分析解决。
日志系统架构演进
早期 2000 同步日志 printf/fprintf 阻塞IO 多线程时代 2010 线程安全日志 每个线程独立文件 锁竞争问题 现代 2015 异步日志 内存队列 后台线程刷盘 云原生 2020 结构化日志 JSON格式 集中收集分析 日志系统架构演进
架构对比
异步日志
入队
不等待
批量写入
fsync
业务线程
内存队列
后台线程
日志文件
磁盘
同步日志
写入
fsync
等待
业务线程
日志文件
磁盘
高性能日志设计原则
核心原则
| 原则 | 说明 | 实现方式 |
|---|---|---|
| 异步写入 | 避免磁盘IO阻塞业务线程 | 内存队列 + 后台线程 |
| 批量刷盘 | 减少系统调用次数 | 每N条或每M毫秒刷盘 |
| 预分配缓冲 | 避免运行时内存分配 | 固定大小环形队列 |
| 零拷贝 | 减少数据复制 | 直接写文件，避免临时buffer |
| 日志分级 | 按需记录，减少写入量 | DEBUG/INFO/WARN/ERROR |
性能对比
日志系统性能对比 (100万条日志) printf fstream 同步日志 异步日志 内存映射 5000 4500 4000 3500 3000 2500 2000 1500 1000 500 0 耗时(ms)
| 方案 | 吞吐量 | 延迟 | CPU占用 | 可靠性 |
|---|---|---|---|---|
| printf | 低 | 高 | 高 | 低 |
| 同步文件流 | 低 | 高 | 高 | 中 |
| 异步单线程 | 高 | 极低 | 低 | 高 |
| 异步多线程 | 极高 | 极低 | 低 | 高 |
基于spdlog的封装实现
核心封装类
cpp
/**
* @file logger.hpp
* @brief 高性能日志系统封装
* @date 2026-03-24
*/
#pragma once
#include <spdlog/spdlog.h>
#include <spdlog/sinks/daily_file_sink.h>
#include <spdlog/sinks/rotating_file_sink.h>
#include <spdlog/sinks/stdout_color_sinks.h>
#include <spdlog/sinks/basic_file_sink.h>
#include <spdlog/async.h>
#include <memory>
#include <string>
namespace zry {
/**
* @brief 日志级别枚举
*/
enum class LogLevel {
Trace = spdlog::level::trace,
Debug = spdlog::level::debug,
Info = spdlog::level::info,
Warn = spdlog::level::warn,
Error = spdlog::level::err,
Critical = spdlog::level::critical,
Off = spdlog::level::off
};
/**
* @brief 日志配置
*/
struct LogConfig {
std::string name = "default";
std::string log_dir = "./logs";
std::string file_pattern = "{}.log";
size_t max_file_size = 100 * 1024 * 1024; // 100MB
size_t max_files = 10;
LogLevel level = LogLevel::Info;
LogLevel flush_level = LogLevel::Error;
bool async_mode = true;
size_t async_queue_size = 8192;
size_t async_threads = 1;
bool stdout_enabled = true;
bool colored_stdout = true;
std::string pattern = "[%Y-%m-%d %H:%M:%S.%e] [%l] [%s:%#] %v";
};
/**
* @brief 日志器管理类
*
* 特性：
* - 支持同步/异步模式
* - 多sink输出（控制台+文件）
* - 自动轮转
* - 线程安全
*/
class Logger {
public:
/**
* @brief 初始化日志系统
*/
static bool Initialize(const LogConfig& config = LogConfig()) {
try {
std::vector<spdlog::sink_ptr> sinks;
// 控制台输出
if (config.stdout_enabled) {
if (config.colored_stdout) {
auto console_sink = std::make_shared<
spdlog::sinks::stdout_color_sink_mt>();
console_sink->set_level(
static_cast<spdlog::level::level_enum>(config.level));
console_sink->set_pattern(config.pattern);
sinks.push_back(console_sink);
} else {
auto console_sink = std::make_shared<
spdlog::sinks::stdout_sink_mt>();
console_sink->set_level(
static_cast<spdlog::level::level_enum>(config.level));
sinks.push_back(console_sink);
}
}
// 文件输出 - 按大小轮转
std::string log_file = config.log_dir + "/" +
fmt::format(config.file_pattern, config.name);
auto file_sink = std::make_shared<
spdlog::sinks::rotating_file_sink_mt>(
log_file,
config.max_file_size,
config.max_files
);
file_sink->set_level(
static_cast<spdlog::level::level_enum>(config.level));
file_sink->set_pattern(config.pattern);
sinks.push_back(file_sink);
// 创建日志器
std::shared_ptr<spdlog::logger> logger;
if (config.async_mode) {
spdlog::init_thread_pool(config.async_queue_size,
config.async_threads);
logger = std::make_shared<spdlog::async_logger>(
config.name,
sinks.begin(), sinks.end(),
spdlog::thread_pool(),
spdlog::async_overflow_policy::block
);
} else {
logger = std::make_shared<spdlog::logger>(
config.name,
sinks.begin(), sinks.end()
);
}
logger->set_level(
static_cast<spdlog::level::level_enum>(config.level));
logger->set_pattern(config.pattern);
logger->flush_on(
static_cast<spdlog::level::level_enum>(config.flush_level));
// 注册为默认日志器
spdlog::register_logger(logger);
spdlog::set_default_logger(logger);
ZRY_LOG_INFO("Logger initialized: {}", config.name);
return true;
} catch (const std::exception& e) {
std::cerr << "Failed to initialize logger: " << e.what() << std::endl;
return false;
}
}
/**
* @brief 获取指定日志器
*/
static std::shared_ptr<spdlog::logger> GetLogger(const std::string& name) {
return spdlog::get(name);
}
/**
* @brief 创建独立日志器（如数据库专用日志）
*/
static std::shared_ptr<spdlog::logger> CreateDbLogger(
const std::string& log_dir) {
try {
std::string log_file = log_dir + "/db_operations";
// 按日期创建新文件
auto sink = std::make_shared<spdlog::sinks::daily_file_sink_mt>(
log_file, 2, 30 // 每天2:30创建新文件
);
sink->set_level(spdlog::level::debug);
sink->set_pattern("[%Y-%m-%d %H:%M:%S.%e] [%l] %v");
auto logger = std::make_shared<spdlog::logger>("db_logger", sink);
logger->set_level(spdlog::level::debug);
spdlog::register_logger(logger);
return logger;
} catch (const std::exception& e) {
std::cerr << "Failed to create DB logger: " << e.what() << std::endl;
return nullptr;
}
}
/**
* @brief 关闭日志系统
*/
static void Shutdown() {
spdlog::shutdown();
}
/**
* @brief 刷新所有日志
*/
static void Flush() {
spdlog::default_logger()->flush();
}
};
// 便捷宏定义
#define ZRY_LOG_TRACE(...) SPDLOG_TRACE(__VA_ARGS__)
#define ZRY_LOG_DEBUG(...) SPDLOG_DEBUG(__VA_ARGS__)
#define ZRY_LOG_INFO(...) SPDLOG_INFO(__VA_ARGS__)
#define ZRY_LOG_WARN(...) SPDLOG_WARN(__VA_ARGS__)
#define ZRY_LOG_ERROR(...) SPDLOG_ERROR(__VA_ARGS__)
#define ZRY_LOG_CRITICAL(...) SPDLOG_CRITICAL(__VA_ARGS__)
} // namespace zry结构化日志设计
cpp
/**
* @brief 结构化日志
* @date 2026-03-24
*/
class StructuredLogger {
public:
/**
* @brief 记录结构化事件
*/
template<typename... Fields>
static void LogEvent(const std::string& event_type,
Fields&&... fields) {
nlohmann::json j;
j["timestamp"] = GetISO8601Timestamp();
j["event_type"] = event_type;
j["level"] = "INFO";
j["service"] = GetServiceName();
j["host"] = GetHostname();
AddFields(j, std::forward<Fields>(fields)...);
ZRY_LOG_INFO("{}", j.dump());
}
/**
* @brief 记录带trace_id的请求
*/
static void LogRequest(const std::string& trace_id,
const std::string& method,
int64_t latency_ms,
int status_code,
bool success) {
nlohmann::json j;
j["timestamp"] = GetISO8601Timestamp();
j["event_type"] = "http_request";
j["trace_id"] = trace_id;
j["method"] = method;
j["latency_ms"] = latency_ms;
j["status_code"] = status_code;
j["success"] = success;
ZRY_LOG_INFO("{}", j.dump());
}
private:
template<typename K, typename V, typename... Rest>
static void AddFields(nlohmann::json& j, K&& key, V&& value, Rest&&... rest) {
j[key] = value;
AddFields(j, std::forward<Rest>(rest)...);
}
static void AddFields(nlohmann::json&) {}
static std::string GetISO8601Timestamp() {
auto now = std::chrono::system_clock::now();
auto time = std::chrono::system_clock::to_time_t(now);
auto ms = std::chrono::duration_cast<std::chrono::milliseconds>(
now.time_since_epoch()) % 1000;
std::stringstream ss;
ss << std::put_time(std::gmtime(&time), "%FT%T");
ss << '.' << std::setfill('0') << std::setw(3) << ms.count() << 'Z';
return ss.str();
}
};
// 使用示例
StructuredLogger::LogEvent("user_login",
"user_id", 12345,
"ip", "192.168.1.1",
"method", "password"
);
// 输出: {"timestamp":"2024-01-01T12:00:00.123Z","event_type":"user_login","user_id":12345,...}日志级别与过滤策略
DEBUG
INFO
WARN
ERROR
是
否
是
否
是
否
日志产生
级别过滤
当前级别<=DEBUG?
当前级别<=INFO?
当前级别<=WARN?
记录
记录
丢弃
记录
记录
动态日志级别调整
cpp
/**
* @brief 动态日志级别管理
* @date 2026-03-24
*/
class DynamicLogLevelManager {
public:
void SetLevel(const std::string& logger_name, LogLevel level) {
auto logger = spdlog::get(logger_name);
if (logger) {
logger->set_level(
static_cast<spdlog::level::level_enum>(level));
ZRY_LOG_INFO("Log level changed: {} -> {}",
logger_name, static_cast<int>(level));
}
}
// 根据时间自动调整级别
void AutoAdjustLevel() {
auto hour = GetCurrentHour();
if (hour >= 2 && hour <= 6) {
// 夜间降低日志级别减少磁盘IO
SetLevel("default", LogLevel::Warn);
} else {
SetLevel("default", LogLevel::Info);
}
}
};心跳监控与指标收集
cpp
/**
* @brief 心跳监控系统
* @date 2026-03-24
*/
class HeartbeatMonitor {
public:
struct HeartbeatData {
std::string app_name;
int64_t cur_time;
int64_t next_time;
std::string status; // starting/ready/running/stopping
std::string state; // primary/backup
int64_t counter;
std::string ip;
std::string ext_info;
};
HeartbeatMonitor(const std::string& app_name,
const std::string& server_url)
: app_name_(app_name), server_url_(server_url) {}
void Start(int interval_seconds = 30) {
running_ = true;
interval_seconds_ = interval_seconds;
heartbeat_thread_ = std::thread(&HeartbeatMonitor::HeartbeatLoop, this);
ZRY_LOG_INFO("Heartbeat monitor started, interval: {}s", interval_seconds);
}
void Stop() {
running_ = false;
if (heartbeat_thread_.joinable()) {
heartbeat_thread_.join();
}
}
void IncrementCounter() { counter_++; }
void SetStatus(const std::string& status) { status_ = status; }
private:
void HeartbeatLoop() {
while (running_) {
SendHeartbeat();
for (int i = 0; i < interval_seconds_ && running_; ++i) {
std::this_thread::sleep_for(std::chrono::seconds(1));
}
}
}
void SendHeartbeat() {
nlohmann::json j;
j["app_name"] = app_name_;
j["cur_time"] = GetCurrentTimestamp();
j["next_time"] = j["cur_time"].get<int64_t>() + interval_seconds_;
j["status"] = status_;
j["state"] = "primary";
j["counter"] = counter_.exchange(0);
j["ip"] = GetLocalIP();
HttpClient::Post(server_url_, j.dump());
}
private:
std::string app_name_;
std::string server_url_;
std::atomic<bool> running_{false};
std::atomic<int64_t> counter_{0};
std::string status_ = "ready";
int interval_seconds_ = 30;
std::thread heartbeat_thread_;
};分布式追踪
cpp
/**
* @brief 分布式追踪上下文
* @date 2026-03-24
*/
class TraceContext {
public:
static std::string GenerateTraceId() {
static thread_local std::mt19937 gen(std::random_device{}());
std::uniform_int_distribution<> dis(0, 15);
const char* hex = "0123456789abcdef";
std::string id;
for (int i = 0; i < 32; ++i) {
id += hex[dis(gen)];
}
return id;
}
static thread_local std::string current_trace_id;
class ScopeGuard {
public:
explicit ScopeGuard(const std::string& trace_id) {
previous_ = TraceContext::current_trace_id;
TraceContext::current_trace_id = trace_id;
}
~ScopeGuard() {
TraceContext::current_trace_id = previous_;
}
private:
std::string previous_;
};
};
// 使用
void ProcessRequest(const Request& req) {
auto trace_id = req.trace_id().empty() ?
TraceContext::GenerateTraceId() : req.trace_id();
TraceContext::ScopeGuard guard(trace_id);
ZRY_LOG_INFO("[{}] Processing request", trace_id);
// 后续所有日志自动包含trace_id
}生产环境最佳实践
日志轮转策略
达到100MB
每天2:30
保留10个
日志文件
轮转
轮转
app.log.1
app.log.2
app.log.3
删除旧日志
监控告警
| 指标 | 告警阈值 | 处理方式 |
|---|---|---|
| 日志队列积压 | > 80% | 增加后台线程 |
| 磁盘使用率 | > 85% | 清理旧日志 |
| 日志写入延迟 | > 100ms | 切换到异步模式 |
| 错误日志增长率 | > 200%/h | 发送告警通知 |
总结
日志和监控系统的关键设计要点：
- 异步写入：避免磁盘I/O阻塞业务线程
- 分级存储：业务日志和DB日志分离
- 结构化日志：JSON格式便于机器解析
- 心跳监控：及时发现问题
- 分布式追踪：全链路问题定位
性能指标
| 指标 | 数值 |
|---|---|
| 日均日志量 | 10GB+ |
| 平均延迟 | <1ms |
| 丢失率 | 0% |
| 队列积压 | <5% |
本文基于AIDC项目日志系统实践编写。