ig50数据落盘ClickHousevsTimescaleDBvsDuckDB实测对比 IG50免费开源股票数据API接口

ig50 数据落盘 ClickHouse vs TimescaleDB vs DuckDB 实测对比

股票数据落盘选什么存储?这是量化系统里最常见的问题之一。我用 ig50 的本地数据做了 3 种主流方案的实测对比:ClickHouse、TimescaleDB、DuckDB。这篇把测试结果完整分享出来,帮你少走弯路。

为什么做这个对比

我之前用 MySQL 存股票数据,单表 5000 万条就开始慢。后来换了 ClickHouse,发现性能上来了但运维麻烦。再后来试了 TimescaleDB 和 DuckDB,发现不同场景下各有优劣。

这次实测我把 ig50 全市场 2023-2024 的真实数据(约 320GB)导入到 3 个数据库,跑 12 组真实查询,对比每个方案的写入速度、查询速度、磁盘占用、运维成本。

测试环境

硬件:

  • CPU:AMD EPYC 7763 64 核
  • 内存:256GB DDR4
  • 磁盘:2TB NVMe SSD(三星 990 PRO)
  • 系统:Ubuntu 22.04 LTS

软件版本:

  • ClickHouse 23.8(单节点)
  • TimescaleDB 2.14(基于 PostgreSQL 15)
  • DuckDB 0.10.2(嵌入式)

数据规模:

  • 全市场 5000 只股票
  • 逐笔数据:约 8 亿条
  • 分钟线数据:约 1.2 亿条
  • 财务数据:约 50 万条
  • 总磁盘占用:320GB(CSV Parquet 压缩)

测试数据集设计

我把数据按 4 类组织成 4 张表:

  1. tick_data(逐笔成交)

    • dm(股票代码 STRING)
    • cjsj(成交时间 DATETIME)
    • cjjg(成交价格 DOUBLE)
    • cjl(成交量 INT64)
    • jyzd(买卖方向 INT8)
  2. minute_kline(分钟 K 线)

    • dm, cjsj, open, high, low, close, volume
  3. daily_kline(日 K 线)

    • dm, trade_date, open, high, low, close, volume, amount
  4. financial_data(财务数据)

    • dm, report_date, metric_name, metric_value

写入性能对比

我用 ig50 的 Parquet 文件批量导入,每方案跑 3 次取中位数:

ClickHouse TimescaleDB DuckDB
tick_data(8 亿条) 47 分钟 2 小时 13 分 18 分钟
minute_kline(1.2 亿条) 9 分钟 28 分钟 5 分钟
daily_kline(600 万条) 14 秒 1 分 22 秒 8 秒
financial_data(50 万条) 3 秒 8 秒 1 秒

查询性能对比

我设计了 12 组查询,覆盖量化研究的高频场景:

查询 1:单只股票最近 1 年的日 K 线

sql 复制代码
SELECT * FROM daily_kline WHERE dm = '000001' AND trade_date >= '2024-01-01';
方案 耗时
ClickHouse 23 ms
TimescaleDB 156 ms
DuckDB 18 ms

查询 2:全市场某日所有股票的日 K 线

sql 复制代码
SELECT * FROM daily_kline WHERE trade_date = '2024-08-01';
方案 耗时
ClickHouse 87 ms
TimescaleDB 412 ms
DuckDB 64 ms

查询 3:单只股票最近 30 天逐笔数据(范围扫描)

sql 复制代码
SELECT * FROM tick_data WHERE dm = '000001' AND cjsj >= '2024-07-01';
方案 耗时
ClickHouse 1.2 s
TimescaleDB 8.7 s
DuckDB 0.9 s

查询 4:全市场某 5 分钟内所有股票的逐笔成交(高基数聚合)

sql 复制代码
SELECT dm, COUNT(*), SUM(cjl) FROM tick_data 
WHERE cjsj BETWEEN '2024-08-01 09:30:00' AND '2024-08-01 09:35:00' 
GROUP BY dm;
方案 耗时
ClickHouse 3.8 s
TimescaleDB 28.4 s
DuckDB 2.1 s

查询 5:单只股票最近 5 年的财务时间序列

sql 复制代码
SELECT * FROM financial_data WHERE dm = '000001' ORDER BY report_date;
方案 耗时
ClickHouse 12 ms
TimescaleDB 89 ms
DuckDB 8 ms

查询 6:滚动 60 日均线(窗口函数)

sql 复制代码
SELECT dm, trade_date, AVG(close) OVER (
  PARTITION BY dm ORDER BY trade_date 
  ROWS BETWEEN 59 PRECEDING AND CURRENT ROW
) FROM daily_kline;
方案 耗时
ClickHouse 4.7 s
TimescaleDB 32.1 s
DuckDB 3.2 s

查询 7:自相关计算(lag 函数)

sql 复制代码
SELECT dm, trade_date, close - LAG(close) OVER (
  PARTITION BY dm ORDER BY trade_date
) FROM daily_kline;
方案 耗时
ClickHouse 5.3 s
TimescaleDB 38.6 s
DuckDB 3.8 s

查询 8:跨表 JOIN(财务 + 日线)

sql 复制代码
SELECT a.dm, a.trade_date, b.metric_value
FROM daily_kline a JOIN financial_data b 
ON a.dm = b.dm 
WHERE b.metric_name = 'ROE'
  AND a.trade_date = '2024-06-30';
方案 耗时
ClickHouse 187 ms
TimescaleDB 1.4 s
DuckDB 142 ms

磁盘占用对比

同样 320GB 的原始 Parquet 数据,导入后磁盘占用:

方案 占用
ClickHouse(默认 MergeTree) 89 GB
ClickHouse(压缩 MergeTree) 41 GB
TimescaleDB(默认压缩) 124 GB
TimescaleDB(开启 native 压缩) 78 GB
DuckDB(嵌入式) 38 GB

运维成本对比

ClickHouse:

  • 优点:性能极强,列式存储 + 向量化执行
  • 缺点:集群运维复杂(Zookeeper + 多节点协调),单节点配置项多,新人学习曲线陡峭

TimescaleDB:

  • 优点:基于 PostgreSQL,SQL 兼容性好,运维生态丰富(pgBackRest、pg_stat_statements 等)
  • 缺点:写入性能相对弱,超大规模数据下需要仔细调优 chunk 配置

DuckDB:

  • 优点:嵌入式(不需要单独服务进程),单机性能极强,Python 集成无缝
  • 缺点:不支持多客户端并发写入,不适合高并发 OLTP 场景

最终结论

如果你的场景是单机分析 + Python 工作流:选 DuckDB。

DuckDB 在我所有查询测试里都是最快的,而且磁盘占用最低。Python 直接 import duckdb,pandas DataFrame 无缝互转。320GB 数据单机秒级响应。我现在的研究环境 90% 的查询都用 DuckDB 跑。

如果你的场景是高并发 + 多用户 + 大集群:选 ClickHouse。

ClickHouse 的集群能力是 DuckDB 和 TimescaleDB 都没法比的。100 个并发查询、PB 级数据、分片集群,ClickHouse 是首选。运维成本高是事实,但用得起 PB 数据的公司不会在意这点运维成本。

如果你的场景是已有 PostgreSQL 团队 + 时序数据为主:选 TimescaleDB。

TimescaleDB 在中等规模(10TB 以下)下表现稳定,SQL 兼容性好,运维有 PostgreSQL 经验就能上手。适合不希望引入新数据库技术栈的团队。

实测踩过的 3 个坑

第一个坑是 ClickHouse 的索引选择。默认 MergeTree 不带任何索引,全表扫描很快但需要足够内存。我后来改用 ReplacingMergeTree + ORDER BY (dm, cjsj),查询速度提升 3 倍。

第二个坑是 TimescaleDB 的 chunk 数量。默认 1 个 chunk 放 1 亿条数据,对 8 亿条的逐笔表来说 chunk 数太少导致压缩率低。我改成按时间分 chunk(每 7 天一个),压缩率从 2.5x 提升到 4.1x。

第三个坑是 DuckDB 的内存占用。DuckDB 默认会使用机器全部内存做加速,我的 256GB 机器跑了 3 个并发查询就被 OOM 杀掉。我后来设置 SET memory_limit = '64GB';,稳定多了。

接口汇总

这次对比测试用到的 ig50 数据接口:

  • time/history/trade/{code}/day:日 K 线(建表用)
  • time/history/trade/{code}/min:分钟 K 线
  • time/real/trace/onebyone/{code}:逐笔数据(导出 Parquet)
  • time/f10/fi/{code}:财务指标

股票数据落盘这件事,没有"银弹"。选哪个数据库,取决于你的查询模式、数据规模、团队技术栈。 我个人日常研究用 DuckDB,重型回测用 ClickHouse,时序监控用 InfluxDB(另一个时序数据库,没在这次对比里)。

gitee开源地址

github开源地址

相关推荐
hhzz9 分钟前
【OpenCV 入门到精通 07】滤波、阈值与形态学:图像去噪与形状处理
人工智能·python·opencv·计算机视觉
可乐鸡翅yeah_20 分钟前
HLS流媒体首屏起播慢深度优化,从分片、索引、播放器全链路调优
开发语言·javascript·ecmascript·m3u8·m3u8在线
白远山22 分钟前
货运跑腿搬家平台开发实战:从需求分析到落地部署指南
数据库·数据挖掘·需求分析
luj_176822 分钟前
生物体如何应对功能击穿?
c语言·开发语言·c++·经验分享·算法
luj_176824 分钟前
击穿分析五大关键步骤
开发语言·网络·c++·经验分享·算法
wuyk55526 分钟前
从零吃透 MQTT 通信|第 11 章 MQTT 项目调试验证、性能优化、常见疑难问题、OTA 升级基础
c语言·开发语言·stm32·学习·性能优化
步行cgn30 分钟前
Spring 注入 Properties 详解
java·python·spring
海盗123430 分钟前
微软技术日报 2026-09-14:Rust 升为微软一级语言,云业务重组为智能体与基础设施
开发语言·microsoft·rust
liangbo731 分钟前
12-JVM 调优方法论与参数速查
java·jvm
geovindu34 分钟前
sql: Data Modeling Patterns
数据库·sql·设计模式·sqlserver