从T+1到分钟级:湖仓一体在大厂的真实落地收益对照(携程/网易云信/腾讯)
一、先说结论:收益对照比架构图更难
湖仓一体、流式湖仓的架构文章已经不稀缺。公开可见的工程分享里,Flink 与 Paimon/Fluss 组合承担流式入湖,再由 StarRocks、Doris、Hologres 或湖上直查承担分析侧,这套范式在抖音、淘天、携程、京东物流、蚂蚁、淘宝闪购等企业的实践分享中反复出现 145678。但绝大多数团队在立项评审时仍会卡在同一个问题上:这些架构我看得懂,收益数字我算不出来。
原因是收益数字和架构图不同,它必须带着口径才能成立。"T+1 到分钟级"描述的是时效性,"降本 70%"描述的是成本结构,"性能提升 10 倍"描述的是基准测试成绩------三者不是同一把尺子。把它们并列写进 PPT,看起来是三重收益,实际上是三种完全不同的证据类型,可迁移性也各不相同。
本文的处理方式是:先把三组数字的证据层级摆清楚,再逐案拆解"数字从哪来、能证明什么、不能证明什么",最后给出一套可以拿回去自测的度量模板与阶段验收清单。需要说明的是,本次可核验的材料以公开文章标题与链接为主,原文的具体发布时间、测试环境、成本口径多数无法从现有资料中确认,凡属推断与建议的部分都会显式标注,读者在引用任何数字前应回到原文核对。
1.1 三个数字一览
| 企业 | 公开宣称的收益 | 技术线索(据标题) | 收益类型 | 证据性质 |
|---|---|---|---|---|
| 携程 | 从 T+1 到分钟级 1 | Flink + Paimon 近实时湖仓 | 时效性 | 企业生产实践复盘,具体延迟口径待核实 |
| 网易云信 | 降本 70%、提速 11 倍 2 | Doris 统一 ES/InfluxDB/Hive 多技术栈 | 成本 + 查询性能 | 企业实践,成本分母与性能基线待核实 |
| 腾讯 | TPC-DS 100TB 数据分析性能提升 10 倍,刷新世界纪录 3 | 未在标题中标明,属基准测试语境 | 性能上限 | 第三方基准测试成绩,不等于生产收益 |
这张表本身就是结论:三个数字不能相加,也不能互相印证。腾讯这条尤其需要单独定位------它是基准测试成绩,不是湖仓一体的落地收益案例,本文第五节会把它降级为"性能上限参照",不与前两案对等比较。
1.2 本文的拆解框架
每个案例都按三个维度评估:
- 收益类型:时效性、成本、性能上限;
- 证据等级:第三方认证基准测试、企业生产实践复盘、厂商联合宣传口径;
- 可迁移条件:需要哪些前提才能复现,缺一项会怎样失效。
二、口径先行:三类收益、三种证据
2.1 三类收益各自的"分母"不同
时效性收益衡量的是数据从产生到可被业务查询之间的延迟。它可以细分为端到端延迟、单环节延迟、以及查询侧的可见延迟。同一个系统,"入湖延迟 3 秒"和"报表刷新延迟 5 分钟"可能同时成立。宣称"分钟级"时,必须追问是哪一段的分钟级。
成本收益衡量的是总拥有成本的变化,通常由计算资源、存储资源、运维人力、软件授权、以及重复建设带来的冗余存储共同构成。技术栈收敛带来的成本下降,往往来自"少存一份、少运维一套、口径少改一次",而不是单一组件变便宜。
性能与上限收益衡量的是吞吐、并发、查询响应时间上限。基准测试成绩属于这一类,它在受控环境下测量,可比性强,但与真实负载的距离也最远。
2.2 三种证据等级
- A 级:第三方认证的基准测试,测试方法、数据规模、审计方式公开可查,例如 TPC-DS。可信度高,但可外推性有限。
- B 级:企业生产实践复盘,有明确业务域、链路改造与前后对比。可信度取决于复盘是否披露口径。
- C 级:厂商联合宣传口径,数字本身可能是真的,但基线、分母、测量窗口往往省略。国内 OLAP 与湖仓相关的对比文章中,相当一部分出自产品厂商或厂商技术账号,引用时需要标注利益相关。
2.3 读任何收益数字都要问的三个问题
- 基线是什么:跟改造前的自己比,还是跟另一个引擎比?跟旧引擎的哪个版本、哪种配置比?
- 分母是什么:降本 70% 是相对云账单、相对硬件投入、还是相对某个组件的支出?是否包含人力与迁移期成本?
- 测量窗口多长:是一个月的账单、一个季度的平均,还是峰值时段的对比?短期对比常被迁移期的双跑成本与长期的运维节省同时影响。
以"降本 70%"为例,一份可被审计的表述应当形如:"在 X 个月窗口内,Y 范围的月度支出由 A 降至 B,其中不含人力与一次性迁移成本"。缺任何一项,这个百分比都无法与其他案例横向比较。这也是本文不给三案打综合分、只给归因分析的根本原因。

三、案例一 · 携程:T+1 到分钟级靠什么换来
公开分享的标题是《从 T+1 到分钟级:携程基于 Flink 与 Paimon 的近实时湖仓建设实践》1。下面的分析以这条标题为事实边界,架构细节与数字口径凡未在可核验材料中出现的,均按待核实处理。
3.1 改造前:离线链路的延迟瓶颈通常分布在哪几段
一条典型的 T+1 链路是:业务库/日志 → 采集(分钟级或小时级批量)→ 离线计算(按天分区调度)→ 调度系统触发 → 应用层查询。延迟并不是集中产生在某一个组件上,而是累积在四个位置:
- 采集批量窗口:批采集天然引入一个采集周期的等待;
- 按天分区的计算模型:数据必须等分区闭合才参与计算,这一步贡献了最大的延迟;
- 调度依赖与重跑:上游任务延迟或失败会顺延下游,最坏情况叠加;
- 应用侧读数方式:即使数据已就绪,若报表仍读离线表并按天刷新,业务感知仍是 T+1。
因此,"从 T+1 到分钟级"这句话的归因,不能只归给某一个新组件,而要看它砍掉了上述哪几段等待。
3.2 架构改造:Flink + Paimon 的近实时湖仓链路
从标题给出的技术组合看,Flink 承担持续的流式计算,Paimon 作为湖表格式承接流式写入与表更新,形成"流式入湖 + 湖上分析"的近实时链路 1。与之呼应的是同类公开方案:基于 Flink SQL 与 Paimon 构建流式湖仓的通用思路 9,以及 Fluss + Paimon 的"湖流一体"实时湖仓数据底座方案 10。
这套组合与传统 Lambda 架构的关键差别在于:流与批共用同一份湖表数据与同一套表结构,实时链路不再只是离线链路的"加速补丁",而是直接产出可查询的表。改造后的延迟链条大致变成:采集持续进行 → Flink 持续计算 → Paimon 提交可见快照 → 查询侧读表。
3.3 收益拆解与归因:流式化贡献了多少,湖格式贡献了多少
把"分钟级"拆开,收益大致来自三处:
- 流式化消除了按天分区等待与调度排队,这是延迟下降的主体;
- 湖表格式的可更新与快照可见,使流式结果能以表的形式被直接消费,减少了"实时结果再落一份离线表"的搬运环节;
- 查询侧读表模式统一,让应用不必区分实时表与离线表两套口径。
需要注意的是,这里第三条是否成立、以及"分钟级"是端到端 P95 还是单环节延迟、覆盖哪个业务域、数据规模多大,现有材料无法确认,必须回到原文核对 1。在立项时,这类不确定项应直接写进验收口径,而不是留给测试阶段临场定义。
3.4 可迁移前提
这一模式要复现,至少需要四个前提:
- 上游具备可持续的数据流:CDC、消息队列或日志采集需稳定可用,且能表达增删改;
- 幂等与可回溯:流任务失败重放不产生重复结果,历史数据可按需回刷;
- 表格式支持流式写入与并发读:写入提交对查询可见的粒度决定了"分钟级"能否兑现;
- 查询侧愿意改读表模式:如果下游仍坚持读离线快照表,改造收益会在最后一段被抵消。
任何一项不满足,"分钟级"都可能退化为"小时级"或"准实时但口径不一致"。
3.5 延迟度量模板
以下为通用模板,参数与表名为占位符,不是任何企业的真实实现:
sql
-- 通用模板:按数据产生时间到可查时间的延迟分布统计
-- 占位符:<可查表>、<event_time>、<visible_time>、<统计窗口>
SELECT
date_trunc('hour', <visible_time>) AS bucket,
count(*) AS row_cnt,
approx_percentile(
date_diff('second', <event_time>, <visible_time>), 0.50) AS p50_sec,
approx_percentile(
date_diff('second', <event_time>, <visible_time>), 0.95) AS p95_sec,
approx_percentile(
date_diff('second', <event_time>, <visible_time>), 0.99) AS p99_sec
FROM <可查表>
WHERE <visible_time> >= <统计窗口起>
AND <visible_time> < <统计窗口止>
GROUP BY 1
ORDER BY 1;
要点是:延迟必须以"业务可查时间"为终点,而不是以任务成功时间为终点;同时统计 P50/P95/P99,避免用均值掩盖尾部延迟。

四、案例二 · 网易云信:统一技术栈后的降本 70% 与提速 11 倍
公开标题为《网易云信 x Doris:降本 70%、提速 11 倍,统一 ES/InfluxDB/Hive 多技术栈的落地实践》2。需要先标注利益相关:这类"企业 x 引擎"的联合分享通常由厂商渠道传播,数字可能真实,但基线与分母需回原文确认。
4.1 多技术栈并存的隐性成本
ES、InfluxDB、Hive 各自承担不同职责是很常见的起点:ES 服务搜索与多维过滤,InfluxDB 服务时序指标,Hive 承担离线数仓。问题不在单个组件,而在并存状态本身:
- 同一份数据多处落地:为了满足不同查询形态,数据被复制多份,存储成本随场景数量线性增长;
- 运维面扩大:三套存储意味着三套容量规划、三套监控告警、三套故障处置手册;
- 口径漂移:同一指标在三处计算,定义与更新时机不一致,业务侧需要解释差异;
- 人力被碎片化:团队技能分散,难以形成统一的数据服务层。
这些成本在账面上往往分散在多个预算科目里,很难在改造前被完整统计,也正因如此,"降本 70%"的具体分母尤其需要追问。
4.2 收敛到统一 OLAP 引擎的路径
从标题看,该实践是把 ES/InfluxDB/Hive 的能力收敛到 Doris 之上 2。类似的收敛路径在其他案例中也有对照:Fresha 从 Postgres 与 Snowflake 迁向 StarRocks 11,淘宝闪购采用 StarRocks + Paimon 支撑实时分析 12,京东物流基于 Flink 与 StarRocks 建设湖仓 7。共同点是:先统一查询入口,再逐步统一存储与计算,最后下线旧栈。
收敛不是"换一个数据库",而是重新划分职责:
| 收敛前 | 典型职责 | 收敛后的主要去向(示意) |
|---|---|---|
| Elasticsearch | 搜索、多维过滤、日志检索 | 统一分析引擎;若仍有全文检索强需求,可能保留部分 ES |
| InfluxDB | 时序指标存储与聚合 | 统一分析引擎的时序/明细表 |
| Hive | 离线数仓、T+1 报表 | 湖表或统一引擎外表,保留离线重算能力 |
上表是基于标题信息的结构化推断,各组件的实际去向与是否保留,需以原文为准 2。
4.3 收益口径拆解
"降本 70%"需要核对的四件事:
- 成本范围是云账单、自建硬件折旧、还是含运维人力;
- 是否包含迁移期双写带来的临时增量;
- 是否把重复存储的消除计入,以及如何估算;
- 测量窗口长度,是否覆盖业务波动。
"提速 11 倍"需要核对的五件事:
- 对比基线是 Hive、ES 还是 InfluxDB 中的哪一个;
- 查询场景类型:点查、聚合、明细扫描还是高并发看板;
- 数据量级与查询条数样本量;
- 是否包含缓存预热、物化视图等优化;
- 测的是平均响应时间还是 P95/P99。
在这些口径确认之前,这两个数字只能作为"该方向可能带来数量级改善"的信号,不能作为自己立项时的收益预测值。
4.4 迁移期风险与代价
- 双写期成本:新旧栈并行运行期间,成本通常不降反升,需要在预算中显式预留;
- 一致性校验:必须建立对账机制,否则查询结果差异会在业务侧爆发;
- 查询改写工作量:SQL 方言、函数、索引假设不同,改写与回归测试常被低估;
- 能力缺口:若旧栈承担了引擎不具备的能力(例如特定全文检索或特殊聚合),需要有明确的替代方案或保留策略。
一个务实的做法是:把迁移期成本单独记账,收益验收放在旧栈下线之后,避免用"双写期的账单"去评价长期收益。
五、案例三 · 腾讯 TPC-DS 纪录:它是"上限",不是"收益"
公开标题为《腾讯刷新 TPC-DS 世界纪录,100TB 数据分析性能提升 10 倍》3。本节的定位是性能上限参照,不计入湖仓落地收益对照。原因很直接:基准测试成绩与企业生产收益不在同一层级,前者的环境受控、负载固定,后者受业务波动、资源竞争与组织流程影响。
5.1 TPC-DS 成绩的测试语境
TPC-DS 是面向决策支持系统的标准基准,固定数据规模(scale factor)、固定查询集、固定审计规则。标题中的"100TB"对应测试数据规模,"提升 10 倍"必然有一个对比基线。在引用这条成绩之前,至少需要确认:
- 测试对象是腾讯云哪款产品或哪个引擎;
- 认证或审计方是谁,成绩是否通过正式审计;
- 对比基线是什么:上一代版本、同规模下某开源引擎、还是自建环境;
- 集群规模与硬件配置、软件版本、优化项;
- 测试日期与成绩有效期。
现有材料只提供了标题与链接,上述细节均待核实 3。这也是本文不复述任何未核实配置参数的原因。
5.2 基准测试与企业收益的系统性差异
| 维度 | 基准测试成绩 | 企业生产收益 |
|---|---|---|
| 负载 | 标准查询集,分布固定 | 真实业务查询,长尾与突发并存 |
| 环境 | 专用集群,配置受控 | 共享资源池,存在争抢 |
| 数据 | 合成数据,分布规整 | 倾斜、脏数据、迟到数据常见 |
| 口径 | 标准定义,第三方审计 | 内部定义,常缺基线 |
| 可迁移性 | 可比性强,外推性弱 | 与自身相关性强,跨企业可比性弱 |
因此,基准成绩适合回答"这个引擎的性能上限在哪",不适合回答"我上线后能省多少钱、快多少"。
5.3 什么时候可以引用它
- 容量规划:作为规模增长到 100TB 量级时的性能量级参照;
- 选型入围:在候选清单筛选阶段作为成熟度信号之一;
- POC 目标设定:作为压测目标的参考区间,而非验收阈值。
不应把它写进 ROI 计算,也不应据此推断湖仓一体架构本身带来的收益------基准测试的成绩归属是具体产品与配置,不是架构范式。
5.4 生产侧旁证:几条真正的流式湖仓实践
为了弥补"上限参照"与"落地收益"之间的证据断层,这里补一组公开可查的生产实践线索,均只陈述标题层面可确认的事实,不补写未核实数字:
- 抖音集团基于 Paimon 的流式数据湖应用实践 4;
- 淘天集团基于 Flink + Paimon + Hologres 的湖仓一体数据链路 5;
- 淘宝闪购基于 Flink & Paimon 的 Lakehouse 生产实践,从实时数仓走向湖仓一体化 6;
- 京东物流基于 Flink & StarRocks 的湖仓建设 7;
- 蚂蚁数据湖的深度探索与业务应用实践 8。
它们的共同价值不在于某个数字,而在于证明这套范式并非单一企业、单一业务形态的特例。需要说明的是,这些内容多为工程分享或厂商渠道稿,具体收益与实现细节仍需逐一回原文核验。
六、三案对照:收益归因模型
6.1 对照总表
| 案例 | 主要改动 | 对应收益 | 收益来源归因 | 证据等级 | 可迁移性 |
|---|---|---|---|---|---|
| 携程 1 | 批处理链路改为 Flink 流式计算 + Paimon 湖表 | 时效性提升(T+1 → 分钟级) | 流式化消除了分区等待与调度排队 | B | 中---高,需上游数据流与可回溯能力 |
| 网易云信 2 | ES/InfluxDB/Hive 收敛到 Doris | 成本下降 + 查询提速 | 技术栈收敛消除重复存储与多套运维 | B/C | 中,取决于旧栈职责复杂度 |
| 腾讯 3 | 引擎优化与基准调优 | 性能上限提升 | 具体优化项待核实 | A | 低(作为容量参照) |
6.2 归因结论
把三案放进同一框架后,可以看到几条规律:
- 流式湖仓最确定的收益是时效性。它的本质是把"等分区闭合、等调度触发"的时间还给业务,收益大小取决于改造前有多少等待环节。
- 成本收益主要来自技术栈收敛,而不是某一个组件更便宜。把省下的重复存储、多套运维、口径维护合并计算,才构成完整的成本故事。
- 基准性能是独立维度,反映产品上限,与架构范式收益不能混算。
- 收益与代价是成对出现的。流式化带来运维复杂度、状态管理与数据正确性挑战;技术栈收敛带来迁移期双写与能力缺口。只报收益不报代价的复盘,不适合作为立项依据。
6.3 反方视角:湖仓一体真的取代数据仓库了吗
公开材料中存在一场关于"数据湖与数据仓库的演进与未来"的技术辩论 13,其争议点可以概括为几组对立观点(以下为观点归纳,非事实结论):
- 正方:湖表格式统一了存储与治理,流批同源消除了重复建设,长期看会压缩独立数仓的边界;
- 反方:数据仓库在事务一致性、性能保障、治理成熟度上的能力并未被完全替代,很多场景仍需要专用引擎;
- 折中视角:湖与仓的边界正在模糊,"湖仓一体"更接近一种架构目标,而非某类产品。
工程上更稳妥的判断是:湖表格式 + 流式计算 + 专用分析引擎的组合,解决的是数据链路的统一与实时性问题;它是否替代既有数仓,取决于组织的查询模式、治理要求与存量资产,不能一概而论。
七、落地路线:从 POC 到收敛的验证清单
7.1 阶段一:POC
目标:选一条高价值链路,同时验证延迟与正确性,不追求覆盖面。
验收指标:
- 端到端延迟 P95 与 P99 达到预设阈值;
- 结果正确性与既有链路一致,差异率在阈值内;
- 任务可恢复,故障重放不产生重复数据。
止损条件:延迟无法进入目标区间,或正确性对账持续不收敛,应退回分析根因,而不是扩大范围硬推。
7.2 阶段二:迁移
目标:双跑对账,验证回溯与补数能力,评估查询侧改造工作量。
验收指标:
- 双跑期对账差异率与差异原因闭环;
- 历史数据回刷的耗时与资源成本可预估;
- 查询改写完成率与回归通过率。
止损条件:双跑期成本超出预留预算,或查询改写工作量被证实远超预期,需要重新评估迁移范围。
7.3 阶段三:收敛
目标:旧栈下线,成本复核,收益以改造前基线为准。
验收指标:
- 旧栈下线后的真实成本与改造前基线对比;
- 运维工单数量、故障恢复时长变化;
- 业务侧查询体验(P95 响应时间、并发能力)。
7.4 三阶段验收清单
| 阶段 | 目标 | 关键指标 | 阈值设定方式 | 止损条件 |
|---|---|---|---|---|
| POC | 单链路可行 | 延迟 P95/P99、正确性差异率 | 依据业务可接受延迟反推 | 延迟或正确性不达标 |
| 迁移 | 双跑一致、可回溯 | 对账差异率、回刷耗时、改写完成率 | 依据数据量与 SLA 测算 | 成本或工期失控 |
| 收敛 | 旧栈下线、收益兑现 | 月度成本、运维工单、查询 P95 | 与改造前基线逐项对比 | 收益低于预期且无下降趋势 |
7.5 三张报表的度量口径
延迟报表:使用第三节给出的延迟分位数模板,按业务域分组,固定统计窗口,禁止用均值。
成本报表:
sql
-- 通用模板:单位数据成本对比(占位符需替换为真实账单来源)
-- 建议按月统计,口径写入报表元数据
SELECT
<统计月份> AS month,
<成本范围_计算> + <成本范围_存储> + <成本范围_运维> AS total_cost,
<入湖数据量_TB> AS data_volume_tb,
(<成本范围_计算> + <成本范围_存储> + <成本范围_运维>)
/ nullif(<入湖数据量_TB>, 0) AS cost_per_tb
FROM <成本台账表>
GROUP BY 1
ORDER BY 1;
查询报表:按查询类型分桶统计响应时间 P50/P95/P99 与 QPS,避免把点查与重聚合混在一个平均值里。
7.6 选型方向的经验判断
在缺乏精确量化标准时,可用以下启发式(属建议,非行业共识):
- 追求低延迟、增量更新,且上游有稳定数据流:优先评估流式计算 + 流式湖表格式的组合;
- 追求高并发点查与多维过滤:优先评估 MPP 分析引擎;
- 存量离线资产重、历史重算频繁:保留湖表的批处理与回溯能力,不要为了实时化牺牲可重放性;
- 全文检索、时序聚合等专用查询占比高:评估统一引擎的真实能力边界,必要时保留专用组件,但要控制份数。

八、结语:把"别人家的数字"变成"自己的基线"
回到开头那个问题:为什么看了很多架构文章仍不敢立项?因为架构可以复制,收益口径不能复制。携程的"分钟级"1、网易云信的"降本 70% 与提速 11 倍"2、腾讯的"100TB 性能提升 10 倍"3,分别是时效性、成本、性能上限三类收益的样本,它们证明了改善是可能的,但没有告诉你在你的数据量、你的查询模式、你的组织条件下能拿到多少。
本周可以做的三件事:
- 采集自家现状基线:延迟分位数、单位数据成本、查询 P95,先把改造前的自己写清楚;
- 用"口径三问"审一份内部收益报告:基线是什么、分母是什么、测量窗口多长,看它经不经得起追问;
- 选一条链路做 POC 立项:定义延迟与正确性双指标,设定止损条件,让收益在验收时自己浮现。
最后提醒一点:本次可获取材料的发布时间字段全部为空,来源热度字段也均为 0,因此本文未使用"最新""最热""正在成为主流"一类时间与热度判断;文中出现的数字均来自来源标题,并已标明核验状态。任何准备写入方案或汇报的数字,请回到原始来源核对其口径与发布背景。
参考资料
1 《干货 | 从 T+1 到分钟级:携程基于 Flink 与 Paimon 的近实时湖仓建设实践》,CSDN,https://blog.csdn.net/weixin_44904816/article/details/155257069
2 《网易云信 x Doris:降本 70%、提速 11 倍,统一 ES/InfluxDB/Hive 多技术栈的落地实践》,掘金,https://juejin.cn/post/7518982875987984395
3 《腾讯刷新 TPC-DS 世界纪录,100TB 数据分析性能提升 10 倍》,CSDN,https://blog.csdn.net/cloudbigdata/article/details/164062042
4 《抖音集团基于 Paimon 的流式数据湖应用实践》,掘金,https://juejin.cn/post/7532773996762841151
5 《基于 Flink+Paimon+Hologres 搭建淘天集团湖仓一体数据链路》,CSDN,https://blog.csdn.net/weixin_44904816/article/details/148282527
6 《淘宝闪购基于 Flink&Paimon 的 Lakehouse 生产实践:从实时数仓到湖仓一体化的演进之路》,CSDN,https://blog.csdn.net/weixin_48534929/article/details/151408163
7 《京东物流基于 Flink & StarRocks 的湖仓建设实践》,CSDN,https://blog.csdn.net/weixin_44904816/article/details/147326626
8 《万字长文详解|蚂蚁数据湖深度探索与业务应用实践》,CSDN,https://blog.csdn.net/DB_GPT/article/details/146372496
9 《【数据库】基于 Flink SQL 和 Paimon 构建流式湖仓新方案》,CSDN,https://blog.csdn.net/jrckkyy/article/details/149174797
10 《湖流一体:基于 Fluss + Paimon 的实时湖仓数据底座》,CSDN,https://blog.csdn.net/weixin_44904816/article/details/157471904
11 《Fresha 的实时分析进化:从 Postgres 和 Snowflake 走向 StarRocks》,掘金,https://juejin.cn/post/7585173051647115300
12 《淘宝闪购实时分析黑科技:StarRocks + Paimon 撑起秋天第一波奶茶自由》,掘金,https://juejin.cn/post/7548341600633585699
13 《数据湖与数据仓库的演进与未来:一场技术辩论》,掘金,https://juejin.cn/post/7596245612557434889