Valhalla L3 开源评测|Apache Doris:面向AI Agent的实时分析与混合检索数据库
仓库:
apache/doris|固定提交:b6c67510385391d0dd913589f1b323ec86ba7bd6|综合热度排名:10|评测得分:98.8650 评测等级:L3(证据可复核级)|Verdict:PASS 作者:Valhalla Matrix治理实验室 ⚠️ 评测声明:本次为只读静态有界快照评测,仅做文件存在性、Blob哈希核验、词法线索导航;未执行构建、单元测试、性能压测、依赖漏洞扫描、AST数据流分析,L3仅代表取证链路可复核,不等于生产安全认证、SLA保证或准入结论。
0. 摘要
Apache Doris 是 Apache 基金会旗下的实时分析数据库,当前定位升级为 面向AI Agent的实时分析+混合检索数据库 ,兼顾OLAP多维分析、倒排索引全文检索、向量检索能力,非常适配RAG、Agent工具查询、业务实时看板、湖仓联邦查询场景。 本次 Valhalla Matrix 采用固定Commit快照、最多30个样本的分层抽样方案,对 be/fe/common/ui/webroot 核心模块做证据核验,30/30样本全部通过SHA-256哈希核验,证据覆盖率100%,仓库文件枚举规模44032个,源码体量庞大、模块分工清晰,社区热度与工程成熟度处于OLAP赛道第一梯队。
关键词:Apache Doris、OLAP、实时数仓、混合检索、AI Agent、RAG、湖仓联邦、Nereids优化器、倒排索引、Valhalla L3评测
1. 项目全景
1.1 核心定位
官方描述:Apache Doris is a real-time analytics and hybrid search database for AI agents. 区别于传统OLAP只做结构化SQL分析,新版本Doris把结构化分析、全文检索、向量检索收拢在同一个SQL引擎内,一套存储同时承载:
- 实时业务指标分析(秒级聚合、高并发点查)
- 倒排索引文本检索(日志、文档、工单检索)
- 向量检索(RAG知识库、Agent私有知识库)
- 外部联邦查询:Hive/JDBC/对象存储等外部Catalog接入
1.2 架构极简划分(从取样模块看)
| 模块 | 语言 | 职责 |
|---|---|---|
| BE(Backend) | C/C++ | 存储引擎、计算执行、倒排索引、向量索引、底层算子、Benchmark |
| FE(Frontend) | Java | 元数据管理、Nereids SQL优化器、解析器、权限、Catalog连接器、DDL/DCL |
| Common | C++ | 公共组件、对象存储SDK、鉴权(AWS等云凭证)、通用工具 |
| UI / Webroot | TS/JS | 集群运维控制台、监控面板、管理页面 |
抽样样本语言分布:Java(9) > C/C++(5) > C++(5) > TypeScript(1) > JavaScript(1),Java侧集中在FE优化器、外部连接器;C++集中在存储、索引、底层执行算子。
1.3 本次评测方案说明
- 取证方式:Git API 有界浅快照,固定Commit锁定证据,不跟随浮动HEAD;Git浅克隆失败,改用官方Blob接口核验
- 抽样分层配额:根契约(8) / CI(4) / 测试(6) / 生产源码(12),等距分散抽样,优先补生产源码空缺
- 核验标准:每个样本文件按官方Git blob原始SHA-256比对,Manifest根哈希:
8ef5c4099b9ba1d0124cf2666c16cf3105e9e9ffa3360b6c303dcc3527bb0a50 - 分析方式:仅词法检索(正则、关键字、符号匹配);非Python代码不做AST、跨文件调用图、数据流分析;命中关键词仅代表文本存在,不代表接口完备、逻辑正确、并发安全
2. 证据门禁与复核结论(L3 PASS)
json
{
"assessed_level": "L3",
"verdict": "PASS",
"checks": {
"resolved_fixed_commit": true,
"bounded_non_full_fetch": true,
"official_commit_verified": true,
"bounded_snapshot_verified": true,
"evidence_coverage_pass": true,
"manifest_hash_bound": true
},
"evidence_coverage": 1.0
}
✅ 全部声明样本30个,哈希核验通过; ✅ 固定Commit锁定,证据可复现,快照边界可控; ❗ 边界限制(必须留意):
- CI/workflow文件仅核验文件存在性,不代表CI流水线当前可跑、测试全部通过
- 依赖未解析、许可证仅提供LICENSE文件存在性,漏洞、License冲突需要人工复核NOTICE
- 词法检索命中:请求/路由(51)、持久化查询(45)、并发异步(48)、IO网络(154),仅文本线索,不代表真实实现语义
- 未运行SafeNet语义防火墙扫描,不能认为源码天然合规
3. 样本源码线索解读(从抽样文件看技术重点)
3.1 BE侧:存储引擎与混合检索核心
BE是Doris的计算存储底座,本次抽样重点覆盖:
- 基准测试套件:
benchmark_array_range.hpp、benchmark_arrow_validation.hpp、benchmark_binary_arithmetic.hpp,覆盖数组、Arrow格式、二进制算术算子性能基线,说明项目重视底层算子性能可观测 - 聚合/标量函数:
aggregate_function_bool_union.cpp、function_bit_test.cpp,内置扩展函数注册机制,支持自定义UDF - 倒排索引检索:
simple_union.h倒排检索合并逻辑、gram_density_test.cppN-Gram分词密度测试,是Doris混合检索的核心证据,也是面向RAG、文本检索的关键模块 - 元数据Schema辅助:
schema_helper.cpp,支撑information_schema系统表查询
亮点:倒排索引引擎和OLAP存储引擎同进程集成,这是Doris做混合检索的核心差异点,不需要额外部署Elasticsearch。
3.2 FE侧:Nereids优化器 + 多源Catalog连接器
FE是Doris的控制面,也是迭代最活跃的模块之一:
- Nereids 新优化器:
FoldConstantForSqlCache.java、Dceil.java表达式节点、ShowUserPropertyCommand.java命令节点,Nereids是新一代CBO优化器,支持SQL缓存、常量折叠、复杂表达式改写,是提升复杂查询性能的核心 - 外部数据源连接器:
JdbcConnectorClient.java、HiveConnectorTransactionTest.java,Hive、JDBC外部Catalog能力成熟,支持事务语义映射,湖仓一体联邦查询能力完备 - 元数据表函数:
MetadataTableValuedFunction.java,支持通过SQL查询集群元信息,方便运维、审计、监控 - 插件化Catalog身份测试:
PluginDrivenExternalCatalogIdentityTest.java,外部目录插件化设计,方便扩展更多数据源
3.3 公共组件与云原生适配
aws_credential_factory.cpp 云凭证工厂,支持AWS STS、AssumeRole等云对象存储鉴权,原生适配S3兼容存储,对应冷热分离、对象存储远端分层存储架构。
3.4 前端与运维侧
UI E2E测试脚手架、doris.js 前端排序、字节格式化工具,集群Web控制台配套完善,降低运维上手成本。
4. 优势、风险点(基于L3证据线索,非动态验证)
✅ 优势
- 定位差异化:统一OLAP+全文检索+向量检索,一套库承载Agent/RAG+实时分析,减少多组件运维复杂度
- 架构成熟度高:FE/BE分离,Nereids优化器持续迭代,外部Catalog生态丰富(Hive、JDBC、Iceberg等)
- 社区与工程规范强:CI流水线齐全(gitleaks密钥扫描、checkstyle、PR标题校验、标签审批),有SECURITY.md、CODE_OF_CONDUCT,Apache顶级项目规范完整
- 混合检索原生内置:倒排索引深度集成在存储层,不是外挂组件,适合日志检索、知识库检索、指标+文本联合查询
- 云存储友好:原生支持对象存储鉴权,适配云原生、存算分离部署
⚠️ 证据层面可见风险/待复核项(L3静态视角)
- 混合检索(向量+倒排)属于较新路线,检索与OLAP混跑时资源隔离、QoS限流策略需要人工复核,词法线索看到并发、IO相关代码,但没有证据证明资源隔离完备
- 外部连接器(JDBC/Hive)涉及跨源事务、类型映射,抽样仅看到测试用例,边界异常、SQL注入、权限转发风险需要单独安全审计
- C++底层存储引擎代码量大,内存管理、异步IO、异常分支多,静态词法扫描无法捕获内存越界、并发竞态
- AI Agent场景属于新叙事,AGENTS.md为新增契约文档,Agent调用协议、权限边界、工具调用安全模型还在演进阶段
- 许可证、第三方依赖清单需要人工核对NOTICE,本次仅核验LICENSE文件存在
5. 适合场景 & 不适合场景
✅ 推荐场景
- 实时业务指标看板、高并发OLAP分析
- RAG知识库、私有文档检索,结构化指标+文本联合查询
- AI Agent内置查询工具:Agent直接SQL查询业务库、知识库
- 湖仓联邦查询,对接Hive、Iceberg、JDBC数据库
- 日志、工单、埋点数据的实时入库+检索+分析一体化
❌ 不优先选择
- 高吞吐在线事务(强事务OLTP,不是Doris设计目标)
- 超大规模纯向量检索(专门向量库在召回工程上有更多专项优化)
- 强一致性跨节点分布式事务场景
6. 评测物与复现入口
本次全部证据材料可基于固定Commit复现:
- 固定Commit:
b6c67510385391d0dd913589f1b323ec86ba7bd6 - Manifest SHA256:
8ef5c4099b9ba1d0124cf2666c16cf3105e9e9ffa3360b6c303dcc3527bb0a50 - 本地证据清单:
doris.json评测结果快照.valhalla-l3-manifest.json证据清单ranking_snapshot.json热度排名快照
- 抽样文件索引:报告内全部GitHub blob链接,可直接打开核对源码
7. 结语
Apache Doris 正在从传统的实时OLAP数仓,向 AI Agent原生混合检索分析数据库 演进,这是非常有想象力的路线:让Agent不需要对接多个数据库、检索引擎,单引擎同时支持指标统计、文本检索、向量召回。 从Valhalla L3静态证据看,项目工程规范、模块边界、生态布局都属于开源OLAP头部水准;但AI Agent相关的安全契约、权限模型、混合负载隔离,是后续落地审计的重点。 L3证据核验通过代表本次取证链路可信,生产落地建议在此基础上叠加:性能压测、依赖SCA、安全审计、混沌测试。
系列专栏:Valhalla Matrix 开源项目L3证据评测 评测体系说明:L1元信息检索|L2浅层源码扫描|L3固定Commit哈希可复核取证|L4构建+单元测试+动态插桩验证 免责声明:本文评测输出仅为静态证据归档解读,不构成选型担保、安全背书、生产准入建议;所有动态行为、漏洞、性能结论需要额外测试验证。