Valhalla L3 开源评测|Apache Doris:面向AI Agent的实时分析与混合检索数据库

Valhalla L3 开源评测|Apache Doris:面向AI Agent的实时分析与混合检索数据库

仓库:apache/doris|固定提交:b6c67510385391d0dd913589f1b323ec86ba7bd6|综合热度排名:10|评测得分:98.8650 评测等级:L3(证据可复核级)|Verdict:PASS 作者:Valhalla Matrix治理实验室 ⚠️ 评测声明:本次为只读静态有界快照评测,仅做文件存在性、Blob哈希核验、词法线索导航;未执行构建、单元测试、性能压测、依赖漏洞扫描、AST数据流分析,L3仅代表取证链路可复核,不等于生产安全认证、SLA保证或准入结论。

0. 摘要

Apache Doris 是 Apache 基金会旗下的实时分析数据库,当前定位升级为 面向AI Agent的实时分析+混合检索数据库 ,兼顾OLAP多维分析、倒排索引全文检索、向量检索能力,非常适配RAG、Agent工具查询、业务实时看板、湖仓联邦查询场景。 本次 Valhalla Matrix 采用固定Commit快照、最多30个样本的分层抽样方案,对 be/fe/common/ui/webroot 核心模块做证据核验,30/30样本全部通过SHA-256哈希核验,证据覆盖率100%,仓库文件枚举规模44032个,源码体量庞大、模块分工清晰,社区热度与工程成熟度处于OLAP赛道第一梯队。

关键词:Apache Doris、OLAP、实时数仓、混合检索、AI Agent、RAG、湖仓联邦、Nereids优化器、倒排索引、Valhalla L3评测

1. 项目全景

1.1 核心定位

官方描述:Apache Doris is a real-time analytics and hybrid search database for AI agents. 区别于传统OLAP只做结构化SQL分析,新版本Doris把结构化分析、全文检索、向量检索收拢在同一个SQL引擎内,一套存储同时承载:

  • 实时业务指标分析(秒级聚合、高并发点查)
  • 倒排索引文本检索(日志、文档、工单检索)
  • 向量检索(RAG知识库、Agent私有知识库)
  • 外部联邦查询:Hive/JDBC/对象存储等外部Catalog接入

1.2 架构极简划分(从取样模块看)

模块 语言 职责
BE(Backend) C/C++ 存储引擎、计算执行、倒排索引、向量索引、底层算子、Benchmark
FE(Frontend) Java 元数据管理、Nereids SQL优化器、解析器、权限、Catalog连接器、DDL/DCL
Common C++ 公共组件、对象存储SDK、鉴权(AWS等云凭证)、通用工具
UI / Webroot TS/JS 集群运维控制台、监控面板、管理页面

抽样样本语言分布:Java(9) > C/C++(5) > C++(5) > TypeScript(1) > JavaScript(1),Java侧集中在FE优化器、外部连接器;C++集中在存储、索引、底层执行算子。

1.3 本次评测方案说明

  • 取证方式:Git API 有界浅快照,固定Commit锁定证据,不跟随浮动HEAD;Git浅克隆失败,改用官方Blob接口核验
  • 抽样分层配额:根契约(8) / CI(4) / 测试(6) / 生产源码(12),等距分散抽样,优先补生产源码空缺
  • 核验标准:每个样本文件按官方Git blob原始SHA-256比对,Manifest根哈希:8ef5c4099b9ba1d0124cf2666c16cf3105e9e9ffa3360b6c303dcc3527bb0a50
  • 分析方式:仅词法检索(正则、关键字、符号匹配);非Python代码不做AST、跨文件调用图、数据流分析;命中关键词仅代表文本存在,不代表接口完备、逻辑正确、并发安全

2. 证据门禁与复核结论(L3 PASS)

json 复制代码
{
  "assessed_level": "L3",
  "verdict": "PASS",
  "checks": {
    "resolved_fixed_commit": true,
    "bounded_non_full_fetch": true,
    "official_commit_verified": true,
    "bounded_snapshot_verified": true,
    "evidence_coverage_pass": true,
    "manifest_hash_bound": true
  },
  "evidence_coverage": 1.0
}

✅ 全部声明样本30个,哈希核验通过; ✅ 固定Commit锁定,证据可复现,快照边界可控; ❗ 边界限制(必须留意):

  1. CI/workflow文件仅核验文件存在性,不代表CI流水线当前可跑、测试全部通过
  2. 依赖未解析、许可证仅提供LICENSE文件存在性,漏洞、License冲突需要人工复核NOTICE
  3. 词法检索命中:请求/路由(51)、持久化查询(45)、并发异步(48)、IO网络(154),仅文本线索,不代表真实实现语义
  4. 未运行SafeNet语义防火墙扫描,不能认为源码天然合规

3. 样本源码线索解读(从抽样文件看技术重点)

3.1 BE侧:存储引擎与混合检索核心

BE是Doris的计算存储底座,本次抽样重点覆盖:

  • 基准测试套件:benchmark_array_range.hpp、benchmark_arrow_validation.hpp、benchmark_binary_arithmetic.hpp,覆盖数组、Arrow格式、二进制算术算子性能基线,说明项目重视底层算子性能可观测
  • 聚合/标量函数:aggregate_function_bool_union.cpp、function_bit_test.cpp,内置扩展函数注册机制,支持自定义UDF
  • 倒排索引检索:simple_union.h 倒排检索合并逻辑、gram_density_test.cpp N-Gram分词密度测试,是Doris混合检索的核心证据,也是面向RAG、文本检索的关键模块
  • 元数据Schema辅助:schema_helper.cpp,支撑information_schema系统表查询

亮点:倒排索引引擎和OLAP存储引擎同进程集成,这是Doris做混合检索的核心差异点,不需要额外部署Elasticsearch。

3.2 FE侧:Nereids优化器 + 多源Catalog连接器

FE是Doris的控制面,也是迭代最活跃的模块之一:

  • Nereids 新优化器:FoldConstantForSqlCache.java、Dceil.java 表达式节点、ShowUserPropertyCommand.java 命令节点,Nereids是新一代CBO优化器,支持SQL缓存、常量折叠、复杂表达式改写,是提升复杂查询性能的核心
  • 外部数据源连接器:JdbcConnectorClient.java、HiveConnectorTransactionTest.java,Hive、JDBC外部Catalog能力成熟,支持事务语义映射,湖仓一体联邦查询能力完备
  • 元数据表函数:MetadataTableValuedFunction.java,支持通过SQL查询集群元信息,方便运维、审计、监控
  • 插件化Catalog身份测试:PluginDrivenExternalCatalogIdentityTest.java,外部目录插件化设计,方便扩展更多数据源

3.3 公共组件与云原生适配

aws_credential_factory.cpp 云凭证工厂,支持AWS STS、AssumeRole等云对象存储鉴权,原生适配S3兼容存储,对应冷热分离、对象存储远端分层存储架构。

3.4 前端与运维侧

UI E2E测试脚手架、doris.js 前端排序、字节格式化工具,集群Web控制台配套完善,降低运维上手成本。

4. 优势、风险点(基于L3证据线索,非动态验证)

✅ 优势

  1. 定位差异化:统一OLAP+全文检索+向量检索,一套库承载Agent/RAG+实时分析,减少多组件运维复杂度
  2. 架构成熟度高:FE/BE分离,Nereids优化器持续迭代,外部Catalog生态丰富(Hive、JDBC、Iceberg等)
  3. 社区与工程规范强:CI流水线齐全(gitleaks密钥扫描、checkstyle、PR标题校验、标签审批),有SECURITY.md、CODE_OF_CONDUCT,Apache顶级项目规范完整
  4. 混合检索原生内置:倒排索引深度集成在存储层,不是外挂组件,适合日志检索、知识库检索、指标+文本联合查询
  5. 云存储友好:原生支持对象存储鉴权,适配云原生、存算分离部署

⚠️ 证据层面可见风险/待复核项(L3静态视角)

  1. 混合检索(向量+倒排)属于较新路线,检索与OLAP混跑时资源隔离、QoS限流策略需要人工复核,词法线索看到并发、IO相关代码,但没有证据证明资源隔离完备
  2. 外部连接器(JDBC/Hive)涉及跨源事务、类型映射,抽样仅看到测试用例,边界异常、SQL注入、权限转发风险需要单独安全审计
  3. C++底层存储引擎代码量大,内存管理、异步IO、异常分支多,静态词法扫描无法捕获内存越界、并发竞态
  4. AI Agent场景属于新叙事,AGENTS.md为新增契约文档,Agent调用协议、权限边界、工具调用安全模型还在演进阶段
  5. 许可证、第三方依赖清单需要人工核对NOTICE,本次仅核验LICENSE文件存在

5. 适合场景 & 不适合场景

✅ 推荐场景

  • 实时业务指标看板、高并发OLAP分析
  • RAG知识库、私有文档检索,结构化指标+文本联合查询
  • AI Agent内置查询工具:Agent直接SQL查询业务库、知识库
  • 湖仓联邦查询,对接Hive、Iceberg、JDBC数据库
  • 日志、工单、埋点数据的实时入库+检索+分析一体化

❌ 不优先选择

  • 高吞吐在线事务(强事务OLTP,不是Doris设计目标)
  • 超大规模纯向量检索(专门向量库在召回工程上有更多专项优化)
  • 强一致性跨节点分布式事务场景

6. 评测物与复现入口

本次全部证据材料可基于固定Commit复现:

  • 固定Commit:b6c67510385391d0dd913589f1b323ec86ba7bd6
  • Manifest SHA256:8ef5c4099b9ba1d0124cf2666c16cf3105e9e9ffa3360b6c303dcc3527bb0a50
  • 本地证据清单:
    • doris.json 评测结果快照
    • .valhalla-l3-manifest.json 证据清单
    • ranking_snapshot.json 热度排名快照
  • 抽样文件索引:报告内全部GitHub blob链接,可直接打开核对源码

7. 结语

Apache Doris 正在从传统的实时OLAP数仓,向 AI Agent原生混合检索分析数据库 演进,这是非常有想象力的路线:让Agent不需要对接多个数据库、检索引擎,单引擎同时支持指标统计、文本检索、向量召回。 从Valhalla L3静态证据看,项目工程规范、模块边界、生态布局都属于开源OLAP头部水准;但AI Agent相关的安全契约、权限模型、混合负载隔离,是后续落地审计的重点。 L3证据核验通过代表本次取证链路可信,生产落地建议在此基础上叠加:性能压测、依赖SCA、安全审计、混沌测试。


系列专栏:Valhalla Matrix 开源项目L3证据评测 评测体系说明:L1元信息检索|L2浅层源码扫描|L3固定Commit哈希可复核取证|L4构建+单元测试+动态插桩验证 免责声明:本文评测输出仅为静态证据归档解读,不构成选型担保、安全背书、生产准入建议;所有动态行为、漏洞、性能结论需要额外测试验证。


相关推荐
panyz15 分钟前
不想再开 7 个标签页查AI额度,我用 Node 写了个本地看板
人工智能·开源·github
逛逛GitHub33 分钟前
又 3 个刚开源但要火的 GitHub 项目,在 iPhone 上跑 macOS。
github
OpenTiny社区3 小时前
AI Agent场景组件库 TinyRobot v1.0 正式发布:一站式打造您的AI助手
vue.js·github
GoGeekBaird5 小时前
换个 AI 就要重新介绍一遍自己?我用 OneSelf 给自己搭了个个人站
github·agent
严肃小白兔5 小时前
GitHub 个人仓库正式支持结构化 Issue:从标签管理到自动化任务工作流
自动化·github·issue
用户别睡觉21 小时前
有时候放弃也是一种收获
人工智能·github
愚坤1 天前
前端真有意思,JS还能独立做项目?
前端·javascript·github
dong_junshuai1 天前
每天一个开源项目#157 Modern Web Guidance:让Agent按需查浏览器能力
github
一条Go1 天前
OnCall 时段路由:跨午夜、左闭右开与「Local 不是时区」
后端·架构·github