Apache Doris中都用了哪些开发语言,编译过程中用到了哪些编译器,以及用到了哪些成熟的技术框架

Apache Doris 作为一款高性能的实时分析型数据库,其技术栈涉及多语言开发、多种编译器支持以及多个成熟技术框架的集成。以下是综合多个来源的详细分析:


一、开发语言

  1. Java

    应用场景 :主要用于开发 Frontend(FE) ,负责元数据管理、查询解析、集群管理等模块。

    关键模块

    ◦ FE 的元数据持久化通过 BDBJE(Berkeley DB Java Edition) 实现。

    ◦ MySQL 协议兼容和 HTTP 服务分别基于 XnioSpringBoot 框架。

  2. C++

    应用场景 :用于开发 Backend(BE) ,核心功能包括数据存储、向量化计算引擎、MPP 架构的分布式查询执行。

    技术优势:通过 C++ 实现高性能的列式存储和实时数据处理。


二、编译器与构建工具

  1. 编译器

    GCC :推荐使用 GCC 7.3 及以上版本 (如 Ubuntu 中安装 gcc-10),用于编译 C++ 代码。

    Clang :作为替代编译器,支持 C++17 特性(如 <filesystem> 头文件)。

  2. 构建工具

    CMake :管理 C++ 项目的构建流程。

    Maven:管理 Java 项目的依赖(如 FE 模块)。


三、成熟技术框架(除用户提及外)

  1. BDBJE(Berkeley DB Java Edition)

    功能 :用于 FE 节点的元数据持久化和集群选举,通过操作日志(EditLog)实现元数据同步。

    场景:支持多副本机制和自动故障恢复,确保集群高可用性。

  2. Thrift

    功能 :实现 RPC 通信,用于 FE 和 BE 节点间的交互(如查询任务下发、数据分片管理)。

    版本兼容性 :从 Doris 0.15 版本开始,Thrift 从 0.9 升级到 0.13,需通过 --clean 参数强制重新生成代码。

  3. SpringBoot

    功能:构建 FE 的 HTTP 服务,提供管控接口和监控指标。

  4. Xnio

    功能:基于 JBoss 的异步 IO 框架,实现 FE 的 MySQL 协议兼容,支持高并发连接处理。

  5. Google Mesa 与 Apache Impala 技术集成

    功能:Doris 融合了 Mesa 的增量数据更新机制和 Impala 的查询优化技术,实现高性能分析能力。

  6. MPP(大规模并行处理)架构

    功能:通过分布式节点并行执行查询任务,支持横向扩展至数百节点。


四、其他关键技术与生态集成

  1. 数据湖与外部存储

    支持框架:HDFS、S3、Iceberg、Hudi 等,实现联邦查询和存算分离架构(Doris 3.0+)。

  2. 流批一体

    集成工具:Flink、Kafka,支持实时数据导入和流式计算。

  3. 容器化部署

    工具 :Docker,官方提供预编译镜像(如 apache/doris:build-env-ldb-toolchain-latest)简化环境配置。


总结

Apache Doris 通过 Java 和 C++ 的双语言架构 实现了 FE 与 BE 的解耦,结合 GCC/Clang 编译器链BDBJE、Thrift、SpringBoot 等技术框架,构建了高性能、高可用的实时分析系统。其技术栈深度整合了分布式存储、计算优化和生态兼容能力,适用于大规模数据分析和实时数仓场景。

相关推荐
Scott9999HH4 小时前
【IIoT流量实战】蒸汽管道阀门全关却仍有流量?用 Python 实现涡街信号 FFT 频谱分析与温压全补偿积算网关,深度拆解靠谱的涡街流量计厂家硬核技术标准
开发语言·python
码智社5 小时前
AES加密原理详解及Java实现加解密实战
java·开发语言
AI云海5 小时前
python 列表、元组、集合和字典
开发语言·python
萧瑟余晖6 小时前
JDK 26 新特性详解
java·开发语言
马优晨7 小时前
Freemarker 完整讲解(后端 Java 模板引擎)
java·开发语言·freemarker·freemarker 完整讲解·freemarker模板引擎
人邮异步社区9 小时前
怎么把C语言学到精通?
c语言·开发语言
心平气和量大福大9 小时前
C#-WPF-控件-TextBox 数据绑定
开发语言·c#·wpf
ttwuai10 小时前
Cursor 生成 CRUD 后,Go 后台接口别只测 200:JWT、RBAC 和 tenant_id 怎么验
开发语言·后端·golang
এ慕ོ冬℘゜10 小时前
前端基础:什么是时间戳?JS获取时间戳三种方法与实战用途
开发语言·前端·javascript
执明wa10 小时前
LayoutInflater详解: XML是如何变成View的?
android·xml·开发语言·android studio