AllData数据中台集成开源项目Apache Doris建设实时数仓平台

企业痛点: Doris实时数据仓库的管理软件很少,我们通过集成开源项目Apache Doris,实现查看与管理Doris数据库的实时数仓平台。

💎 Apache Doris实时数仓:https://github.com/apache/doris

💎 Apache Doris官方文档:https://doris.apache.org


Apache Doris是什么?

Apache Doris 是一个基于 MPP 架构的易用、高性能、实时的分析型数据库,以其极速和易用性而闻名。它仅需亚秒级响应时间即可返回海量数据下的查询结果,不仅可以支持高并发的点查询场景,也能支持高吞吐的复杂分析场景。

所有这些特性使得 Apache Doris 成为报表分析、即席查询、统一数仓构建、数据湖查询加速等场景的理想工具。在 Apache Doris 上,用户可以构建各种应用,如用户行为分析、AB 测试平台、日志检索分析、用户画像分析、订单分析等。




功能菜单一:通过AllData数据平台的能力,创建大数据集群

(1)打开数据平台

打开数据平台(datasophon),集群创建

(2)创建集群

点击创建集群按钮,输入集群信息

(3)创建完成

成功创建大数据集群

功能菜单二:通过配置大数据集群安装Doris

提供大数据组件譬如Doris启动,停止,安装,卸载,扩容,缩容的能力

(1)安装主机

点击配置按钮,配置刚刚创建好的集群,安装主机

(2)主机环境校验

成功安装主机,并完成主机Agent分发

(3)主机Agent分发

平台开始分发worker服务到目标主机后续worker服务将负责接收平台发出的指令,来安装其他服务

(4)等待分发

可以查看服务器具体分发进度,该步骤会受网络速度影响

(5)分发成功

继续安装Doris服务

(6)分发成功

可以看到服务器worker服务也启动了

功能菜单三:AllData数据中台管理大数据组件

一站式安装大数据组件Doris集群

(1)选择服务

选中Doris,安装实时数仓集群,安装基础服务

(2)分配服务master角色

页面一站式配置Doris集群参数,配置成功!(默认即可,也可以修改主机)

(3)分配服务Worker与Client角色

至此,成功安装大数据仓库Doris

功能菜单四:Doris集群安装-服务配置

(1)服务配置

成功安装大数据集群,安装大数据组件Doris集群(参考如下配置)

(2)安装并启动服务

等待安装,该步骤同样受网络速度影响

(3)安装完成

(4)管理集群




(5)成功创建Doris数据仓库平台,包含FE/BE节点

(6)通过AllData数据源平台,管理与连接新的大数据Doris集群

(7)通过AllData数据资产平台,增加Doris数据库,统一收集数仓统计数据

(8)通过AllData数据资产平台,查看实时数仓平台Doris数据资产统计

(9)通过AllData数据库同步中台,同步Mysql数据到Doris(自动创建表和插入数据)


(10)命令行测试导入数据库

可以在数据源平台执行以下大数据SQL



(11)建设成功

实时数仓平台-同步数据结果成功

功能菜单五:实时数仓平台能力展示

涵盖实时数仓分析,数仓系统,数仓日志,数仓监控,数仓会话,数仓配置等能力

(1)实时数仓分析

1.1 数仓分析



1.2 支持直接通过文件导入数据到Doris表

(2)数仓系统

2.1 直接查询目前大数据仓库Doris集群-BE数据节点,存活状态为True

(3)数仓监控

(4)数仓会话

(5)数仓配置

(6)服务器信息

(7)实时数仓平台-创建数据表成功

AllData 大数据产品 × Apache Doris 开源项目

我们产品通过集成 Apache Doris 开源项目,并使用 Apache Doris 存储实时与离线数据,提供产品功能让用户可以管理大数据实时数仓。

杭州奥零数据科技官网:

http://www.aolingdata.com

相关推荐
敖正炀2 小时前
StampedLock 详解
java·后端
白宇横流学长2 小时前
助农产品在线交易平台设计与实现【源码+文档】
java
Dream of maid2 小时前
Mysql(2)DML
android·数据库·mysql
菜程序2 小时前
2026年MySQL安装教程(超详细)
数据库·mysql
han_hanker2 小时前
Spring Boot 如何读取 application.yml 作为配置
java·spring boot·后端
Milu_Jingyu2 小时前
sqlite3_prepare_v2 与 sqlite3_exec 在 SQLite 中的核心区别
java·数据库·sqlite
神の愛2 小时前
针对“单个功能操作数据库”要不要加 @Transactional,
数据库
fly spider2 小时前
MySQL执行流程详解
数据库·mysql
计算机学姐2 小时前
基于SpringBoot的充电桩预约管理系统【阶梯电费+个性化推荐+数据可视化】
java·vue.js·spring boot·后端·mysql·信息可视化·mybatis