AllData数据中台集成开源项目Apache Doris建设实时数仓平台

企业痛点: Doris实时数据仓库的管理软件很少,我们通过集成开源项目Apache Doris,实现查看与管理Doris数据库的实时数仓平台。

💎 Apache Doris实时数仓:https://github.com/apache/doris

💎 Apache Doris官方文档:https://doris.apache.org


Apache Doris是什么?

Apache Doris 是一个基于 MPP 架构的易用、高性能、实时的分析型数据库,以其极速和易用性而闻名。它仅需亚秒级响应时间即可返回海量数据下的查询结果,不仅可以支持高并发的点查询场景,也能支持高吞吐的复杂分析场景。

所有这些特性使得 Apache Doris 成为报表分析、即席查询、统一数仓构建、数据湖查询加速等场景的理想工具。在 Apache Doris 上,用户可以构建各种应用,如用户行为分析、AB 测试平台、日志检索分析、用户画像分析、订单分析等。




功能菜单一:通过AllData数据平台的能力,创建大数据集群

(1)打开数据平台

打开数据平台(datasophon),集群创建

(2)创建集群

点击创建集群按钮,输入集群信息

(3)创建完成

成功创建大数据集群

功能菜单二:通过配置大数据集群安装Doris

提供大数据组件譬如Doris启动,停止,安装,卸载,扩容,缩容的能力

(1)安装主机

点击配置按钮,配置刚刚创建好的集群,安装主机

(2)主机环境校验

成功安装主机,并完成主机Agent分发

(3)主机Agent分发

平台开始分发worker服务到目标主机后续worker服务将负责接收平台发出的指令,来安装其他服务

(4)等待分发

可以查看服务器具体分发进度,该步骤会受网络速度影响

(5)分发成功

继续安装Doris服务

(6)分发成功

可以看到服务器worker服务也启动了

功能菜单三:AllData数据中台管理大数据组件

一站式安装大数据组件Doris集群

(1)选择服务

选中Doris,安装实时数仓集群,安装基础服务

(2)分配服务master角色

页面一站式配置Doris集群参数,配置成功!(默认即可,也可以修改主机)

(3)分配服务Worker与Client角色

至此,成功安装大数据仓库Doris

功能菜单四:Doris集群安装-服务配置

(1)服务配置

成功安装大数据集群,安装大数据组件Doris集群(参考如下配置)

(2)安装并启动服务

等待安装,该步骤同样受网络速度影响

(3)安装完成

(4)管理集群




(5)成功创建Doris数据仓库平台,包含FE/BE节点

(6)通过AllData数据源平台,管理与连接新的大数据Doris集群

(7)通过AllData数据资产平台,增加Doris数据库,统一收集数仓统计数据

(8)通过AllData数据资产平台,查看实时数仓平台Doris数据资产统计

(9)通过AllData数据库同步中台,同步Mysql数据到Doris(自动创建表和插入数据)


(10)命令行测试导入数据库

可以在数据源平台执行以下大数据SQL



(11)建设成功

实时数仓平台-同步数据结果成功

功能菜单五:实时数仓平台能力展示

涵盖实时数仓分析,数仓系统,数仓日志,数仓监控,数仓会话,数仓配置等能力

(1)实时数仓分析

1.1 数仓分析



1.2 支持直接通过文件导入数据到Doris表

(2)数仓系统

2.1 直接查询目前大数据仓库Doris集群-BE数据节点,存活状态为True

(3)数仓监控

(4)数仓会话

(5)数仓配置

(6)服务器信息

(7)实时数仓平台-创建数据表成功

AllData 大数据产品 × Apache Doris 开源项目

我们产品通过集成 Apache Doris 开源项目,并使用 Apache Doris 存储实时与离线数据,提供产品功能让用户可以管理大数据实时数仓。

杭州奥零数据科技官网:

http://www.aolingdata.com

相关推荐
AM越.4 分钟前
助睿:!!零代码解决!!订单利润分流数据加工o(* ̄▽ ̄*)ブ
数据仓库·笔记·etl·助睿
Jing_jing_X18 分钟前
MCP (一)是什么?一文讲清 AI 如何连接现实世界
数据库·人工智能·oracle
阿凡观察站26 分钟前
2026年工程项目管理软件推荐:这5款主流产品值得关注
大数据·数据库·低代码·finebi·简道云
qq 137401861131 分钟前
ISTA 3A 2008 包裹运输包装:安全性测试 + 质量测试全流程实操指南
大数据
咸鱼翻身小阿橙38 分钟前
Qt QML调用C++注册类
java·c++·qt
摇滚侠42 分钟前
自动补全 黑马 Elasticsearch 全套教程,黑马旅游网案例
大数据·elasticsearch·搜索引擎
Justice Young1 小时前
Flink第三章:Flink运行及部署
大数据·flink
逸Y 仙X1 小时前
文章二十一:ElasticSearch 词项查询与调度查询实战
java·大数据·数据库·elasticsearch·搜索引擎
Bechamz1 小时前
大数据开发学习Day25
java·大数据·学习
AI周红伟1 小时前
AI学习第一课:OpenClaw企业实战应用工作坊
大数据·人工智能