利用外部Postgresql及zookeeper,启动Apache Dolphinscheduler3.1.9

Apache DolphinScheduler 是一个分布式易扩展的可视化DAG工作流任务调度开源系统。适用于企业级场景,提供了一个可视化操作任务、工作流和全生命周期数据处理过程的解决方案。

Apache DolphinScheduler 旨在解决复杂的大数据任务依赖关系,并为应用程序提供数据和各种 OPS 编排中的关系。 解决数据研发ETL依赖错综复杂,无法监控任务健康状态的问题。 DolphinScheduler 以 DAG(Directed Acyclic Graph,DAG)流式方式组装任务,可以及时监控任务的执行状态,支持重试、指定节点恢复失败、暂停、恢复、终止任务等操作。

模块介绍

dolphinscheduler-master master模块,提供工作流管理和编排服务。

dolphinscheduler-worker worker模块,提供任务执行管理服务。

dolphinscheduler-alert 告警模块,提供 AlertServer 服务。

dolphinscheduler-api web应用模块,提供 ApiServer 服务。

dolphinscheduler-common 通用的常量枚举、工具类、数据结构或者基类

dolphinscheduler-dao 提供数据库访问等操作。

dolphinscheduler-extract extract模块,包含master/worker/alert的sdk

dolphinscheduler-service service模块,包含Quartz、Zookeeper、日志客户端访问服务,便于server模块和api模块调用

dolphinscheduler-ui 前端模块

1.环境

CPU:Hygon C86 7285 32-core Processor

操作系统:麒麟操作系统

Docker版本:28.2.2

Docker compose版本:2.37.2

Dolphinscheduler版本:3.1.9

​​​​​​​1.1网络要求

DolphinScheduler正常运行提供如下的网络端口配置:

|----------------------|--------------|-------------------|
| 组件 | 默认端口 | 说明 |
| MasterServer | 5678 | 非通信端口,只需本机端口不冲突即可 |
| WorkerServer | 1234 | 非通信端口,只需本机端口不冲突即可 |
| ApiApplicationServer | 12345 | 提供后端通信端口 |

2.docker版本的postgresql

docker exec -it postgis /bin/sh

#cd /var/lib/postgresql/data

#mkdir dss

chown -R postgres:postgres /var/lib/postgresql/data/dss

2.1创建数据库及用户

在postgresql中执行

----创建表空间

CREATE TABLESPACE dss_space

OWNER postgres

LOCATION '/var/lib/postgresql/data/dss';

//对应docker中的文件路径 /var/lib/postgresql/data

ALTER TABLESPACE dss_space

OWNER TO postgres;

----创建数据库

CREATE DATABASE dss

WITH

OWNER = postgres

TEMPLATE = template0

ENCODING = 'UTF8'

LC_COLLATE = 'C'

LC_CTYPE = 'C'

TABLESPACE = dss_space

CONNECTION LIMIT = -1;

---创建用户及赋权限

CREATE USER dss WITH PASSWORD 'Sinops1234~';

GRANT ALL PRIVILEGES ON DATABASE dss TO dss;

GRANT ALL PRIVILEGES ON all tables in schema public TO dss;

2.2导入表结构

表结构地址,表结构

​​​​​​​3.启动zookeeper容器

docker run --privileged=true -itd --name zookeeper -p 2181:2181 -e TZ=Asia/Shanghai zookeeper:3.9.3

4.启动dolphinscheduler-standalone-server

docker run --privileged=true -itd --name dss -p 12345:12345 -p 25333:25333 -e DATABASE="postgresql" -e SPRING_DATASOURCE_URL="jdbc:postgresql://192.168.1.4:5432/dss" -e SPRING_DATASOURCE_USERNAME="dss" -e SPRING_DATASOURCE_PASSWORD="Sinops1234~" -e SPRING_JACKSON_TIME_ZONE="UTC" -e TZ=Asia/Shanghai -e dss_ZOOKEEPER_CONNECT_STRING="192.168.1.5:2181" apache/dolphinscheduler-standalone-server:3.1.9

5. 界面

相关推荐
有想法的py工程师2 小时前
PostgreSQL + Debezium CDC 踩坑总结
数据库·postgresql
cheniie3 小时前
pgsql 复合类型指南
postgresql·复合类型
一世琉璃白_Y3 小时前
pg配置国内数据源安装
linux·python·postgresql·centos
脸大是真的好~4 小时前
分布式锁-基于redis实现分布式锁(不推荐)- 改进利用LUA脚本(不推荐)前面都是原理 - Redisson分布式锁
redis·分布式·lua
liuniansilence5 小时前
🚀 高并发场景下的救星:BullMQ如何实现智能流量削峰填谷
前端·分布式·消息队列
山沐与山6 小时前
【数据库】PostgreSQL架构与索引深度剖析
数据库·postgresql·架构
xiliuhu6 小时前
PgSQL高级用法
postgresql
WZTTMoon7 小时前
Apache Tomcat 体系结构深度解析
java·tomcat·apache
fiveym7 小时前
Apache HTTP 服务搭建全攻略
网络协议·http·apache