DolphinScheduler开发者必看!IDEA本地调试实战指南

本文整系统梳理了在IDEA中搭建Apache DolphinScheduler本地调试环境的通用流程,包括环境准备、远吗配置、服务启动等核心步骤,供大家参考。

1、基础组件准备

arduino 复制代码
1、JDK : v1.8.x (当前暂不支持 jdk 11)
2、Maven : v3.5+
3、v18.19.1+,安装pnpm
// 全局安装
npm install pnpm -g
//查看源
pnpm config get registry
//切换淘宝源
pnpm config set registry https://registry.npmmirror.com/
 
4、Zookeeper : 3.6.3(大数据平台用的就是这个zookeeper版本,ds复用大数据平台的zookeeper)。使用最新DS,里面使用的是 curator 5.3.0
Curator 5.0 支持zookeeper3.6.X,不再支持 zookeeper3.4.X
Curator 4.X 支持zookeeper3.5.X,软兼容3.4.X
Curator 2.X 支持zookeeper3.4.X
5、mysql> select version();
+-----------+
| version() |
+-----------+
| 5.7.44    |
+-----------+
1 row in set (0.00 sec)

2、初始化

2.1、初始化数据库

bash 复制代码
source /Users/xxx/IdeaProjects/dolphinscheduler/dolphinscheduler-dao/src/main/resources/sql/dolphinscheduler_mysql.sql;

2.2、配置common.properties重点配置

ini 复制代码
# 本地目录,存放封装的脚步
data.basedir.path=/tmp/dolphinscheduler

# 选择存储介质,比如说HDFS;其中资源中心的资源以及租户目录
resource.storage.type=HDFS

# 资源中心的根目录
resource.storage.upload.base.path=/dolphinscheduler

# HDFS操作使用哪个用户,一般使用hdfs用户
resource.hdfs.root.user=hdfs

# hdfs的defaultFS,如果是ha模式,core-site.xml和hdfs-site.xml放入resources下,这里填写hdfs ha路径
resource.hdfs.fs.defaultFS=hdfs://10.253.26.85:8020

# 是否为开发模式,不管生产和测试情况,我建议开启。好定位问题。不过需要定时删除,不然会有很多jar包占用磁盘空间
development.state=true

# yarn端口
resource.manager.httpaddress.port=8088
# 如果yarn是HA,这里配置yarn的多个ip地址,用逗号分隔。非HA模式,不动
yarn.resourcemanager.ha.rm.ids=
# 如果是单个yarn,ds1直接修改为yarn的ip地址。如果是HA模式,这里不动
yarn.application.status.address=http://ds1:%s/ws/v1/cluster/apps/%s

2.3、配置各个服务的application.yaml

注意: 主要配置 zookeeper连接地址和mysql地址即可,不赘述

2.4、配置各个服务的logback-spring.xml

设置 <appender-ref ref="STDOUT"/> 控制台输出。

3、组件启动

php 复制代码
1、MasterServer:在 Intellij IDEA 中执行 org.apache.dolphinscheduler.server.master.MasterServer 中的 main 方法,并配置 VM Options -Dlogging.config=classpath:logback-spring.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active=mysql
2、WorkerServer:在 Intellij IDEA 中执行 org.apache.dolphinscheduler.server.worker.WorkerServer 中的 main 方法,并配置 VM Options -Dlogging.config=classpath:logback-spring.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active=mysql
3、ApiApplicationServer:在 Intellij IDEA 中执行 org.apache.dolphinscheduler.api.ApiApplicationServer 中的 main 方法,并配置 VM Options -Dlogging.config=classpath:logback-spring.xml -Dspring.profiles.active=api,mysql。启动完成可以浏览 Open API 文档,地址为 http://localhost:12345/dolphinscheduler/swagger-ui/index.html
4、前端
cd dolphinscheduler-ui
pnpm install
pnpm run dev
 
报错入下 :
qiaozhanwei@ dolphinscheduler-ui % pnpm run dev
> dolphinscheduler-ui@0.0.0 dev /Users/qiaozhanwei/IdeaProjects/dolphinscheduler/dolphinscheduler-ui
> vite
 
error when starting dev server:
Error: listen EADDRNOTAVAIL: address not available 192.168.1.4:5173
    at Server.setupListenHandle [as _listen2] (node:net:1313:21)
    at listenInCluster (node:net:1378:12)
    at GetAddrInfoReqWrap.doListen [as callback] (node:net:1516:7)
    at GetAddrInfoReqWrap.onlookup [as oncomplete] (node:dns:73:8)
 
代码修改 :
mac 在终端找ip地址
输入命令行:ipconfig getifaddr en0
找到ip地址后进入项目中找到vite.config.ts文件, 修改如下:
import { defineConfig } from 'vite'
import vue from '@vitejs/plugin-vue'
 
// https://vitejs.dev/config/
export default defineConfig({
  plugins: [vue()],
  base: '/',
  server: {
      host: '192.168.9.178',
      port: 5173,
      https: false,
      open: true,
        hmr: {
              protocol: 'ws',
              host: '192.168.9.178'
          },
  }
})
 
登录地址
http://10.56.59.243:5173/login,输入 admin/dolphinscheduler123 即可完成登录

4、2.x版本组件启动

ini 复制代码
api server
-Dlogging.config=classpath:logback-api.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active="default,api,mysql"

master
-Dlogging.config=classpath:logback-master.xml -Ddruid.mysql.usePingMethod=false -Dspring.profiles.active="default,master,mysql"

worker
-Dlogging.config=classpath:logback-wo

转载自Journey 原文链接:segmentfault.com/a/119000004...

本文由 白鲸开源科技 提供发布支持!

相关推荐
用户3610588626122 小时前
Flink基础之有界与无界流详解:批流一体的底层逻辑
大数据·flink
DPS普轩·真空灌胶机专家3 小时前
普轩科技亮相第四届西安军工展 | 真空灌胶专家,展位 2-003
大数据·人工智能·科技·机器人·pcb工艺
崖边看雾3 小时前
MySQL——SQL 经典练习题:学生选课成绩查询(附详细注释)
大数据·数据库·sql·mysql
baopixiaoz3 小时前
BeeQuant × BeeAgent:AI驱动智能交易
大数据·人工智能·python·区块链
浔溺3 小时前
al+大数据每日学习笔记33
大数据·笔记·学习
hfywmsj3 小时前
广州餐饮铺位招租的选址架构:流量入口与成本函数分析
java·大数据·jvm·广州餐饮铺位招租
ACP广源盛139246256734 小时前
M6/M5 Pro Mac mini 端侧 AI 落地@ACP#IX6024 PCIe2.0 交换芯片在轻量化 AI 服务中的机会与应用场景
大数据·数据库·人工智能·嵌入式硬件·macos·开源
my05924 小时前
跳出单一信息工具局限:奥米豆构建认知与心智并行的学习范式
大数据·人工智能·python·学习
qq_425516184 小时前
一句话生成PPT的录音APP:会议材料生成能力对比
大数据·人工智能·powerpoint
山峰哥4 小时前
造价算量系统SQL优化,慢查询从9秒压到35毫秒‌
大数据·数据库·sql·编辑器·深度优先