部署Doris存算一体集群

部署Doris存算一体集群

1. 下载 doris安装包

https://doris.apache.org/zh-CN/download

2. 安装jdk(所有节点执行)

2.1 解压

bash 复制代码
tar -zxvf jdk-17.0.17_linux-x64_bin.tar.gz  -C /data/java

配置环境变量

bash 复制代码
vim  /etc/profile

增加如下配置

bash 复制代码
export JAVA_HOME=/data/java/jdk-17.0.17
export PATH=$JAVA_HOME/bin:$PATH

重载配置文件

bash 复制代码
source /etc/profile

3. 系统参数配置(所有节点执行)

3.1 关闭 swap 分区

临时关闭

bash 复制代码
swapoff -a

永久关闭

注释掉 /etc/fstab 中的 swap 分区

3.2 关闭系统透明大页

临时关闭

bash 复制代码
echo madvise > /sys/kernel/mm/transparent_hugepage/enabled
echo madvise > /sys/kernel/mm/transparent_hugepage/defrag

永久关闭

bash 复制代码
cat >> /etc/rc.d/rc.local << EOF
   echo madvise > /sys/kernel/mm/transparent_hugepage/enabled
   echo madvise > /sys/kernel/mm/transparent_hugepage/defrag
EOF
bash 复制代码
chmod +x /etc/rc.d/rc.local

3.3 增加虚拟内存区域

bash 复制代码
cat >> /etc/sysctl.conf << EOF
vm.max_map_count = 2000000
EOF
bash 复制代码
sysctl -p

3.4 网络连接溢出时自动重置新连接

bash 复制代码
cat >> /etc/sysctl.conf << EOF
net.ipv4.tcp_abort_on_overflow=1
EOF
bash 复制代码
sysctl -p

3.5 增加系统的最大文件句柄数

bash 复制代码
vi /etc/security/limits.conf 

增加如下配置

bash 复制代码
* soft nofile 1000000
* hard nofile 1000000

3.6 安装并配置 NTP 服务

bash 复制代码
sudo systemctl start ntpd.service
sudo systemctl enable ntpd.service

4. 解压doris安装包(所有节点执行)

bash 复制代码
tar -zxvf apache-doris-3.1.4-bin-x64.tar.gz   -C /data/doris

5. 配置 FE 节点(所有节点执行)

5.1 创建元数据存储目录

bash 复制代码
mkdir -p  /data/doris/doris-data/doris-meta 

5.2 修改 fe/conf/fe.conf

增加如下配置

bash 复制代码
# 本机 IP 段
priority_networks=192.169.188.0/24
# 数据存储目录必须存在且可写
storage_root_path=/data/doris/doris-data/doris-meta
# jdk
JAVA_HOME = /data/java/jdk-17.0.17
# 每个FE节点允许的最大并发连接数
qe_max_connection = 4096
# 单个用户允许建立的最大并发连接数
max_conn_per_user = 1024

修改JAVA_OPTS_FOR_JDK_17的内存设置

6. 配置 BE 节点(所有机器)

6.1 创建数据存储目录

bash 复制代码
mkdir -p /data/doris/doris-data/storage

5.2 修改 be/conf/be.conf

增加如下配置

bash 复制代码
storage_root_path=/data/doris/doris-data/storage
priority_networks=192.169.188.0/24
JAVA_HOME=/data/java/jdk-17.0.17

暂时没有加,后续可以加

bash 复制代码
enable_java_support = true
enable_stream_load_record = true
enable_single_replica_load = true

7. 启动 FE Master 节点(Master节点)

bash 复制代码
/data/doris/apache-doris-3.1.4-bin-x64/fe/bin/start_fe.sh --daemon

8. 安装mysql客户端 (Master节点执行)

bash 复制代码
yum install mysql -y

使用mysql客户端连接doris

bash 复制代码
mysql -h192.169.188.26  -P9030  -uroot 

9. 注册 FE Follower节点(Master节点执行)

sql 复制代码
ALTER SYSTEM ADD FOLLOWER "192.169.188.27:9010";
ALTER SYSTEM ADD FOLLOWER "192.169.188.28:9010";

10. 启动Follower节点(其他所有的Follower节点执行)

bash 复制代码
/data/doris/apache-doris-3.1.4-bin-x64/fe/bin/start_fe.sh --helper 192.169.188.26:9010 --daemon

11. 查看节点状态(Master节点执行)

bash 复制代码
mysql -h192.169.188.26  -P9030  -uroot 
sql 复制代码
show frontends;

12. FE 集群中注册 BE 节点(Master节点执行)

sql 复制代码
ALTER SYSTEM ADD BACKEND "192.169.188.26:9050";
ALTER SYSTEM ADD BACKEND "192.169.188.27:9050";
ALTER SYSTEM ADD BACKEND "192.169.188.28:9050";

13. 启动所有 BE 服务(所有节点执行)

bash 复制代码
/data/doris/apache-doris-3.1.4-bin-x64/be/bin/start_be.sh --daemon

14. 通过命令查看 BE 节点的状态(Master节点执行)

bash 复制代码
mysql -h192.169.188.26  -P9030  -uroot 
sql 复制代码
 show backends;

15. 修改root密码(Master节点执行)

在创建 Doris 集群时,系统会自动创建一个名为 root 的用户,并默认设置其密码为空。为了提高安全性,建议在集群创建后立即为 root 用户设置一个新密码。

sql 复制代码
-- check the current user
select user();  
+------------------------+  
| user()                 |  
+------------------------+  
| 'root'@'192.169.188.26' |  
+------------------------+  
     
-- modify the password for current user
SET PASSWORD = PASSWORD('doris_new_passwd');

16. 创建测试表并插入数据(Master节点执行)

17. 常用操作

  1. 查看 FE 节点信息
sql 复制代码
SHOW PROC '/frontends';
或
show frontends;
  1. 查看 FE 节点信息
sql 复制代码
SHOW PROC '/backends';
或
show backends;
  1. 查询doris版本
sql 复制代码
SHOW VARIABLES LIKE '%version_comment%';
  1. 关键端口说明
配置项 默认值 作用
http_port = 8030 8030 HTTP 服务端口,用于访问 Doris 的 Web UI 界面,进行集群监控和管理。
rpc_port = 9020 9020 RPC 端口,用于 FE 与 BE (Backend) 节点之间的内部通信。
query_port = 9030 9030 MySQL 协议兼容端口,客户端(如 MySQL 客户端、JDBC)通过此端口连接 Doris 执行 SQL。
edit_log_port = 9010 9010 Edit Log 端口,用于 FE 节点之间进行元数据同步。
相关推荐
何中应3 天前
Doris部署&连接
大数据·数据库·时序数据库·doris
喵了几个咪12 天前
Apache Doris 4.x 在量化交易中的完整应用实践
ai·doris·量化交易
piepis13 天前
Doris 快速写入原理
doris
AllData公司负责人22 天前
高效同步!离线开发平台(DolphinScheduler) 实现Apache IotDB物联网数据同步到 Doris
apache·doris·iotdb
jasnet_u1 个月前
Doris的集群搭建(3FE+3BE)
doris·mpp
家有娇妻张兔兔1 个月前
Apache Doris 副本故障排查与修复实战指南
apache·doris·时序库
秦拿希2 个月前
【doris】doris部署
doris
linweidong2 个月前
别让老板等:千人并发下的实时大屏极致性能优化实录
jmeter·clickhouse·性能优化·sentinel·doris·物化视图·离线数仓
北方的银狐-Zero2 个月前
记录第一次部署银河麒麟环境Apache Doris单机部署
sql·database·doris