企业生产环境-麒麟V10（ARM架构）操作系统部署Zookeeper单节点&集群版

Linux运维技术栈2024-11-16 22:45

前言：ZooKeeper是一个分布式协调服务，它为分布式应用提供一致性服务，是Apache Hadoop的子项目。它被设计为易于编程，同时具有高性能和高可靠性。ZooKeeper提供了一个简单的接口和一些基本的文件系统操作，使得开发者能够快速地构建分布式应用。

以下是ZooKeeper的一些关键特性和概念：

  1. 一致性：ZooKeeper保证了分布式环境中数据的一致性。它使用原子操作来确保在分布式系统中数据的一致性。

  2. 可靠性：ZooKeeper通过数据复制和容错机制来保证服务的可靠性。即使部分服务器出现故障，ZooKeeper也能继续提供服务。

  3. 有序性：ZooKeeper能够保证操作的顺序性，即使在分布式环境中，也能确保操作按照特定的顺序执行。

  4. 实时性：ZooKeeper提供了实时的数据更新和监控机制，客户端可以实时获取到数据的变化。

  5. 层次命名空间：ZooKeeper使用层次化的命名空间（类似于文件系统的路径），这使得数据的组织和管理更加直观和方便。

  6. 数据模型：ZooKeeper的数据模型类似于文件系统，但它的数据节点（ZNodes）可以存储少量的数据（默认不超过1MB）。

  7. 会话管理：客户端与ZooKeeper服务器之间建立的会话可以保持一段时间，期间客户端可以执行各种操作。

  8. ACL（访问控制列表）：ZooKeeper支持细粒度的权限控制，可以对不同的ZNode设置不同的访问权限。

  9. 分布式同步：ZooKeeper提供了分布式锁、队列等同步原语，帮助分布式系统中的节点协调操作。

  10. Watcher机制：ZooKeeper允许客户端注册Watcher来监听ZNode的变化，当ZNode发生变化时，ZooKeeper会通知客户端。

ZooKeeper的应用场景非常广泛，包括但不限于：

  • 配置管理：在分布式系统中动态地管理配置信息。
  • 命名服务：为分布式系统中的服务提供命名和发现机制。
  • 分布式锁：在分布式系统中实现锁的功能，以避免多个节点同时执行相同的操作。
  • 集群管理：管理集群中的节点状态，如选举主节点等。
  • 队列管理：实现分布式队列，用于任务分发和负载均衡。

ZooKeeper通常作为大型分布式系统的基础设施之一，为系统提供必要的协调和同步服务。

部署zk3.9.2单机：

安装zk，需要jdk环境，参考博客xc安装jdk篇

第一步：上传apache-zookeeper-3.9.2-bin.tar.gz包

使用ssh终端工具登录到Zookeeper服务器上。本例中安装在/mpjava目录下

第二步：配置zookeeper

1、根据zookeeper服务器在zookeeper集群的顺序，建立zookeeper实例目录。(zookeeper集群必须是奇数台)

例如：zookeeper集群有三台服务器，本服务器是第1台服务器，则在/mpjava目录下创建目录zookeeper-3.9.2，依次类推。

命令：mkdir /mpjava/zookeeper-3.9.2

2、在zookeeper-3.9.2实例目录下创建data、dataLog

命令：mkdir data dataLog

3、在data目录下创建myid文件，填入服务实例的顺序

例如本服务器是第1台服务器，则在myid中填入1，依次类推。

4、将zookeeper-3.9.2-bin.tar.gz解压到zookeeper-3.9.2目录下面

命令：tar -zxvf zookeeper-3.9.2-bin.tar.gz

5、将/mpjava/zookeeper-3.9.2/apache-zookeeper-3.9.2-bin/conf/zoo_sample.cfg文件复制为zoo.cfg文件

命令：cd /mpjava/zookeeper-3.9.2/apache-zookeeper-3.9.2-bin/conf/ && cp zoo_sample.cfg zoo.cfg

6、按照下面的说明，编辑zoo.cfg文件，并保存

# The number of milliseconds of each tick											
tickTime=2000																	
# The number of ticks that the initial 												
# synchronization phase can take													
initLimit=10																	
# The number of ticks that can pass between 										
# sending a request and getting an acknowledgement									
syncLimit=5																	
# the directory where the snapshot is stored.										
dataDir=/mpjava/zookeeper-3.9.2/data												
dataLogDir=/mpjava/zookeeper-3.9.2/dataLog						
maxClientCnxns=5000															
4lw.commands.whitelist=*														
# the port at which the clients will connect											
clientPort=2181    （建议默认端口）
server.1=10.0.0.8:2888:3888

注释：

dataDir目录为本zookeeper实例的data目录										
dataLogDir目录为本zookeeper实例的dataLogDir目录								
clientPort为客户端连接端口，保持为2181不改变。								
server.1中的1为实例顺序，根据zookeeper实例序号，ip、port保持为127.0.0.1:2888:3888。

第三步：输入下面命令，执行zookeeper目录bin/zkServer.sh，启动zookeeper

命令：./zkServer.sh start

命令：jps

启动成功！

参考命令：

停止 ZooKeeper：        ./zkServer.sh stop
查看 ZooKeeper状态：   ./zkServer.sh status
查看 ZooKeeper 服务器的日志： tail -f $ZOOKEEPER_HOME/logs/zookeeper.log

配置单节点开机自启：

命令：vim /etc/rc.d/rc.local

添加：

export JAVA_HOME=/usr/java/jdk1.8.0_421
export PATH=$JAVA_HOME/bin:$PATH
touch /var/lock/subsys/local
/mpjava/zookeeper-3.9.2/apache-zookeeper-3.9.2-bin/bin/./zkServer.sh start

启动 rc-local：

命令：systemctl restart rc-local

命令：systemctl status rc-local

测试：export JAVA_HOME=""

命令：/etc/rc.d/rc.local start

然后reboot

部署zk3.9.2集群：

安装zk，需要jdk环境，参考博客xc安装jdk篇

部署准备工作：
第一步：修改 /etc/hosts文件

三节点：vim /etc/hosts

添加：

10.0.0.1     GH-PROD-MP-1
10.0.0.2     GH-PROD-MP-3
10.0.0.3     GH-PROD-MP-2

第二步：安装ntpdate并配置时钟同步

sudo yum update
sudo yum install ntpdate
时钟同步命令：ntpdate pool.ntp.org

第三步：关闭防火墙

修改vim /etc/sysconfig/selinux

原文件：SELINUX=permissive

修改设置 SELINUX=disabled

命令：systemctl disable firewalld

命令：systemctl stop firewalld

**第四步：将部署组件解压缩分发到各个节点 **

命令： mkdir /usr/lib/hadoop

命令： tar -zxvf apache-zookeeper-3.9.2-bin.tar.gz

命令： mv apache-zookeeper-3.9.2-bin zookeeper-3.9.2

第六步：修改环境变量（即在文件~/.bash_profile尾部追加下面的声明语句）

命令：vim ~/.bash_profile

export ZOOKEEPER_HOME=/usr/lib/hadoop/zookeeper-3.9.2

export PATH=$PATH:$ZOOKEEPER_HOME/bin									
export ZOO_LOG_DIR=/var/hadoop/zk/logs

第六步：重启服务器

命令：reboot

部署zookeeper 集群 ：
第一步：创建目录

1、创建临时目录/var/hadoop/zk/tmp（每个节点都需要配置）

2、创建日志目录/var/hadoop/zk/logs（每个节点都需要配置）

3、创建数据节点目录/var/hadoop/zk/data （每个节点都需要配置）

命令：mkdir -p /var/hadoop/zk/tmp /var/hadoop/zk/logs /var/hadoop/zk/data

第二步：修改$ZOOKEEPER_HOME/conf/zoo.cfg（在 GH-PROD-MP-1）

从模板zook_sample.cfg 复制一份配置文件zoo.cfg

命令：cp $ZOOKEEPER_HOME/conf/zoo_sample.cfg $ZOOKEEPER_HOME/conf/zoo.cfg

修改配置文件：

tickTime=6000			
dataDir=/var/hadoop/zk/data		#数据存储路径
dataLogDir=/var/hadoop/zk/logs	    #日志路径	
autopurge.purgeInterval=1			#快照自动清理频率，单位：小时		
autopurge.snapRetainCount=3		#保存快照数量	
server.0=GH-PROD-MP-1:2888:3888
server.1=GH-PROD-MP-2:2888:3888
server.2=GH-PROD-MP-3:2888:3888

第三步：编辑myid

GH-PROD-MP-1执行：echo 0 > /var/hadoop/zk/data/myid
GH-PROD-MP-2执行：echo 1 > /var/hadoop/zk/data/myid
GH-PROD-MP-3执行：echo 2 > /var/hadoop/zk/data/myid

第五步：同步配置文件到集群到其他节点（在 GH-PROD-MP-1）

命令：tar -czf conf.tar.gz conf/

命令：scp -r $ZOOKEEPER_HOME/conf.tar.gz GH-PROD-MP-2:$ZOOKEEPER_HOME/

命令：scp -r $ZOOKEEPER_HOME/conf.tar.gz GH-PROD-MP-3:$ZOOKEEPER_HOME/

第六步：启动zookeeper集群

1、在GH-PROD-MP-1，GH-PROD-MP-2，GH-PROD-MP-3分别执行启动命令：zkServer.sh start

2、验证集群启动成功，分别输入：jps

GH-PROD-MP-1

GH-PROD-MP-2

GH-PROD-MP-3

配置开机自动：
这里推荐几种不同方法（这里一和二不写具体配置了，优先推荐方法二，便于运维管理），如果无法生效就用方法三：

方法一：crontab -e
方法二：/etc/systemd/system/zookeeper.service

方法三：

命令：vim /etc/rc.d/rc.local

添加：

export JAVA_HOME=/usr/java/jdk1.8.0_421
export PATH=$JAVA_HOME/bin:$PATH
touch /var/lock/subsys/local

#!/bin/sh -e
if ! pgrep -x "zkServer.sh" > /dev/null
then
    /usr/lib/hadoop/zookeeper-3.9.2/bin/zkServer.sh start
fi
exit 0

加执行权限： chmod +x /etc/rc.d/rc.local

参考命令，启动rc-local：systemctl restart rc-local

查看 rc-local状态：systemctl status rc-local

然后reboot验证

相关推荐
风兮雨露1 小时前
Linux(CentOS 7) yum一键安装mysql8
linux·服务器·mysql
算力魔方AIPC1 小时前
在Ubuntu 24.04 LTS上安装飞桨PaddleX
linux·ubuntu·paddlepaddle
天草二十六_简村人1 小时前
spring-data-elasticsearch 3.2.4 实现桶bucket排序去重，实现指定字段的聚合搜索
java·spring boot·后端·spring·elasticsearch·架构·jenkins
山___1 小时前
Centos 9 安装 PostgreSQL 16 并支持远程访问
linux·运维·centos
weixin_438197381 小时前
k8s服务内容滚动升级以及常用命令介绍
linux·运维·docker·云原生·容器·kubernetes
祭の2 小时前
什是服务器器和Apache Tomcat介绍（笔记）
运维·服务器·笔记
抹茶咖啡2 小时前
IT运维的365天--019 用php做一个简单的文件上传工具
运维·php
拔剑纵狂歌2 小时前
ZooKeeper单机、集群模式搭建教程
分布式·后端·学习·zookeeper·中间件·架构·服务发现
热门推荐
01聊聊 Python 中的同步原语，为什么有了 GIL 还需要同步原语02Ubuntu 20.04使用Livox mid 360 测试 FAST_LIO03【HarmonyOS】HUAWEI DevEco Studio 下载地址汇总04好数（蓝桥杯）05软件工程从理论到实践客观题汇总(头歌第一章至第八章)06组基轨迹建模 GBTM的介绍与实现（Stata 或 R）07RAG 实践- Ollama+RagFlow 部署本地知识库08全面解析：构建基于深度学习的安全帽检测系统（UI界面+YOLO代码+数据集）09基于YOLOv10深度学习的CT扫描图像肾结石智能检测系统【python源码+Pyqt5界面+数据集+训练代码】深度学习实战、目标检测10Vue3优化之实现懒加载和子组件异步加载