企业生产环境-麒麟V10（ARM架构）操作系统部署Zookeeper单节点&集群版

Linux运维技术栈2024-11-16 22:45

前言：ZooKeeper是一个分布式协调服务，它为分布式应用提供一致性服务，是Apache Hadoop的子项目。它被设计为易于编程，同时具有高性能和高可靠性。ZooKeeper提供了一个简单的接口和一些基本的文件系统操作，使得开发者能够快速地构建分布式应用。

以下是ZooKeeper的一些关键特性和概念：

  1. 一致性：ZooKeeper保证了分布式环境中数据的一致性。它使用原子操作来确保在分布式系统中数据的一致性。

  2. 可靠性：ZooKeeper通过数据复制和容错机制来保证服务的可靠性。即使部分服务器出现故障，ZooKeeper也能继续提供服务。

  3. 有序性：ZooKeeper能够保证操作的顺序性，即使在分布式环境中，也能确保操作按照特定的顺序执行。

  4. 实时性：ZooKeeper提供了实时的数据更新和监控机制，客户端可以实时获取到数据的变化。

  5. 层次命名空间：ZooKeeper使用层次化的命名空间（类似于文件系统的路径），这使得数据的组织和管理更加直观和方便。

  6. 数据模型：ZooKeeper的数据模型类似于文件系统，但它的数据节点（ZNodes）可以存储少量的数据（默认不超过1MB）。

  7. 会话管理：客户端与ZooKeeper服务器之间建立的会话可以保持一段时间，期间客户端可以执行各种操作。

  8. ACL（访问控制列表）：ZooKeeper支持细粒度的权限控制，可以对不同的ZNode设置不同的访问权限。

  9. 分布式同步：ZooKeeper提供了分布式锁、队列等同步原语，帮助分布式系统中的节点协调操作。

  10. Watcher机制：ZooKeeper允许客户端注册Watcher来监听ZNode的变化，当ZNode发生变化时，ZooKeeper会通知客户端。

ZooKeeper的应用场景非常广泛，包括但不限于：

  • 配置管理：在分布式系统中动态地管理配置信息。
  • 命名服务：为分布式系统中的服务提供命名和发现机制。
  • 分布式锁：在分布式系统中实现锁的功能，以避免多个节点同时执行相同的操作。
  • 集群管理：管理集群中的节点状态，如选举主节点等。
  • 队列管理：实现分布式队列，用于任务分发和负载均衡。

ZooKeeper通常作为大型分布式系统的基础设施之一，为系统提供必要的协调和同步服务。

部署zk3.9.2单机：

安装zk，需要jdk环境，参考博客xc安装jdk篇

第一步：上传apache-zookeeper-3.9.2-bin.tar.gz包

使用ssh终端工具登录到Zookeeper服务器上。本例中安装在/mpjava目录下

第二步：配置zookeeper

1、根据zookeeper服务器在zookeeper集群的顺序，建立zookeeper实例目录。(zookeeper集群必须是奇数台)

例如：zookeeper集群有三台服务器，本服务器是第1台服务器，则在/mpjava目录下创建目录zookeeper-3.9.2，依次类推。

命令：mkdir /mpjava/zookeeper-3.9.2

2、在zookeeper-3.9.2实例目录下创建data、dataLog

命令：mkdir data dataLog

3、在data目录下创建myid文件，填入服务实例的顺序

例如本服务器是第1台服务器，则在myid中填入1，依次类推。

4、将zookeeper-3.9.2-bin.tar.gz解压到zookeeper-3.9.2目录下面

命令：tar -zxvf zookeeper-3.9.2-bin.tar.gz

5、将/mpjava/zookeeper-3.9.2/apache-zookeeper-3.9.2-bin/conf/zoo_sample.cfg文件复制为zoo.cfg文件

命令：cd /mpjava/zookeeper-3.9.2/apache-zookeeper-3.9.2-bin/conf/ && cp zoo_sample.cfg zoo.cfg

6、按照下面的说明，编辑zoo.cfg文件，并保存

# The number of milliseconds of each tick											
tickTime=2000																	
# The number of ticks that the initial 												
# synchronization phase can take													
initLimit=10																	
# The number of ticks that can pass between 										
# sending a request and getting an acknowledgement									
syncLimit=5																	
# the directory where the snapshot is stored.										
dataDir=/mpjava/zookeeper-3.9.2/data												
dataLogDir=/mpjava/zookeeper-3.9.2/dataLog						
maxClientCnxns=5000															
4lw.commands.whitelist=*														
# the port at which the clients will connect											
clientPort=2181    （建议默认端口）
server.1=10.0.0.8:2888:3888

注释：

dataDir目录为本zookeeper实例的data目录										
dataLogDir目录为本zookeeper实例的dataLogDir目录								
clientPort为客户端连接端口，保持为2181不改变。								
server.1中的1为实例顺序，根据zookeeper实例序号，ip、port保持为127.0.0.1:2888:3888。

第三步：输入下面命令，执行zookeeper目录bin/zkServer.sh，启动zookeeper

命令：./zkServer.sh start

命令：jps

启动成功！

参考命令：

停止 ZooKeeper：        ./zkServer.sh stop
查看 ZooKeeper状态：   ./zkServer.sh status
查看 ZooKeeper 服务器的日志： tail -f $ZOOKEEPER_HOME/logs/zookeeper.log

配置单节点开机自启：

命令：vim /etc/rc.d/rc.local

添加：

export JAVA_HOME=/usr/java/jdk1.8.0_421
export PATH=$JAVA_HOME/bin:$PATH
touch /var/lock/subsys/local
/mpjava/zookeeper-3.9.2/apache-zookeeper-3.9.2-bin/bin/./zkServer.sh start

启动 rc-local：

命令：systemctl restart rc-local

命令：systemctl status rc-local

测试：export JAVA_HOME=""

命令：/etc/rc.d/rc.local start

然后reboot

部署zk3.9.2集群：

安装zk，需要jdk环境，参考博客xc安装jdk篇

部署准备工作：
第一步：修改 /etc/hosts文件

三节点：vim /etc/hosts

添加：

10.0.0.1     GH-PROD-MP-1
10.0.0.2     GH-PROD-MP-3
10.0.0.3     GH-PROD-MP-2

第二步：安装ntpdate并配置时钟同步

sudo yum update
sudo yum install ntpdate
时钟同步命令：ntpdate pool.ntp.org

第三步：关闭防火墙

修改vim /etc/sysconfig/selinux

原文件：SELINUX=permissive

修改设置 SELINUX=disabled

命令：systemctl disable firewalld

命令：systemctl stop firewalld

**第四步：将部署组件解压缩分发到各个节点 **

命令： mkdir /usr/lib/hadoop

命令： tar -zxvf apache-zookeeper-3.9.2-bin.tar.gz

命令： mv apache-zookeeper-3.9.2-bin zookeeper-3.9.2

第六步：修改环境变量（即在文件~/.bash_profile尾部追加下面的声明语句）

命令：vim ~/.bash_profile

export ZOOKEEPER_HOME=/usr/lib/hadoop/zookeeper-3.9.2

export PATH=$PATH:$ZOOKEEPER_HOME/bin									
export ZOO_LOG_DIR=/var/hadoop/zk/logs

第六步：重启服务器

命令：reboot

部署zookeeper 集群 ：
第一步：创建目录

1、创建临时目录/var/hadoop/zk/tmp（每个节点都需要配置）

2、创建日志目录/var/hadoop/zk/logs（每个节点都需要配置）

3、创建数据节点目录/var/hadoop/zk/data （每个节点都需要配置）

命令：mkdir -p /var/hadoop/zk/tmp /var/hadoop/zk/logs /var/hadoop/zk/data

第二步：修改$ZOOKEEPER_HOME/conf/zoo.cfg（在 GH-PROD-MP-1）

从模板zook_sample.cfg 复制一份配置文件zoo.cfg

命令：cp $ZOOKEEPER_HOME/conf/zoo_sample.cfg $ZOOKEEPER_HOME/conf/zoo.cfg

修改配置文件：

tickTime=6000			
dataDir=/var/hadoop/zk/data		#数据存储路径
dataLogDir=/var/hadoop/zk/logs	    #日志路径	
autopurge.purgeInterval=1			#快照自动清理频率，单位：小时		
autopurge.snapRetainCount=3		#保存快照数量	
server.0=GH-PROD-MP-1:2888:3888
server.1=GH-PROD-MP-2:2888:3888
server.2=GH-PROD-MP-3:2888:3888

第三步：编辑myid

GH-PROD-MP-1执行：echo 0 > /var/hadoop/zk/data/myid
GH-PROD-MP-2执行：echo 1 > /var/hadoop/zk/data/myid
GH-PROD-MP-3执行：echo 2 > /var/hadoop/zk/data/myid

第五步：同步配置文件到集群到其他节点（在 GH-PROD-MP-1）

命令：tar -czf conf.tar.gz conf/

命令：scp -r $ZOOKEEPER_HOME/conf.tar.gz GH-PROD-MP-2:$ZOOKEEPER_HOME/

命令：scp -r $ZOOKEEPER_HOME/conf.tar.gz GH-PROD-MP-3:$ZOOKEEPER_HOME/

第六步：启动zookeeper集群

1、在GH-PROD-MP-1，GH-PROD-MP-2，GH-PROD-MP-3分别执行启动命令：zkServer.sh start

2、验证集群启动成功，分别输入：jps

GH-PROD-MP-1

GH-PROD-MP-2

GH-PROD-MP-3

配置开机自动：
这里推荐几种不同方法（这里一和二不写具体配置了，优先推荐方法二，便于运维管理），如果无法生效就用方法三：

方法一：crontab -e
方法二：/etc/systemd/system/zookeeper.service

方法三：

命令：vim /etc/rc.d/rc.local

添加：

export JAVA_HOME=/usr/java/jdk1.8.0_421
export PATH=$JAVA_HOME/bin:$PATH
touch /var/lock/subsys/local

#!/bin/sh -e
if ! pgrep -x "zkServer.sh" > /dev/null
then
    /usr/lib/hadoop/zookeeper-3.9.2/bin/zkServer.sh start
fi
exit 0

加执行权限： chmod +x /etc/rc.d/rc.local

参考命令，启动rc-local：systemctl restart rc-local

查看 rc-local状态：systemctl status rc-local

然后reboot验证

相关推荐
新时代农民工--小明17 分钟前
前端自动化部署更新，自动化打包部署
运维·前端·自动化
一个不秃头的 程序员1 小时前
服务器上加入SFTP------(小白篇 1)
运维·服务器
fnd_LN1 小时前
Linux文件目录 --- 复制命令CP、递归复制目录、软连接、硬链接
linux·运维·服务器
MorleyOlsen1 小时前
【Trick】解决服务器cuda报错——RuntimeError: cuDNN error: CUDNN_STATUS_NOT_INITIALIZED
运维·服务器·深度学习
周周的奇妙编程1 小时前
基于鲲鹏服务器的打砖块小游戏部署
运维·服务器
OopspoO1 小时前
Linux查看键鼠输入
linux
大熊程序猿1 小时前
airflow docker 安装
运维·docker·容器
会飞的土拨鼠呀2 小时前
chart文件结构
运维·云原生·kubernetes
人类群星闪耀时2 小时前
基于AI的网络流量分析：构建智能化运维体系
运维·人工智能
七七powerful2 小时前
ansible play-book玩法
linux·服务器·ansible
热门推荐
01SQL 主从数据库实时备份02YOLOv8训练好模型后，追加轮数继续训练、或者提前终止训练，缩减训练轮数03玄机平台应急响应—webshell查杀04VSCode插件 —— Cody AI （免费AI助手！）05HCIA-datacom数通题库和录播视频资料06Docker 夺命连环 15 问07组基轨迹建模 GBTM的介绍与实现（Stata 或 R）08校验 GPT-4 真实性的三个经典问题：快速区分 GPT-3.5 与 GPT-4，并提供免费测试网站09(欧拉)openEuler系统添加网卡文件配置流程、(欧拉)openEuler系统手动配置ipv6地址流程、(欧拉)openEuler系统网络管理说明10【华东南AWDP】第十七届全国大学生信息安全竞赛 CISCN 2024 创新实践能力赛区域赛 部分题解WP