三节点Ceph分布式存储搭建指南

三节点Ceph分布式存储搭建指南

环境准备

  • 三台服务器(节点),建议配置相同硬件(CPU、内存、磁盘)。
  • 每台节点至少一块SSD(用于OSD日志)和多块HDD(用于数据存储)。
bash 复制代码

ceph-deploy install

操作系统:Ubuntu 复制代码
- 所有节点配置SSH免密登录(`ssh-keygen`和`ssh-copy-id`)。  

**配置基础环境**  
在所有节点上执行以下操作:  
1. 修改主机名并更新`/etc/hosts`,确保节点间能通过主机名通信。  
2. 关闭防火墙和SELinux(生产环境需按需调整规则):  
  ```bash
  systemctl stop firewalld
  systemctl disable firewalld
  setenforce 0
  sed -i 's/SELINUX=enforcing/SELINUX=permissive/g' /etc/selinux/config
  1. 安装NTP服务确保时间同步:

    bash 复制代码
    yum install -y ntp || apt-get install -y ntp
    systemctl enable ntpd --now

安装Ceph部署工具

在主管理节点(如ceph-node1)执行:

  1. 添加Ceph仓库并安装ceph-deploy

    bash 复制代码
    wget -q -O- 'https://download.ceph.com/keys/release.asc' | sudo apt-key add -
    echo "deb https://download.ceph.com/debian-{ceph-stable-release}/ $(lsb_release -sc) main" | sudo tee /etc/apt/sources.list.d/ceph.list
    apt-get update && apt-get install -y ceph-deploy

    (CentOS使用yum install -y ceph-deploy

初始化Ceph集群

  1. 创建集群目录并初始化配置:

    bash 复制代码
    mkdir ~/ceph-cluster && cd ~/ceph-cluster
    ceph-deploy new ceph-node1 ceph-node2 ceph-node3
  2. 编辑ceph.conf配置文件,追加以下内容:

    ini 复制代码
    osd_pool_default_size = 3
    osd_pool_default_min_size = 1
    public_network = {你的公共网络CIDR}
    cluster_network = {你的集群网络CIDR}
  3. 安装Ceph软件包到所有节点:

    bash 复制代码
    ceph-deploy install ceph-node1 ceph-node2 ceph-node3

部署Monitor服务

在主节点执行:

bash 复制代码
ceph-deploy mon create-initial
ceph-deploy admin ceph-node1 ceph-node2 ceph-node3

配置OSD存储

  1. 列出所有节点的磁盘:

    bash 复制代码
    ceph-deploy disk zap ceph-node1 /dev/sdb
    ceph-deploy disk zap ceph-node2 /dev/sdb
    ceph-deploy disk zap ceph-node3 /dev/sdb
  2. 创建OSD(假设sdb为数据盘,sdc为日志盘):

    bash 复制代码
    ceph-deploy osd create --data /dev/sdb --journal /dev/sdc ceph-node1
    ceph-deploy osd create --data /dev/sdb --journal /dev/sdc ceph-node2
    ceph-deploy osd create --data /dev/sdb --journal /dev/sdc ceph-node3

验证集群状态

执行以下命令检查集群健康状态:

bash 复制代码
ssh ceph-node1 "ceph -s"

输出中应显示HEALTH_OK,且所有OSD和Monitor均在线。

扩展功能(可选)

  • 部署MDS服务支持CephFS:

    bash 复制代码
    ceph-deploy mds create ceph-node1
  • 创建存储池和块设备:

    bash 复制代码
    ceph osd pool create rbd_pool 128
    rbd create myimage --size 1024 --pool rbd_pool

注意事项

  • 生产环境建议分离public_networkcluster_network以提高性能。
  • OSD日志盘建议使用SSD以降低延迟。
  • 若使用虚拟机测试,确保每节点至少2核CPU和4GB内存。

通过以上步骤,一个基础的Ceph三节点集群即部署完成。后续可根据需求扩展节点或调整CRUSH map优化数据分布。

相关推荐
你我约定有三4 小时前
软件启动时加配置文件 vs 不加配置文件
java·分布式·zookeeper
励志成为糕手7 小时前
ZooKeeper架构深度解析:分布式协调服务的核心设计与实现
大数据·分布式·zookeeper·架构·一致性
瑞瑞绮绮8 小时前
分布式事务的Java实践
java·分布式·springcloud
孤独的复仇者9 小时前
RabbitMQ高级:延迟消息
分布式·rabbitmq
AMiner:AI科研助手11 小时前
警惕!你和ChatGPT的对话,可能正在制造分布式妄想
人工智能·分布式·算法·chatgpt·deepseek
码luffyliu14 小时前
消息队列 :Kafka 核心要点总结
分布式·kafka·消息队列·mq
运维老司机19 小时前
Kafka 开启 SASL_PLAINTEXT 双监听器认证(内网/外网)
分布式·kafka·linq
fengfuyao98521 小时前
分布式电源接入电网进行潮流计算
分布式
项目題供诗1 天前
Hadoop(七)
大数据·hadoop·分布式
掘金-我是哪吒1 天前
分布式微服务系统架构第168集:不要让“百万用户”直连 Redis
redis·分布式·微服务·架构·系统架构