【知识简略】说说分布式常见问题及解决方案:分布式锁、分布式事务、分布式session、分布式任务调度;

分布式常见问题及解决方案

前言

什么是分布式系统

分布式系统(Distributed System)是指由多个独立计算机通过网络通信协议连接起来协同工作,共同完成一个共同目标的系统。

在分布式系统中,这些计算机节点是物理上分离的,每个节点都有自己的内存、处理器和存储设备,并通过消息传递或远程过程调用(RPC)等方式相互通信和协调。

分布式系统的主要目标是提高系统的可靠性和可用性、增强计算能力、实现资源共享和负载均衡,同时也带来了复杂性,如数据一致性、并发控制、容错和网络延迟等问题。

分布式系统与微服务两者概念傻傻分不清

微服务(Microservices)是一种特殊的分布式系统架构风格,它将一个大型的单一应用程序拆分成一组小型、独立的服务。每个微服务都围绕着单个业务功能进行构建,服务之间通过API进行通信和交互。微服务强调服务的独立开发、部署、伸缩和管理,每个服务都应包含其必要的业务逻辑和数据存储,并且可以独立地演化和升级。

两者之间的关系是:

  • 微服务架构是分布式系统的一种实现形态,也就是说,所有的微服务架构都是分布式系统,但并非所有的分布式系统都是微服务架构。
  • 微服务将分布式系统中的服务拆分得更为精细,每个微服务高度自治,有着明确的边界和责任。
  • 微服务更注重服务的解耦合,每个服务都是一个小而全的业务单元,拥有自己的数据库,从而降低了服务间的耦合度,增强了系统的可扩展性和维护性。

在微服务架构中,分布式系统的特点如服务发现、负载均衡、容错恢复、数据一致性等变得更加突出,而且微服务还引入了服务编排、API网关、DevOps和持续集成/持续部署(CI/CD)等附加实践。

分布式系统在实现过程中会遇到诸多挑战,以下是一些典型的分布式问题及其解决方案概览:

1.分布式锁

分布式锁

  • 问题: 在分布式环境下,多个服务或进程可能需要对共享资源进行并发访问,普通的互斥锁不再适用,需要一种跨进程或跨服务器的锁机制来确保同一时间只有一个服务可以修改资源。
  • 解决方案: 分布式锁可以通过多种手段实现,如基于数据库的排他锁、基于Redis的分布式锁(如Redisson或Redlock算法)、ZooKeeper的临时有序节点等。通过这些中间件,服务在访问共享资源前先获取锁,操作完成后释放锁,确保了并发操作的正确性。

分布式事务

分布式事务

  • 问题: 在分布式系统中,一次操作可能涉及到多个服务甚至多个数据库,传统的ACID事务难以保证跨服务的数据一致性。
  • 解决方案 : 多种分布式事务方案被提出,包括但不限于:
    • 两阶段提交(2PC, Two-Phase Commit)三阶段提交(3PC, Three-Phase Commit) 协议,尽管存在性能和可用性问题,但能在一定程度上保证事务的一致性。
    • 补偿事务(Saga):通过正向操作和逆向补偿操作来实现最终一致性。
    • TCC(Try-Confirm-Cancel) 模式:每个服务提供三个接口,分别尝试执行、确认执行、取消执行。
    • 基于消息的事务处理:如阿里巴巴的Seata框架,通过AT、XA、TCC等多种模式解决分布式事务问题,或使用RabbitMQ、Kafka等消息中间件实现消息幂等性和最终一致性。
    • 分布式事务协调器:如Google的Percolator和Spanner,通过乐观并发控制结合版本戳的方式来处理分布式事务。

分布式Session

分布式Session

  • 问题: 在多服务器部署的应用中,用户的会话状态(Session)需要在服务器间共享,否则用户在不同服务器间迁移时会导致Session丢失,影响用户体验和功能完整性。
  • 解决方案 :
    • 集中式Session存储:将Session数据存储在中央存储如Redis、Memcached或数据库中,所有服务器都能访问到同一份Session数据。
    • Cookie-Based Session:将部分或全部Session数据加密后存储在客户端Cookie中。
    • JWT(JSON Web Tokens):使用无状态Token认证,将用户状态信息编码在Token中,每次请求携带Token,服务器无需存储Session信息。

分布式任务调度

分布式任务调度

  • 问题: 在分布式环境中,需要协调多个节点进行定时任务的执行,避免任务重复执行和资源冲突。
  • 解决方案 :
    • 分布式任务调度框架:如Apache ZooKeeper、Quartz Scheduler、Elastic Job(来自Dubbo生态)等,可以实现任务的分布式分配、调度和监控。
    • 消息队列:利用消息队列的顺序消费或定时消息功能,可以实现分布式任务的调度,例如RocketMQ、Kafka等支持定时消息的队列服务。
    • 分布式锁结合数据库:在执行任务前获取分布式锁,确保在集群中只有一个节点执行指定任务。

总之,解决分布式系统的问题通常依赖于中间件服务、分布式协议和合理的架构设计,通过引入适当的组件和算法,能够在分布式环境下维持数据的一致性、服务的可用性和任务调度的有效性。

相关推荐
躺不平的理查德21 分钟前
General Spark Operations(Spark 基础操作)
大数据·分布式·spark
talle202122 分钟前
Zeppelin在spark环境导出dataframe
大数据·分布式·spark
渣渣盟29 分钟前
大数据开发环境的安装,配置(Hadoop)
大数据·hadoop·分布式
Angindem1 小时前
SpringClound 微服务分布式Nacos学习笔记
分布式·学习·微服务
龙仔7259 小时前
离线安装rabbitmq全流程
分布式·rabbitmq·ruby
〆、风神12 小时前
Spring Boot 整合 Lock4j + Redisson 实现分布式锁实战
spring boot·分布式·后端
胡萝卜糊了Ohh13 小时前
kafka
分布式·kafka
桑榆080615 小时前
Spark-Streaming核心编程
大数据·分布式·spark
nbsaas-boot17 小时前
分布式微服务架构,数据库连接池设计策略
分布式·微服务·架构