分布式

鹿衔`14 分钟前
大数据·分布式·spark
CDH 6.3.2 集群外挂 Spark 3.5.7 (Paimon) 集成 Hue 实战指南目录1. 基础环境准备(权限与目录)2. 封装启动脚本3. 服务启动与验证3.1 启动服务3.2 状态验证
士心凡30 分钟前
大数据·hadoop·分布式
hadoop核心组件:分块存储(默认 128MB/256MB Block),每个block维持3个副本不适合小文件,因为:
IIIIIILLLLLLLLLLLLL31 分钟前
大数据·hadoop·分布式
Hadoop完全分布式安装Linux发行版有很多这里作者使用ubuntu来搭建。以下是Hadoop 完全分布式搭建VMware17 适配的Ubuntu、Hadoop、JDK的版本推荐:
鹿衔`1 小时前
大数据·分布式·spark
CDH 6.3.2 集群外挂部署 Spark 3.5.7 连接 Paimon 1.1.1 (一)为了解决CDH 6.3.2 默认的 Hive sql on Spark 和 Spark sql (Spark版本为2.4.0)无法写入修改Paimon 1.1.1 版本的表格数据的问题。
stella·1 小时前
java·分布式·中间件·消息队列·rabbitmq·削峰填谷
RabbitMQ是什么?如何使用消息队列(Message Queue,简称MQ)为什么会产生消息队列?有几个原因:不同进程(process)之间传递消息时,两个进程之间耦合程度过高,改动一个进程,引发必须修改另一个进程,为了隔离这两个进程,在两进程间抽离出一层(一个模块),所有两进程之间传递的消息,都必须通过消息队列来传递,单独修改某一个进程,不会影响另一个;
QQ_4376643141 小时前
网络·c++·分布式·rpc
分布式RPC网络框架mprpc是一个基于C++开发的轻量级RPC框架,它整合了muduo网络库的高性能I/O模型和Protobuf的高效序列化能力。框架的设计目标是提供简单易用、高性能的远程调用解决方案,支持服务自动注册与发现。
苦学编程的谢2 小时前
分布式·rabbitmq
RabbitMQ_3_RabbitMQ应用RabbitMQ官方文档:RabbitMQ Tutorials | RabbitMQ这是官方文档中提及的7种工作模式:
gugugu.2 小时前
分布式·微服务·架构
从单机到微服务:分布式架构演进全景解析在数字化浪潮席卷全球的今天,我们使用的每一个互联网应用背后,都隐藏着一套复杂的系统架构。从最初的单机服务器到如今的微服务云原生架构,分布式系统的演进之路如同一部技术进化史。本文将带您深入探索这一演进过程,揭示每个阶段背后的设计哲学与技术突破。
小股虫2 小时前
分布式·kafka
Kafka深度解析:从日志处理到流处理的“数据管道扛把子一句话总结:Apache Kafka是LinkedIn开源的分布式流处理平台,凭借"日志式存储+分区副本+流处理"的组合拳,实现了百万级TPS、毫秒级延迟、100%数据不丢失的能力,是日志收集、实时分析的"数据管道扛把子"! 核心亮点:Kafka的日志式存储和分区副本机制,让消息处理速度比传统消息队列快3倍,数据丢失率0%。
白露与泡影2 小时前
分布式·kafka·linq
Kafka:消费者重试与死信队列的对应模式分析在 Spring Kafka 中,消费者重试(@RetryableTopic) 与 死信队列(@DltHandler) 的对应关系及 死信 Topic 名称拼接 是保障消息可靠处理的核心机制。本文将详细解析两者的对应模式、Topic 名称生成规则,并结合生产实践给出最佳实践。
勇敢打工人4 小时前
分布式·rabbitmq
rabbitmq数据恢复最近遇到了生产故障,原因是rabbit的主机被修改,重启后导致rabbitmq的数据丢失,为此整理了RabbitMQ 数据恢复指南,专为应对因主机名变更、节点身份丢失、误删数据或配置错误 等导致 RabbitMQ 无法识别原有数据的场景而设计。重点保障队列消息、用户、权限、策略、交换机等核心数据可恢复。
ZStack开发者社区10 小时前
分布式·云计算
替代VMware vSAN | 五大角度解析ZStack分布式存储替代优势在VMware替换、信创与云原生并行推进的背景下,企业对存储的期待,已从“能用”升级为“好用”:既要多协议统一与场景广泛覆盖,又要运维可控、弹性扩展、安全合规。
R-sz11 小时前
分布式
使用Redisson实现同一业务类型串行执行的分布式锁方案,解决并发问题你要的是 “同一业务类型(bussType)串行执行” 的效果 —— 即同一个 bussType 只能被一个线程处理,上一个线程执行完(释放锁),下一个线程才能进入。这种场景用 Redisson 的分布式锁 最合适,它支持细粒度锁(按 bussType 分锁),还能避免死锁、自动续期,比原生 Redis 锁更稳定。 以下是 基于 Redisson 的 “单 bussType 串行执行” 完整实现,直接替换原代码即可,兼顾并发安全和易用性: 核心思路 锁粒度:按 bussType 生成独立锁(比如 code
哈哈哈笑什么15 小时前
redis·分布式·后端
蜜雪冰城1分钱奶茶秒杀活动下,使用分片锁替代分布式锁去做秒杀系统基于 spring-boot-starter-data-redis 和 Redisson 实现分片锁(分布式锁的分片优化,避免单锁竞争),打造一个通用的秒杀组件,支持秒杀任意数量(n种)的商品,每种商品可配置指定库存(m件),核心要解决秒杀场景的超卖、重复下单、高并发锁竞争问题。
哈哈哈笑什么16 小时前
分布式·spring cloud·rabbitmq
高并发分布式Springcloud系统下,使用RabbitMQ实现订单支付完整闭环的实现方案(反向撤销+重试+补偿)完整的订单支付闭环需覆盖「下单→支付→反向撤销→补偿兜底→异常校验」全链路,确保任何异常场景下最终数据一致。核心流程如下:
哈哈哈笑什么17 小时前
分布式·后端·spring cloud
分布式高并发Springcloud系统下的数据图同步断点续传方案【订单/商品/用户等】完全解耦、可复用的数据同步断点续传方案核心目标是让断点续传的通用逻辑(分布式锁、断点读写、批次控制、重试、幂等)与具体业务逻辑(订单/商品/用户数据同步)分离,新增任意业务数据同步时,仅需实现差异化的查询和同步逻辑,无需重复开发通用的断点续传框架。
LDG_AGI17 小时前
人工智能·pytorch·分布式·深度学习·算法·机器学习
【推荐系统】深度学习训练框架(十三):模型输入——《特征索引》与《特征向量》的边界整个数据处理流程分为离线训练和在线服务两个阶段,下图清晰地展示了从原始请求到模型最终输出的完整过程:下面我们拆解上图中的关键环节:
回家路上绕了弯18 小时前
分布式·后端
多线程开发最佳实践:从安全到高效的进阶指南在多核 CPU 普及的今天,多线程早已不是高级开发的 “选修课”—— 它是提升程序吞吐量、优化资源利用率的核心手段。但多线程带来的并发安全、死锁、性能损耗等问题,却让很多开发者 “谈线程色变”:明明逻辑没问题,一跑多线程就出现数据错乱;好不容易解决了安全问题,程序又变得比单线程还慢。
少许极端19 小时前
redis·分布式·缓存·微服务
Redis入门指南:从零到分布式缓存(一)我们之前学的MySQL这种关系型数据库, 其实是能适应大部分场景的, 但随着业务的越来越复杂, 对于性能要求越来越高, MySQL这种储存到硬盘上的数据库有时不能满足这种高性能需求, 于是Redis这种存储在内存中的非关系型数据库大展拳脚
爬山算法19 小时前
数据库·redis·分布式
Redis(161)如何使用Redis实现分布式锁?分布式锁是用来在分布式系统下控制对资源的独占访问,确保多个进程或线程不会同时操作同一资源。Redis 是实现分布式锁的常用工具之一。下面是详细的实现步骤和代码示例: