分布式

每天一道题7 小时前
分布式·kafka
Kafka 是如何工作的?从 Broker、Partition、Offset 到 Consumer Group在微服务系统中,Kafka 经常和 Redis、MySQL 一起出现。例如一个电商系统,用户支付成功之后,除了需要修改订单状态,还可能需要发送短信、更新销售统计、记录用户行为。
用户1494484813209 小时前
分布式·后端
为什么大厂很少直接用 2PC/TCC?聊聊分布式事务在真实业务里的落地套路如果你去面试 Java 后端,分布式事务几乎是必考题。面试官期待你流利地背出 XA、2PC、3PC、TCC、Seata 的流程和优缺点。
code_slave(码畜)11 小时前
数据库·spring boot·分布式·spring cloud·微服务·架构·分库分表
微服务架构落地:分库分表实战(下) —— 分布式主键、跨分片查询与分页聚合防坑大宗商品销采运储系统・六层架构连载(数据持久层)上一篇我们完成了分库分表的“上篇”:讲了切分策略(垂直/水平),用“基因法”解决了路由痛点,并梳理了不停机平滑扩容的步骤。
德迅云安全-上官11 小时前
分布式·tcp/ip·安全
新一代智能分布式云接入:应用加速守护 TCP 业务安全与体验在游戏、APP、微端、内嵌 Web 等 TCP 类业务的运营过程中,网络延迟波动、DDoS 与 CC 攻击、服务器真实 IP 暴露、业务中断掉线,一直是困扰企业发展的核心难题。传统高防产品往往部署繁琐、成本高昂,面对突发大流量攻击时常出现防护瓶颈,难以兼顾安全防御与用户访问体验。新一代智能分布式云接入系统 ——应用加速(客户端安全),依托 SD‑WAN 跨域创新技术,打通专线穿透,搭配高速通道能力,为 TCP 端类业务构建起 “安全防护 + 网络加速 + 业务稳定” 一体化解决方案。
凯凯姜11 小时前
分布式
分布式定时任务重复执行与故障恢复某金融系统每天凌晨需要为大量用户计算收益,并更新账户余额。随着业务规模扩大,系统部署了多个工作节点,由调度中心分配任务。
Sayai13 小时前
大数据·运维·分布式·kafka·消息队列
Kafka 磁盘空间治理实战:retention 保留策略、log.dirs 在线扩容、分区跨盘迁移与不停机整体换盘消息队列 Kafka 用得越久,磁盘水位告警来得越勤:日志类 topic 日增几十 GB、大分区全挤在一块盘上、系统盘被 server.log 慢慢吃光。本文把生产环境沉淀的四类存储治理手段整理成一套完整 SOP——保留策略让数据"删得快"、数据目录扩容让集群"装得下"、分区跨盘迁移让磁盘"搬得平"、整体换盘让硬件"换得走",全部支持滚动操作不停机,附踩坑清单。命令在 Kafka 2.5 与 3.9 集群上均验证过。
爱吃牛肉的大老虎14 小时前
数据库·redis·分布式
Redis之分布式 Session问题平常做的项目都是在一台应用系统,并且所有的操作都在一台 Tomcat 服务器上,并不会引发 Session共享 的问题,所以并不会对系统产生影响,但是当部署多个微服务的时候,再搭配 Nginx 进行负载均衡时,如果不处理分布式 Session 问题,那么在系统中访问不同功能时就会频繁出现用户登录的操作
阿标在干嘛14 小时前
数据库·分布式
分布式锁的“场景适配“:我们为什么在部分链路中选择了数据库乐观锁?2026年初,在优化立达标讯政策数据更新链路时,团队内部展开了一场关于"并发控制方案"的讨论。一方认为:"必须用分布式锁!Redis或ZooKeeper,保证强一致性!" 另一方提出:"我们的部分链路是写冲突频率低、数据量可控的场景,是否可以考虑数据库乐观锁?"
磐链科技15 小时前
分布式·web3·区块链
Web3区块链开发需要哪些核心技术?解析分布式网络、数字钱包与跨链交互方案Web3区块链开发需要哪些核心技术?解析分布式网络、数字钱包与跨链交互方案一、Web3区块链开发的技术背景
爱吃火鸡面呀15 小时前
分布式·spark
PySpark 入门实战:从 DataFrame 到 SQL、DSL 与窗口函数PySpark 是 Spark 的 Python 接口,它让我们可以用熟悉的 Python 语法操作分布式数据集。本文从一个最简单的 JSON 读取示例出发,逐步带你掌握 DataFrame 的创建、SQL 查询、DSL 风格操作、窗口函数以及炸裂函数等核心用法。无论你是刚接触大数据的新手,还是想快速回顾 PySpark 常用 API 的开发者,这篇文章都能给你一份可直接运行的实战参考。
德迅--文琪15 小时前
分布式·tcp/ip·安全
新一代智能分布式云接入:应用加速守护 TCP 业务安全与体验在游戏、APP、微端、内嵌 Web 等 TCP 类业务的运营过程中,网络延迟波动、DDoS 与 CC 攻击、服务器真实 IP 暴露、业务中断掉线,一直是困扰企业发展的核心难题。传统高防产品往往部署繁琐、成本高昂,面对突发大流量攻击时常出现防护瓶颈,难以兼顾安全防御与用户访问体验。新一代智能分布式云接入系统 ——应用加速(客户端安全),依托 SD‑WAN 跨域创新技术,打通专线穿透,搭配高速通道能力,为 TCP 端类业务构建起 “安全防护 + 网络加速 + 业务稳定” 一体化解决方案。
凯凯姜15 小时前
分布式
高并发秒杀库存超卖电商平台举办秒杀活动,初始库存为 1000 件。技术架构:活动过程中出现以下问题:核心目标:保证库存不超卖、订单不重复、库存操作可恢复,并让异常情况下的数据最终达到一致。
一条泥憨鱼1 天前
redis·分布式·lua
【Redis | 黑马点评】分布式锁;Lua脚本;Redisson与看门狗 |源码万字详解秒杀优惠券记录在 tb_seckill_voucher,下单记录写入 tb_voucher_order。从 seckillVoucher 的判断可以确认以下规则:
stark张宇1 天前
redis·分布式·mysql
库存扣减的“锁”事:悲观锁、乐观锁、分布式锁从秒杀高并发切入,按锁的作用范围梳理单机 Go 锁、MySQL 行锁/版本锁、Redis/ZK/etcd 分布式锁;说明进程内锁跨机无效、数据库锁易阻塞、分布式锁解决跨节点互斥,并给出分层选型思路。
xianyuCcCcCCCcc1 天前
运维·分布式·ceph
Ceph 分布式存储:集群配置与存储池管理在 Ceph 分布式存储的运维中,集群配置的精准度决定了系统的性能上限与稳定性,而存储池(Pool)的合理规划则是保障数据安全与容量利用率的基石。很多初学者在部署完 Ceph 后,往往停留在使用默认配置的阶段。但在实际生产环境中,理解配置的生效优先级、Monitor 的 Paxos 仲裁机制、PG(放置组)的映射原理以及池的底层参数调优,是每个云原生存储工程师的必修课。
萧瑟余晖2 天前
分布式·spring·spring cloud
Spring Cloud分布式事务与链路追踪详解定位:第 06 篇,讲透分布式事务问题与方案谱系(Seata 四模式、可靠消息)及链路追踪的原理与落地 适用版本:Spring Cloud 2023.x + Seata / Micrometer Tracing 说明:本篇只讲工程方案
汤姆宝库2 天前
分布式
预训练工程深拆:Scaling_Law、数据管线与分布式并行训练一个千亿参数模型,在数学上只是优化一个交叉熵损失;在工程上,它同时是预算规划、数据科学、显存算术和通信拓扑的联合优化问题。这四个子问题彼此咬合:预算表决定数据量与参数量的配比,数据质量决定损失的下界,显存算术决定并行拓扑,而拓扑的通信效率决定那张千万美元的账单最终烧多久。本文按这个顺序逐层拆解。
pjj198542 天前
大数据·分布式·spark
Spark RDD 核心知识详解:算子、依赖与执行模型上一篇我们聊了 Spark 是什么、它有哪些模块、整体架构长什么样。这篇继续往里钻一层,专门讲 Spark 的核心抽象——RDD。你会搞清楚 RDD 到底是个什么东西、有哪些算子可以用、Spark 又是怎么把一个作业拆开来并行执行的。
浔溺2 天前
大数据·分布式·spark
Spark核心基石:RDD全方位深度解析(原理、算子、实战、优化)在大数据计算领域,Spark 凭借内存级高速计算的优势,彻底颠覆了传统 MapReduce 离线计算的低效问题。而支撑 Spark 高性能、高容错、分布式计算的核心底层抽象,就是 RDD(Resilient Distributed Dataset,弹性分布式数据集)。
catino2 天前
分布式·rabbitmq·ruby
RabbitMQ详解RabbitMQ 是基于 高级消息队列协议(AMQP)、Erlang 开发的开源消息中间件,优势在于消息路由灵活、投递可靠性高,适合业务告警、事件通知这类对消息可靠度要求高的场景。