技术栈
分布式
牛油果子哥q
2 小时前
数据库
·
redis
·
分布式
【Redis分布式高阶篇】Redis分布式锁底层精讲:从裸锁缺陷到Redisson源码级落地,解决超时释放、锁失效、主从漏洞、锁续约难题
我们完成了计算机底层、Linux高并发、手写Web服务器、内核调优、Redis高性能架构、缓存三大故障防护体系的完整闭环。在上一篇文章中,我们彻底搞定了缓存穿透、击穿、雪崩三大线上核心问题,补齐了Redis缓存工程化落地的所有短板。
2601_95788856
3 小时前
分布式
·
架构
·
媒体
分布式新媒体架构:短视频矩阵系统的技术痛点、算法规则与效率优化实践
在当前全渠道流量碎片化的背景下,“单兵作战”的账号运营模式正逐渐被“矩阵式”的系统化运营所取代。无论是企业做品牌声量资产,还是同城零售做引流裂变,矩阵运营已经从小团队的“尝鲜”走向了工业化的“流水线生产”。
闪电悠米
4 小时前
java
·
spring boot
·
redis
·
分布式
·
缓存
黑马点评-Redisson-02_reentrant_lock
本文整理自我学习黑马点评 Redis 实战篇第 5 章「分布式锁 Redisson」的 5.3 小节。
2601_95788484
4 小时前
分布式
·
矩阵
·
媒体
分布式媒体矩阵系统的任务调度架构:高并发分发队列与背压控制控制实践
在企业级新媒体中台的建设中,随着管理节点规模的指数级增长,系统需要解决的不再只是单一的内容生成问题,而是复杂的分布式高并发任务调度与跨平台数据流控。
Kyrie_Li
5 小时前
分布式
·
kafka
Kafka-安装和配置(搭建环境)
在开始之前,我们先理清一个关键背景:Kafka 正在经历一个重要的架构演进——逐步移除对 ZooKeeper 的依赖,转向自研的 KRaft (Kafka Raft) 模式。这不仅是安装方式的差异,更代表了Kafka未来的架构方向,理解这一点对你后续的学习和选型很有帮助。
逻极
5 小时前
分布式
·
mongodb
·
nosql
·
聚合框架
MongoDB 从入门到精通:文档数据库的灵活之道
在关系型数据库统治了半个世纪之后,互联网的爆发式增长带来了新的数据挑战:海量用户、高并发读写、快速迭代的业务模型、半结构化或非结构化的数据。传统的关系型数据库(如 MySQL、PostgreSQL)虽然强大,但在面对这些场景时,往往显得僵化且难以扩展。
大G的笔记本
6 小时前
分布式
分布式事务实战
如果你说:Seata AT模式、TCC、Saga、XA…你懂理论。但如果问:线上怎么做分布式事务?那答案往往完全不一样。
AI浩
7 小时前
开发语言
·
分布式
·
batch
梯度累积与 Micro-Batch 设计分层式精讲:有效批次、显存边界与分布式同步
核心结论:梯度累积是“多次 backward 后再 optimizer step”,用于在小 micro-batch 下模拟更大的有效 batch。它主要降低单次前向/反向的激活显存,不能降低模型参数、梯度和优化器状态本身。因此,梯度累积不能单独让 16GB 显存全参数训练 64B 模型;这类训练还需要 FSDP/ZeRO、量化/LoRA、offload、激活检查点和模型并行。
l1t
7 小时前
数据库
·
分布式
DeepSeek总结的从 DeepSeek 到 Quack:分布式 DuckDB 的梦想何时开始变得真实
来源:https://dev.to/amirsefati/from-deepseek-to-quack-when-the-dream-of-distributed-duckdb-started-to-feel-real-188m
钝挫力PROGRAMER
7 小时前
分布式
·
etcd
BugFixed:etcd 单节点宕机后数据“消失”
一个基于 etcd 的服务的Python驻留程序,etcd集群采用标准三节点集群部署(A,B,C)。某日运维同事反馈:当节点 A 宕机后,连接节点 B 或 C 查询此前写入的 Key,竟返回空结果(None);但只要节点 A 恢复正常,应用层状态恢复正常。第一反应是 etcd 集群出了问题——明明三节点,一台故障应该无影响才对,难道数据没有成功复制?
小旭9527
7 小时前
java
·
分布式
·
后端
·
elk
·
spring cloud
Spring Cloud 集成分布式日志 ELK+Swagger 接口文档实战
ELK 是 Elasticsearch、Logstash、Kibana 的简称(也称为 ELK Stack),是 elastic 公司提供的一套完整的日志收集以及展示的解决方案,能够安全可靠地获取任何来源、任何格式的数据,然后实时地对数据进行搜索、分析和可视化。
SilentSamsara
7 小时前
服务器
·
开发语言
·
分布式
·
python
·
kafka
·
rabbitmq
消息队列集成:Python + Kafka/RabbitMQ 生产实践
在用户注册完成后,系统通常需要执行发送欢迎邮件、推送短信验证码、初始化用户画像缓存等一系列操作。若采用同步串行处理,主流程必须等待所有附属任务完成后才能返回 HTTP 响应。在实际业务中,这种设计往往导致接口延迟从 200ms 膨胀到 3 秒以上,严重影响终端体验。消息队列的价值在于将这些与主流程非强耦合的任务剥离为异步处理,在保障可靠性的同时,将接口响应时间控制在百毫秒级别。
2601_95788224
7 小时前
分布式
·
架构
·
媒体
分布式媒体中台的非阻塞I/O架构:高并发事件网关、熔断机制与跨域ETL管道流控实践
在构建企业级分布式媒体中台的系统实践中,随着节点规模和渠道数量的指数级增长,系统底层的核心挑战已从“业务功能的堆砌”转向了“高并发网络I/O的吞吐性能极限与跨域数据流的稳定性保护”。在运行期间,中台不仅需要在一个后台内玩转不限平台数量的账号授权集群,还必须维持高频次 AIGC 计算流水线的负载均衡以及跨跨平台数据流的实时响应。
2601_95787933
8 小时前
分布式
·
架构
·
媒体
分布式媒体中台的多渠道协同架构:数据一致性、高并发调度与跨域路由容错实践
随着多渠道网络(MCN)及企业集群化运营规模的扩大,新媒体矩阵已从早期的“单点内容分发”演进为复杂的分布式媒体中台系统(Distributed Media Middle-Platform)。在此类系统中,管理节点通常需要支撑不限平台数量的账号集群,同时还要应对TB级的非结构化素材传输以及高频次的跨生态数据交互。
2601_95788224
8 小时前
分布式
·
架构
·
媒体
多云协同架构下的分布式媒体分发:微服务状态机设计、分布式追踪与跨域路由容错实践
随着数字营销技术(MarTech)向企业级中台架构演进,全渠道媒体矩阵的运营已从简单的工具化应用上升为复杂的分布式跨域任务调度系统(Distributed Cross-Domain Task Scheduling System)。在此类系统运行期间,中台不仅需要在一个后台内玩转不限平台数量的账号授权集群,还必须维持高频次 AIGC 计算流水线的负载均衡以及跨跨平台数据流的实时响应。
田里的水稻
8 小时前
分布式
·
gitlab
OE_gitlab服务操作和维护方法
OE: Operation Engineer GitLab Omnibus 安装(rpm/deb 包,主流)启停、状态、日志全套命令(Ubuntu/CentOS 通用)。绝大部分离线部署 GitLab 都是omnibus 包安装,优先用gitlab-ctl;Docker 部署在文末单独说明。
Chasing__Dreams
9 小时前
分布式
·
kafka
Kafka--基础知识点--20--消费者平衡协议的增量式重平衡协议
Kafka 的增量式重平衡协议(Incremental Rebalance Protocol),也称为增量合作重平衡(Incremental Cooperative Rebalancing),是一项旨在改进传统消费者组重平衡过程的重大优化。这项改进通过 KIP-429 提案,从 Kafka 2.4.0 版本开始正式引入。
IronMurphy
9 小时前
分布式
·
kafka
Kafka拷打!!!
Kafka 防丢一般从三端保证。生产者端设置 acks=all、开启重试和失败回调,必要时开启幂等生产者。Broker 端用多副本,配置合理的 replication.factor 和 min.insync.replicas,并关闭不干净 leader 选举。消费者端关闭自动提交 offset,业务处理成功后再手动提交。这样通常能保证不丢,但可能重复消费,所以业务要做幂等。
段一凡-华北理工大学
9 小时前
大数据
·
人工智能
·
hadoop
·
分布式
·
架构
·
高炉炼铁
·
高炉智能化
工业领域的Hadoop架构学习~系列文章13:数据湖架构 - 工业大数据的统一存储底座
导言:数据湖是工业大数据平台的核心基础设施,它解决了多源异构数据的统一存储与分析难题。本期深入对比Delta Lake、Apache Iceberg、Apache Hudi三大开源数据湖方案,从架构原理出发,详细讲解表格式事务、时间旅行、增量处理等核心能力,并给出工业场景的选型建议与实战代码。
半夜修仙
9 小时前
数据库
·
分布式
·
缓存
·
rabbitmq
RabbitMQ应用问题
本文主要对于RabbitMQ的一些应用问题来进行小结⭐一.幂等性保障1.幂等性概念:对于MQ而言,幂等性是指同一条消息多次消费后,对系统的影响是相同的