分布式

【D'accumulation】2 小时前
分布式·kafka
Kafka地址映射不通(很常见的问题)Kafka 启动成功bootstrap.servers 也写对了但程序仍然报错TimeoutException: Failed to update metadata
数翊科技8 小时前
分布式
深度解析 HexaDB分布式 DDL 的全局一致性在分布式数据库(尤其是基于 Shared-nothing 的 MPP 架构,如 HexaDB)中,DDL(数据定义语言)的执行远比单机复杂。系统不仅要保证成百上千个 DN(Data Node)节点的数据结构变更原子性,更要在多 CN(Coordinator Node)并发入口下,保证元数据(Metadata)的全局视图一致。本文将深入 HexaDB 内核,揭秘基于 GTM 全局事务管理和两阶段提交的 DDL 实现机制。
Tony Bai11 小时前
大数据·数据库·分布式·架构
【分布式系统】03 复制(上):“权威中心”的秩序 —— 主从架构、一致性与权衡大家好,我是Tony Bai。欢迎来到《分布式系统:原理、哲学与实战》微专栏的第三讲。在上一讲中,我们为所处的现实世界绘制了一张精准的地图。我们知道了节点会崩溃,通信会延迟,时间会撒谎。面对这样一个充满不确定性的环境,一个孤立的节点就像一叶扁舟,随时可能在风暴中倾覆。
txinyu的博客19 小时前
开发语言·c++·分布式·网络协议·http
HTTP服务实现用户级窗口限流对每个用户,在【任意连续的 100 秒】时间范围内,累计请求次数不得超过 60 次。补充:区别于「固定窗口限流」(比如每 100 秒一个区间),固定窗口有致命缺陷:比如用户在第 99 秒发 60 次、第 101 秒再发 60 次,这 2 秒内实际请求 120 次,但固定窗口会判定合规,而滑动窗口能精准规避这个问题,完全匹配「任意 100 秒」要求,是该场景的唯一正确选型。
独自破碎E19 小时前
分布式·rabbitmq
RabbitMQ中的Prefetch参数在RabbitMQ中,prefetch参数主要是用于限制消费者端可以同时预取并未确认消息的最大数量,帮助消费者端控制消息处理的流量。
深蓝电商API20 小时前
分布式·爬虫·scrapy
Scrapy+Rredis实现分布式爬虫入门与优化分布式爬虫是解决单台机器爬虫效率低下、爬取范围有限、容易被反爬限制等问题的核心方案,而Scrapy+Redis的组合凭借其轻量、高效、易扩展的特性,成为分布式爬虫开发的主流选择。本文将从入门基础到实战优化,全面讲解如何基于 Scrapy 和 Redis 搭建稳定、高效的分布式爬虫系统。
回家路上绕了弯21 小时前
分布式·后端
定期归档历史数据实战指南:从方案设计到落地优化在后端系统运行过程中,业务数据会不断累积——订单表、交易流水表、用户操作日志等核心表的数据量可能从百万级快速增长到千万甚至亿级。大量历史数据会导致查询性能下降、存储成本攀升、备份恢复耗时增加等问题。定期归档历史数据,将不常用的历史数据迁移至低成本存储介质,是保障系统长期稳定运行的关键手段。本文从场景分析、方案设计、实战实现到优化避坑,完整拆解定期归档历史数据的全流程。
rchmin1 天前
分布式·cap
Distro与Raft协议对比分析本文我们来对 Distro协议(来自Nacos)和 Raft协议 进行详细的对比介绍。这两者都是为了解决分布式系统中的核心问题——数据一致性与可用性,但它们的定位、设计理念和应用场景有显著差异。
小辉笔记1 天前
分布式·kafka
kafka原理总结topic是逻辑分层,而Partition是真实的物理分层 每个partition就是存储的一个文件夹,里面有三个文件组成
实战项目1 天前
分布式
分布式协作入侵检测系统的报警信息管理随着全球信息化进程的加速,网络已经成为现代社会不可或缺的组成部分。然而,网络空间的安全问题日益凸显,网络安全事件频发,对国家安全、社会稳定和人民群众的切身利益造成了严重威胁。入侵检测系统(IDS)作为网络安全防御体系的重要组成部分,其作用在于实时监测网络流量,识别和响应潜在的入侵行为。
无心水1 天前
java·人工智能·分布式·架构·限流·分布式利器·腾讯tsf
【分布式利器:腾讯TSF】10、TSF故障排查与架构评审实战:Java架构师从救火到防火的生产哲学在微服务架构大规模落地的今天,腾讯微服务框架(TSF)凭借其一站式的服务治理、配置管理、可观测性能力,成为众多企业构建稳定微服务体系的核心选择。但生产环境的复杂性注定了故障难以完全避免——注册中心脑裂导致服务调用失败、限流规则未生效引发服务过载、链路追踪中断无法定位问题……这些场景往往让架构师陷入“救火式”的被动应对。
小北方城市网2 天前
java·数据库·redis·分布式·python·缓存
分布式锁实战指南:从选型到落地,避开 90% 的坑在单体应用中,我们用本地锁(如 Java 的 synchronized、Python 的 threading.Lock)就能解决并发问题。但在分布式系统中,多个服务实例共享同一资源(如库存、订单号、分布式任务),本地锁完全失效 —— 因为本地锁只能控制单个进程内的线程,无法跨机器、跨进程同步。此时,分布式锁就成了解决分布式并发问题的核心工具。
范桂飓2 天前
人工智能·分布式
大模型分布式训练框架 Megatron-LMMegatron-LM 最初于 2019 年发布,是由 NVIDIA 开发的 Transformer 大模型高效训练框架。它专为数千亿甚至数万亿参数的模型二设计,具有高度可扩展性和灵活的并行策略。Megatron-LM 已经成为许多大语言模型预训练任务的首选框架。
oMcLin2 天前
分布式·mysql·debian
如何在Debian 11上通过配置MySQL 8.0的分布式架构,提升跨区域数据同步的效率与延迟?在全球化服务背景下,数据库跨区域数据同步已成为提升业务可用性、降低访问延迟、保障容灾能力的核心需求。传统主从复制在跨区域部署时往往因网络延迟、复制滞后而难以满足高实时性需求。A5数据聚焦在 Debian 11 环境下搭建 MySQL 8.0 原生分布式架构(以 Group Replication 与 InnoDB Cluster 为核心),从硬件选型、系统配置、架构设计、参数调整到性能测试与优化,全方位呈现一个可实战落地的解决方案。
一条咸鱼_SaltyFish2 天前
java·大数据·经验分享·分布式·微服务·架构·ai编程
[Day15] 若依框架二次开发改造记录:定制化之旅 contract-security-ruoyi近期在开展基于若依框架的项目时,面临一些特定业务需求,需进行定制化二次开发。在此记录主要改造工作,为有类似需求的朋友提供参考。需强调的是,本模块基于若依项目二次开发,仅作学习用途,不用于盈利。
maozexijr2 天前
分布式·rabbitmq
注解实现rabbitmq消费者和生产者首先在 pom.xml 中添加 RabbitMQ 依赖:上面的代码里生产者需要知道exchange和routingkey,消费者除queue外,为什么也要知道exchange和routingkey?
IT 行者2 天前
redis·分布式·spring
Spring Security 7 OAuth2 授权码分布式存储之Redis存储方案在分布式系统中,OAuth2 授权码模式需要多个服务节点协同工作。当用户通过授权码换取访问令牌时,任何一个服务节点都能正确处理该请求,这就要求授权码及其关联的授权信息必须存储在共享存储中,而非本地内存。
潇凝子潇2 天前
分布式·kafka
kafka之监控告警https://kafka.apache.org/kafka uikafka-eaglekafkio通过kafka 对外提供的jar 来进行自研管理kafk
Light602 天前
大数据·分布式·spark
从“报告”到“能力”——构建智能化、可审计的数据治理闭环——领码 SPARK 数据质量平台白皮书在传统的数据质量管理中,报告往往以 PDF、Word 或静态表格的形式存在。这种模式存在口径分散、更新滞后、规则难以复用、审计链路薄弱等根本性缺陷,直接影响决策效率与业务执行力。
maozexijr2 天前
分布式·rabbitmq
RabbitMQ Exchange Headers类型存在的意义?在绝大多数日常业务场景中,Headers 交换机确实几乎用不到,甚至可以说「非必需」—— 因为 Topic 交换机的灵活性已经能覆盖 99% 的路由需求。但它并非完全无意义,存在一些特殊且小众的场景,用 Headers 交换机会比其他类型更优雅、更贴合需求,接下来我会把这些场景讲清楚,同时告诉你为什么日常开发中我们几乎不用它。