分布式

giaz14n9X15 分钟前
数据库·redis·分布式
Redis 分布式锁进阶第六十一篇Redis 分布式锁进阶与生产级优化:从原理到高可用落地 在微服务与分布式架构中,Redis 分布式锁是解决跨进程资源竞争、防止重复提交、保证接口幂等性的核心方案。基础版 SETNX + EXPIRE 仅能满足简单场景,在高并发、长事务、集群部署等生产环境下,易出现死锁、误释放、锁失效、性能瓶颈等问题。本文从核心痛点切入,深度讲解 Redis 分布式锁的进阶优化方案,覆盖原子性、可靠性、高可用、性能调优全维度,助力打造生产级稳定锁服务。 一、基础分布式锁的核心缺陷 传统分布式锁通过 SETNX key v
洛水水2 小时前
分布式·kafka
消息队列与Kafka详解消息队列(Message Queue,简称MQ),本质上就是一个队列,遵循FIFO(First In First Out)先入先出原则。只不过队列中存放的内容是Message(消息),因此得名"消息队列"。
鸿乃江边鸟3 小时前
大数据·分布式·spark
Spark中怎么做Spark canonicalize归一化本文基于Spark 4.0在Spark查询计划的生成过程中,会对逻辑计划进行一次查询计划自上而下的替换:若某段子树与已 cache/persist 的查询 sameResult 相等,就把该子树换成对应的 InMemoryRelation,后续优化/物理规划会直接读内存缓存,而不是重算。 在这个过程中,就会进行逻辑计划的 归一化操作,该操作的目的是为了判断两个计划从语义上来看是否相等。这里分析一下这里的归一化操作是怎么实现的。其实这些实现不仅仅是对于spark来说有用,对于其他引擎也是有借鉴意义的。
SLD_Allen3 小时前
分布式·kafka
Kafka分区与消费者的关系kafka分区和消费者线程的关系kafka中的topic可以细分为不同的partition,一个topic可以将消息存放在不同的partition中。
he___H4 小时前
分布式
数据密集型应用系统设计--其一提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档作者水平有限,一切以作者的理解为主峰值是12K QPS,作者讲述了两种方式,第一种是关系型数据库,我们叫他web模式;第二种是数据流,我们叫他大数据模式。web模式的好处是在用户刷新时才加载新的帖子,如果用户不访问就可以省下一次资源,大数据模式是实时推送缓存,不管用户刷新不刷新都是一次或多次缓存写入,也不太能保证顺序性。作者引出,如果粉丝量大或者只是达到平均75,写入压力都会比较大,不能解决大量粉丝的问题,对于这个twitter的办法是退回方
珠***格6 小时前
大数据·人工智能·分布式·能源·边缘计算
Ⅱ型边缘网关|易部署、易扩容、易改造在分布式光伏、储能电站、工商业园区综合能源项目的建设与改造过程中,传统电力管控设备普遍存在体积庞大、安装繁琐、硬件固化、改造困难、扩容受限等痛点。老旧设备多为一体化固定式设计,功能绑定硬件、结构笨重,不仅新建项目布线部署成本高、周期长,存量系统升级更是面临拆机重构、现场改造工程量大、适配性差等难题,极大制约了新能源项目落地与数字化升级效率。针对行业普遍痛点,西格电力依托成熟的技术迭代经验,打造模块化、轻量化设备设计体系,以硬件模块化、功能软件化的创新架构,实现设备易部署、易扩容、易改造的全维度优势,适配各
无心水6 小时前
人工智能·分布式·架构·openclaw·hermes
17、本地多模态|Qwen-VL离线私有化提取敏感PDF完全指南财务审计、医疗档案、涉密合同——这些包含高度敏感信息的文档,绝不能上传云端。本文手把手教你用Qwen-VL实现全流程本地化PDF表格与文字提取,数据零上传,满足等保合规要求,附完整部署代码和生产级最佳实践。
Solis程序员7 小时前
分布式
分布式 SingleFlight:从单机请求合并到集群级远程调用去重在多 Agent 协作的分布式系统中,不同的业务模块经常需要调用外部大语言模型(LLM)或类似的远程服务。这类调用有两个显著特点:
填满你的记忆8 小时前
分布式·kafka
Kafka 面试题 Top40参考回答:Apache Kafka 是一款开源的、分布式的、基于发布-订阅模式的流处理平台和高性能消息队列。它最初由 LinkedIn 团队开发,并于 2011 年贡献给 Apache 基金会。
oqX0Cazj28 小时前
数据库·分布式·golang
Go-Zero数据库事务实战:本地事务+失败自动回滚+生产避坑+简单分布式事务方案Go-Zero数据库事务实战:本地事务+失败自动回滚+生产避坑+简单分布式事务方案文章标签:#GoZero #数据库事务 #Golang事务 #数据一致性 #微服务实战 #生产避坑
团象科技8 小时前
分布式
出海技术团队分布式落地调研 海外云团队协作开发实操记录摘要: 本文梳理出海技术团队跨地域协作的常见痛点,拆解海外云团队协作开发的落地细节,给相关从业者提供可参考的实操经验。
段一凡-华北理工大学8 小时前
大数据·人工智能·hadoop·分布式·学习·架构·高炉炼铁
工业领域的Hadoop架构学习~系列文章22:Hadoop生态展望 - 面向未来的技术演进导言:大数据技术正在经历深刻变革,云原生化、湖仓一体、AI融合成为新的发展方向。本期深入探讨Hadoop生态的技术演进趋势,分析云原生Hadoop、数据网格、向量数据库等前沿技术,为企业和开发者提供技术路线参考。
snow@li9 小时前
分布式·rabbitmq
RabbitMQ:详解(2026版)/ 基于 AMQP 协议的消息中间件RabbitMQ 是基于 AMQP 协议的消息中间件。生产者发消息到 Exchange,Exchange 按规则路由到 Queue,消费者从 Queue 取消息。核心解决系统解耦、异步处理、削峰填谷。支持消息持久化、ACK 确认、死信队列,可靠性极高。类比:邮局分拣中心,信(消息)不会丢,按地址(路由键)精准投递。
北京阿尔泰科技厂家9 小时前
分布式·以太网·传感器·信号采集·数据采集卡·自动化控制·工业测试测量
长距离分布式采集的新选择——NET9770系列以太网同步数据采集卡技术应用解析在工业测试测量、自动化控制领域,数据采集的同步精度、传输稳定性与通道可扩展性,一直是影响测试系统搭建效果的核心要素。阿尔泰科技推出的NET9770/A/B系列以太网总线多功能同步数据采集卡,依托千兆以太网传输架构与灵活的模块化配置,为多场景分布式测量提供了兼具易用性与可靠性的解决方案。
七夜zippoe9 小时前
大数据·分布式·mapreduce·dolphindb·计算
DolphinDB分布式计算:MapReduce模本文深入讲解DolphinDB分布式计算技术。从分布式计算原理到MapReduce模式,从任务调度到结果合并,从分布式聚合到性能优化,全面介绍分布式计算的核心方法。通过丰富的代码示例,帮助读者掌握分布式计算的核心技能。
半夜修仙9 小时前
linux·运维·服务器·分布式·rabbitmq·java-rabbitmq
4.RabbitMQ运维本文主要总结集群以及仲裁队列,任期这三个大点及细节:一.集群:1.是什么:把多台独立的服务器,组合成一个整体对外提供服务.就是集群.
ai_coder_ai9 小时前
分布式
论多层分布式结构系统的开发在信息化数字化深度落地的当下,企业业务系统的复杂度、数据体量和用户并发量持续攀升,传统单体架构系统耦合度高、扩展能力弱、维护成本高昂、无法适配分布式部署的弊端日益凸显。多层分布式结构系统通过将业务逻辑、数据访问、界面展示等模块分层解耦,实现各层级独立开发、部署、迭代和扩展,凭借高可用性、高安全性、高可维护性等优势,成为企业级应用系统开发的主流架构模式。本人曾参与某大型制造企业生产运营管控平台的开发建设工作,该平台基于多层分布式架构搭建,全面整合企业生产调度、设备管理、物料管控、数据统计、权限运维等核心业务
heimeiyingwang21 小时前
分布式·架构
【架构实战】分布式事务Saga模式:长事务的优雅解决方案2020年,我们的电商系统订单流程涉及5个服务:订单、库存、优惠券、积分、物流。最初用的是TCC模式,每个服务都要实现try/confirm/cancel三个接口。开发量巨大,而且每次新增一个步骤,所有相关的补偿逻辑都要改。
XWalnut21 小时前
分布式·zookeeper
Zookeeper入门监听特定节点监听子节点监听子树这里先比较Zxid,再比较Serverid,并且在开始选举时,都会先投票给自己,然后广播投票内容,其他节点收到广播后再根据上述规则确定是否改变投票。
水木流年追梦1 天前
人工智能·分布式·算法·正则表达式·prompt
大模型入门-大模型优化方法12-YaRN 长文本外推技术在处理大语言模型(LLM)时,我们经常遇到一个核心痛点:训练时设定的最大上下文长度(比如 4K)限制了它的发挥。 如果我们在推理时输入 10K 的文本,由于位置编码(Position Embedding)不具备外推性,模型会直接“抓瞎”,效果急剧下降。