技术栈
分布式
roman_日积跬步-终至千里
5 分钟前
大数据
·
分布式
·
spark
Spark 资源配置与 Shuffle 故障排查生产手册
本文沉淀 Linkis 0.9.3 对接公司定制版 Spark 2.4.5/YARN 时的生产经验。该发行版包含上游 Spark 2.4.5 未必具备的 AQE 实现,涉及 AdaptiveSparkPlanExec、ShuffleQueryStage 的结论不能直接套用到未经确认的上游版本。本文重点回答:
roman_日积跬步-终至千里
11 分钟前
大数据
·
分布式
·
spark
常驻 Spark 引擎的稳定性风险:从一次 Linkis 任务失败说起
在交互式查询场景中,如果每条 SQL 都重新启动 Spark Application,资源申请、Driver 启动和 executor 分配会带来明显延迟。
JAVA面经实录917
1 小时前
分布式
·
面试
·
kafka
Kafka面试题标准答案(面试背诵版)
(1)高吞吐高性能:依托顺序磁盘写入、操作系统页缓存、零拷贝技术、批量消息发送与压缩机制,极大减少IO损耗,单机可支撑几十万QPS,吞吐能力远超传统消息中间件。
hh950
1 小时前
运维
·
分布式
·
负载均衡
·
adg
·
agent plan
·
adg成都社区
Agent Plan x DeepSeek Harness:分布式Agent集群调度与负载均衡
随着人工智能技术的飞速发展,大语言模型(Large Language Model, LLM)在各个领域展现出了强大的能力。从自然语言理解到代码生成,从数据分析到创意写作,LLM正在重塑我们与计算系统交互的方式。然而,单一的LLM实例在处理复杂任务时仍然存在诸多局限:上下文窗口有限、推理能力受限、无法并行处理多个请求、单节点计算资源瓶颈等。
2401_89491553
6 小时前
java
·
服务器
·
前端
·
数据库
·
人工智能
·
分布式
·
搜索引擎
GEO 优化源码全解析:从搜索引擎到 AI 引擎的底层改写逻辑
随着大语言模型和 AI 搜索的普及,内容的分发入口正在从传统搜索引擎逐步转向 AI 引擎。GEO(Generative Engine Optimization,生成式引擎优化)正是在这一背景下出现的新方向。本文将从源码层面拆解 GEO 优化的底层改写逻辑,帮助读者理解 AI 引擎如何理解、抽取并重组网页内容,以及如何通过结构化改写提升内容在 AI 引擎中的可见度。
董可伦
13 小时前
大数据
·
分布式
·
spark
Spark 数据倾斜:原因、定位与处理方法
前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站:https://www.captainai.net/dongkelun
夕除
15 小时前
数据库
·
分布式
redis--007
秒杀下单会生成优惠券订单,存入tb_voucher_order订单表。 数据库自增 ID 存在缺陷bit 位结构:
清风与日月
21 小时前
分布式
·
c#
·
.net
·
.netcore
Yitter.IdGenerator:高性能分布式唯一ID生成器详解
在分布式系统架构中,生成全局唯一的ID是一个基础而关键的问题。无论是数据库主键、订单号、消息ID还是日志追踪,都需要一个可靠、高性能的唯一ID生成方案。
FfHUCisI
1 天前
redis
·
分布式
·
golang
Golang Redis 分布式锁
单机应用里,sync.Mutex 就能保护临界区。但在微服务集群中,多个进程——甚至跨机器——同时操作共享资源(减库存、抢优惠券、定时任务去重),单机锁就无能为力了。这时候需要一个所有节点都能访问的"协调器"来做锁仲裁,Redis 就是最常见的实现载体。
陈皮波比茶
1 天前
分布式
·
rabbitmq
RabbitMQ 消息队列
MQ全称 Message Queue(消息队列),是在消息的传输过程中保存消息的容器。多用于分布式系统之间进行通信。
敖行客 Allthinker
1 天前
ide
·
分布式
分布式远程研发团队,借助云 IDE 统一开发环境
越来越多企业采用异地办公、外包协作、多分部联合开发的模式,分布式研发成为常态。传统本地开发方案高度依赖开发者个人设备配置,不同操作系统、运行时版本、第三方组件很容易引发兼容性故障。
磐链科技
1 天前
分布式
交场景下的钱包开发痛点:并发交易与消息推送的分布式一致性技术方案
交场景下的钱包开发痛点:并发交易与消息推送的分布式一致性技术方案 元链科技:社交场景天然具备高并发与强互动属性。春节期间一场红包活动带来的瞬时请求洪峰,足以让传统单体钱包架构瞬间崩溃。在“发红包-抢红包-拆红包-到账”的极短链路中,并发交易和消息推送的分布式一致性,是社交钱包开发者必须直面的核心命题。
程序员与背包客_CoderZ
2 天前
c语言
·
开发语言
·
数据库
·
c++
·
分布式
·
分布式数据库
·
rocksdb
高性能分布式KV存储引擎RocksDB入门与C/C++编码实战
RocksDB常见的应用场景:分布式数据库的本地存储,如TiKV等,每个分布式节点采用RocksDB存储分片数据。
汽车仪器仪表相关领域
2 天前
大数据
·
数据库
·
分布式
·
功能测试
·
汽车
·
压力测试
·
可用性测试
ZDT‑I伺服电机测试系统:四象限动态加载
ZDT‑I伺服电机测试系统依据伺服电机通用试验规范搭建,采用四象限回馈式电力加载架构,可全真模拟伺服电机空载、负载、过载、制动回馈、频繁启停、高低速瞬态切换等全工况运行状态,集成高精度多参量同步采集、闭环温控调控、多级安全防护、自动化无人试验、合规报告输出能力,一站式完成伺服电机与驱动器成套性能验证,广泛服务于伺服传动研发企业、自动化装备主机厂、第三方检测机构及科研院校,华南区域由广州文明机电提供方案定制、现场安装调试、分层实操培训、计量校准与长期技术运维全周期服务。
骇客野人
2 天前
java
·
开发语言
·
分布式
Java分布式任务调度方案(完整落地指南)
Java分布式任务调度方案(完整落地指南)一、核心概述1.1 什么是分布式任务调度分布式任务调度是指在分布式集群环境下,统一管理、定时/触发式执行后台任务的技术方案,核心解决单体定时任务的痛点:单点故障、任务重复执行、集群负载不均、任务不可控、无日志监控、无法动态配置等问题。
每天一道题
2 天前
分布式
·
python
从 async/await 到幂等恢复:把 Python 并发和 Agent Runtime 一次讲清楚
第一次写出 async def 的时候,我其实有一种很强的错觉:只要把同步函数改成异步函数,再在耗时操作前面加上 await,程序就算“会并发”了。
Zach_菠萝侠
2 天前
分布式
·
深度学习
·
deepseek
【deepseek harness研究】进化方向7:分布式与远程执行 思考、设计与实现
作者:DeepSeek Harness 地址:https://gitee.com/ZachPineappleman/dsh_execution_orchestrator.git
Sayai
2 天前
分布式
·
zookeeper
·
kafka
Kafka 集群开启 SASL 认证实战(二):外置 ZooKeeper 之 kafka 与 zk 间认证
很多场景下 Kafka broker 对内网客户端可以不加认证,但 kafka 与 ZooKeeper 之间的通道必须锁——zk 里存着 broker 元数据和消费者位移,谁都能连上去 rmr / 一键清空。本篇讲外置 ZooKeeper 场景下只做 kafka↔zk 间 SASL 认证的最小配置,不动 broker 对客户端的协议,业务应用零改造。配置在 ZooKeeper 3.6.3 + Kafka 2.5.1 生产集群验证通过。
Sayai
2 天前
分布式
·
zookeeper
·
kafka
Kafka 集群开启 SASL 认证实战(一):内置 ZooKeeper 场景,JAAS 配置全流程
Kafka 集群开启 SASL 认证实战(一):内置 ZooKeeper 场景,JAAS 配置全流程# Kafka 集群开启 SASL 认证实战(一):内置 ZooKeeper 场景,JAAS 配置全流程
海兰
2 天前
分布式
·
kafka
·
linq
【Kafka进阶6】顺序消费深度解析
Kafka 的顺序保证建立在 分区(Partition) 这一核心概念之上。消费者组生产者Topic: ORDER_TOPIC