缓存

rebibabo1 小时前
java·缓存·cas·缓存一致性·cache line·longadder·mesi协议
Java高并发底层原理(六)—— 多核 CPU 如何保持缓存一致CAS 能够在不使用 Java 锁的情况下完成原子更新,但它仍然需要硬件保证“比较”和“写入”不会被其他 CPU Core 同时破坏。问题在于,现代 CPU 不会让每个 Core 都直接访问主内存。为了缩小 CPU 与内存之间的速度差距,数据通常会先进入 Cache,同一份数据也可能同时出现在多个 Core 的缓存中。
nVisual1 小时前
android·人工智能·缓存
nVisual:AI驱动的智能排障,平均响应时间缩短40%当告警响起,运维团队面临的第一个难题不是"怎么修",而是"在哪里"——在这种模式下,“找一个故障的位置,比修复它本身更耗时” 成了运维团队的集体痛点。
阿拉斯攀登2 小时前
人工智能·缓存·性能优化·embedding·agent·loop·rag
RAG 性能优化:缓存、批量与并发RAG 系统跑起来容易,扛住并发难。用户多了响应慢、成本高怎么办?这篇讲 RAG 系统的性能优化:检索加速、Embedding 优化、大模型调用优化、缓存策略、并发处理,从延迟和成本两个维度优化。
XLYcmy20 小时前
缓存·ai·启发式算法·图神经网络·遗传算法·数模·模拟退火
核内调度问题的分层优化:缓存管理与性能均衡策略 模型评价 模型缺点与改进方向6.2 模型缺点与改进方向针对问题 1 所构建的调度模型,虽然在控制缓存驻留峰值(max(Vstay))方面表现出良 好的基础性能,但受竞赛时间等因素所限,该模型仍存在可进一步优化的局限性:
随风一样自由1 天前
前端·react.js·缓存
【前端+React+缓存竞态】导航切换缓存刷新机制切换导航页面时,自动从两个 NE(网元)接口获取真实数据,内部页面使用缓存数据展示。同时提供请求去重、竞态条件防护、异常兜底等机制,确保页面在数据加载失败时不会白屏。
桌面运维家2 天前
运维·服务器·缓存
如何用半缓存云桌面将服务器硬盘容量扩展至本地终端?教学机房常面临终端本地硬盘(如128GB SSD)空间不足的问题,难以容纳多套教学环境或大型软件。逐台更换大容量硬盘成本高昂。澄成 vDisk 的半缓存云桌面模式提供了一种替代方案:将操作系统镜像与应用程序数据集中存放于服务器,终端按需流式加载,实际占用本地空间远小于完整镜像,从而将服务器存储容量有效扩展至本地终端。本文阐述其工作原理、配置方法、适用场景及技术边界。
YOU OU2 天前
数据库·redis·缓存
Redis初识用于存储数据,内存中存储定义变量不就是在内存中存储数据,为什么还要使用Redis:Redis在分布式系统中可以发挥其功能,如果是单机程序,直接通过变量存储数据的方式比Redis更优
livemetee2 天前
数据库·redis·缓存
【关于redis高性能,高可用处理】Redis 之所以强大,很大程度上归功于它丰富且高效的数据结构。Redis 的数据结构可以分为 5 种基础数据结构 和 多种高级/特殊数据结构。
Ricky_Theseus2 天前
java·spring·缓存
CrewAI 生产化:缓存、回调、LLM 配置CrewAI 在生产环境中需要关注三个核心配置维度。Cache 机制对 Tool 调用做输入哈希缓存——相同输入命中缓存则跳过执行,直接返回上次结果。Callbacks是挂载在 Crew 事件上的钩子函数,用于日志、监控和远程追踪。LLM 配置在 Agent 级别通过 llm 参数传入模型对象,支持 model、temperature、max_tokens、api_key 等参数的不同组合。
青山木2 天前
java·数据结构·算法·leetcode·链表·缓存·哈希
Hot 100 --- LRU 缓存本文概览:本文以LeetCode经典题目"LRU 缓存"为例,从普通哈希表的局限入手,分析为什么需要额外的数据结构来维护访问顺序,最终引出哈希表 + 双向链表的经典组合,实现 O(1) 时间复杂度的 LRU 缓存
闪电悠米2 天前
数据库·redis·缓存
黑马点评-Redis Set-实现关注、取关和共同关注本文整理自黑马点评 Redis 实战篇第 9 章前半部分。第 9 章的主题是「好友关注」,前半部分主要解决两个问题:用户如何关注/取关另一个用户,以及如何用 Redis Set 快速查询共同关注。
无小道2 天前
数据库·redis·缓存·哨兵
Redis——哨兵哨兵就是一种自动监视程序(即一个进程),他可以监视redis主从架构,自动故障转移,通知故障。如果主从架构中的主节点瘫痪,哨兵可以自动推举出新的主节点(避免了人工干预),恢复写功能;如果主从架构中的从节点瘫痪,哨兵可以将该节点标记为不可用并使得客户端得知该消息,客户端就会从其他节点进行读取。
风向决定发型丶2 天前
数据库·redis·缓存
redis集群搭建Redis Cluster 是 Redis 官方提供的分布式、高可用数据分片解决方案。它彻底改变了 Redis 单机或主从架构的局限,使 Redis 能够水平扩展以支撑海量数据和高并发场景。
宠友信息3 天前
数据库·spring boot·redis·缓存·架构
多端数据互通场景下Spring Boot仿小红书源码结构设计仿小红书类产品做起来最容易被低估的地方,不是图文发布、短视频发布、多图上传、点赞评论、收藏关注这些功能本身,而是数据量上来以后,系统会不会开始变慢、变乱、变得难以维护。
长不胖的路人甲3 天前
数据库·redis·缓存
Redis 缓存的数据持久化方案讲解我们项目里 Redis 主要做热点数据缓存,正常缓存逻辑是:数据库存全量数据,Redis 放高频访问数据。 但如果 Redis 宕机、服务器重启,内存里缓存数据会全部丢失:
长不胖的路人甲3 天前
数据库·redis·缓存
Redis 单线程为什么速度很快Redis核心处理网络请求、执行命令的主线程是单线程,但它并不是整个程序只有一个线程,持久化、异步删除、集群同步等操作都会启用子线程 / 后台线程。 它单线程还能做到高性能,核心有下面几点原因:
明哥聊AI4 天前
java·开发语言·缓存
【推理与部署篇14】Prefix Caching深度解析:从自动前缀缓存到语义缓存的推理加速实战【推理与部署篇14】Prefix Caching深度解析:从自动前缀缓存到语义缓存的推理加速实战 系列文章:推理与部署篇(共30篇) 本文为第14篇,前13篇已覆盖:推理框架对比、vLLM、SGLang、TensorRT-LLM、量化、基准测试、投机采样、KV Cache优化、连续批处理、模型并行、服务化部署、成本优化、PD分离 面向对象:AI大模型开发工程师面试准备 & 生产实战 技术时效:内容跟进至2026年7月最新进展
CCPC不拿奖不改名3 天前
linux·服务器·数据库·redis·深度学习·缓存·rag
Redis 工程化部署深度解析📖 本文档定位:本文是 Redis数据库工程化部署安装流程.md 的配套解析文档。部署流程文档回答「怎么做」,本文档回答「为什么这么做、每条命令的原理是什么、不这么做会怎样」。
想吃火锅10053 天前
算法·leetcode·缓存
【leetcode】146.LRU缓存jsLRU是“Least Recently Used”的缩写,意思是“最近最少使用”。它是一种缓存淘汰策略,核心思想是:当缓存空间满了,需要淘汰数据时,优先淘汰那些最长时间没有被访问的数据。(学过操作系统页表那边应该深有体会吧要手工写的!)
小七-七牛开发者13 天前
缓存·agent·token·context·上下文·推理成本
TokenPilot:让 LLM Agent 长会话成本降 60%+ 的上下文管理今天解读的这篇论文叫 TokenPilot: Cache-Efficient Context Management for LLM Agents,作者来自浙江大学、电子科技大学、西安电子科技大学和 HomologyAI。