缓存

程序猿编码5 小时前
c++·深度学习·缓存·大模型推理·自动微分·模型推理
纯 C++ 手写 LLM 推理引擎:分页 KV 缓存、连续批、多卡张量并行全部内置如果你玩过 LLM 部署,大概率经历过这样的痛苦:用 Python 调 API 很快,但一到生产环境就要面对 PyTorch 动辄几个 G 的内存开销、GPU 利用率不到 30% 的尴尬,以及"换个模型就要重装一套依赖"的部署噩梦。
code2cat5 小时前
java·人工智能·缓存·知识库·rag
【随笔】RAG检索缓存:复用证据之前,先把权限和版本放进缓存键用户连续问两次“退款规则是什么”,RAG系统没有必要每次都重新召回相同的文档。但是,另一个租户问同样的问题,或者退款制度刚更新,这个“相同问题”就不再对应同一份证据。
牧瀬クリスだ9 小时前
java·数据库·redis·后端·缓存
Redis五大数据类型全解析:从入门到实战在如今的互联网应用里,几乎没有哪个系统离得开 Redis。首页的商品信息、用户的登录状态、接口的限流计数、实时的排行榜……背后往往都有 Redis 的身影。它是目前最流行的内存数据库,也是后端工程师面试必问、日常必用的中间件之一。
讯捷蓝达10 小时前
缓存
HPE Nimble CS3000存储,断电恢复后,双控缓存异常,存储卷无法正常启动HPE Nimble CS3000 存储阵列 断电后无法访问业务 远程数据恢复 双控制器冗余(Active/Standby),NVRAM 写缓存保护,RAID 6 磁盘组
Lucis__21 小时前
redis·缓存·操作系统·文件·非关系型数据库·1024程序员节
Redis持久化机制解析目录一、持久化1、RDB(1)触发机制(2)流程(3)RDB文件处理(4)优缺点2、AOF(1)概念(2)使用
李纲明1 天前
运维·缓存·https·php·wordpress·cookie
WordPress 后台登录马上被踢回登录页:Cookie 域、HTTPS、盐值和页面缓存怎么查上周帮一个迁完域的站查问题:后台账号密码都对,登录后闪一下仪表盘,马上又回到 wp-login.php。更别扭的是,有人能在 /wp-admin/ 里待着编辑文章,前台一刷新却又变成未登录,购物车、会员入口全丢。这类症状十有八九不是密码错了,而是 Cookie 没真正落稳,或者落稳了又被 HTTPS 配置、盐值、页面缓存其中一层冲掉。
码士集团小青1 天前
linux·服务器·数据库·redis·缓存·1024程序员节
面霸篇:高频 Java 基础问题(核心卷一)面霸篇,从面试题作为切入点提升大家的 Java 内功,所谓根基不牢,地动山摇。只有扎实的基础,才是写出写好代码。
一条泥憨鱼1 天前
数据库·redis·缓存
【Redis | 黑马点评】附近商铺功能源码解读用户打开“附近商户”页面时,页面需要:shop-list.html:90-96:shop-list.html:118-133:
小南家的青蛙1 天前
redis·缓存·1024程序员节
Redis的资料官方文档 FEnchmarking Redis Softwareredis-FEnchmark -h {IP} -p {Port} -a {password} -n {nreqs} -r {randomkeys} -c {connect_numFEr} -d {datasize} -t {command}
深圳市恒星物联科技有限公司1 天前
运维·缓存
排水管网监测后期运维成本高吗?成本构成与控制策略分析排水管网监测的年运维成本通常为硬件总投资的5%-15%。方案选型得当,运维费可压缩至初始投资的3%以内;选型失误或部署粗放,隐性成本可达显性成本的1.5倍。运维成本高低不取决于"要不要做",而取决于"怎么建"。
黄俊懿1 天前
数据结构·数据库·分布式·缓存·架构·系统架构·1024程序员节
【架构师从入门到进阶】第七章:缓存和存储的优化思路——第一节:缓存概述本篇文章我们来学习分布式缓存,这是属于我们应用服务器性能优化的一大块。当我们的网站遇到性能瓶颈时,我们比较常用的一些解决方案中,还有一个非常重要的就是使用缓存。缓存在现在的互联网项目中,几乎无处不在。它既存在于浏览器中,也可以存在于网关中,也可以存在于负载均衡中,也可以存在于应用服务器,也可以存在于数据库当中。也就是说,几乎是方方面面都有缓存的身影。缓存既可以是对数据的缓存,也可以是对文件的缓存,也可以是对页面的缓存。合理的利用缓存对提升网站的性能意义重大。
李纲明1 天前
运维·缓存·https·cdn·wordpress·cloudflare
WordPress 挂上 Cloudflare 后询盘和后台异常:缓存规则、SSL 模式和真实 IP 怎么核上周有个外贸站把域名橙云代理开了之后,前台看起来快了不少,麻烦也跟着来:联系表单提交显示成功,后台却收不到询盘;编辑偶尔会被踢下线;有时样式像抽风,半边 CSS 丢了。直连源站 IP 一切正常,问题几乎都落在 Cloudflare 这一层。
Shaoshing2 天前
java·缓存
缓存一致问题及常见解决方案缓存是数据的副本。只要同一份数据存在两处(DB + Cache),写入时就会有一个时间窗口,期间两处不一致。所以"缓存一致性"不是"消灭不一致"
码士集团小青2 天前
数据库·redis·缓存
Redis 缓存击穿(失效)、缓存穿透、缓存雪崩怎么解决?原始数据存储在 DB 中(如 MySQL、Hbase 等),但 DB 的读写性能低、延迟高。比如 MySQL 在 4 核 8G 上的 TPS = 5000,QPS = 10000 左右,读写平均耗时 10~100 ms。
码士集团小青2 天前
数据库·redis·缓存
硬核 | Redis 布隆(Bloom Filter)过滤器原理与实战在Redis 缓存击穿(失效)、缓存穿透、缓存雪崩怎么解决?中我们说到可以使用布隆过滤器避免「缓存穿透」。
一条泥憨鱼2 天前
数据库·redis·缓存
【Redis | 黑马点评】达人探店功能源码解读“达人探店”是平台上的用户内容模块:核心表是 tb_blog(resources/db/hmdp.sql:24-36):
tianbin9112 天前
java·开发语言·缓存
批处理与微调辅助场景:Claude 中转并发、链路缓存与压测对比前言 除了常规对话、代码助手场景,越来越多团队把 Claude 用于批量文档解析、数据集清洗、标注、SFT 微调数据构建这类批处理任务。批处理场景和交互式对话有本质区别:交互式请求流量零散、追求低延迟;批处理是短时间大量并发请求,持续吞吐,对中转站的并发管控、队列机制、缓存策略、上游限流兜底能力要求极高。很多在对话场景表现不错的中转平台,一上批量任务就大面积报错、排队超时、请求丢失。本文选取 TeamoRouter、packyapi、suanniao.shop、claude.bestswifter.com
2601_962071002 天前
人工智能·缓存
Claude 值不值得用?价格、缓存与 API 接入成本怎么算Claude 值不值得用,我更关心三个具体问题:同一项任务总共花多少钱,重复输入的长文档能省多少,以及接进现有程序要改哪些地方。价格表能帮忙估预算,缓存规则决定重复输入怎么收费,接口差异则影响迁移工作量。
天河归来2 天前
数据库·redis·缓存
请求原子性实现方式:Redis 互斥与数据库事务协同一个请求可能包含多个步骤:读取共享状态、计算新状态、执行多条写入,再返回结果。多线程或多实例同时处理相同资源时,如果这些步骤可以交叉执行,即使每条 SQL 都能正常完成,最终状态仍可能不符合预期。