缓存

Together_CZ8 小时前
缓存·llm·compression·kv cache·deepseek·v4.1-flash·推动 kv 缓存压缩的极限
DeepSeek-V4.1-Flash:Pushing the Limits of KV Cache Compression——推动 KV 缓存压缩的极限长时程智能体(long-horizon agents)的广泛应用,使模型工作负载越来越“输入密集”。虽然稀疏注意力等先前工作已经大幅降低了长上下文计算成本,但真正的瓶颈转移到了:
Pioneer0000117 小时前
人工智能·redis·后端·缓存·性能优化·架构
我用 Redis + 网关做多模型 API 路由:缓存命中率 95%+ 的工程实践本文分享一个自建多模型 API 网关的工程实践,重点讲三件事:本文只讨论合规的自建网关与性能优化,不涉及账号共享、绕过地区限制或违规转售。
hweiyu001 天前
redis·缓存
Redis命令:MSETNXMSETNX 仅当指定的全部 Key 都不存在时,一次性创建所有 String 键值对。任意一个 Key 已存在,就全部不写;不是“跳过已有 Key,补齐其他 Key”。
wdfk_prog1 天前
运维·缓存·docker·容器·ros
ROS教程08:从 TransportTCP::connect() 追到 TCPROS Connection Header、序列化与 Socket 数据传输摘要:沿 ROS1 Noetic roscpp 的 TCPROS 数据面源码,追踪连接握手、Header 校验、消息序列化、发送队列、Socket 收发与接收侧组帧。
是Dream呀2 天前
人工智能·分布式·缓存·agent
Harness 工程:让 Agent 真正把任务做完一个模型会调用工具,并不等于它已经是可靠的 Agent。最简单的 Agent 循环并不复杂:把任务交给模型,模型选择工具,系统执行工具,再把结果送回模型。循环持续到模型认为任务已经完成。
努力努力再努力wz2 天前
数据库·redis·缓存
【Redis进阶系列】:从主从复制到 Sentinel,一文建立故障检测、Leader 选举与 Failover 的完整心智模型🔥 本文专栏:Redis 🌸作者主页:努力努力再努力wz💪 今日博客励志语录:你可以暂时没有结果,但不能长期没有积累。
wdfk_prog3 天前
运维·缓存·docker·容器·ros
ROS教程10:从 gtest 到 rostest——Unit Test、Node 集成测试、rosbag 与 rqt 验证闭环摘要:把阶段 06~09 的运行机制转成可重复验证证据:拆分纯 C++ 逻辑与 ROS 包装层,用 gtest、rostest、rqt 和 rosbag 建立最小回归闭环。
程序猿乐锅3 天前
java·数据库·spring boot·redis·缓存
【黑马点评 | 第四篇】Redis缓存雪崩大量缓存集中失效,或者 Redis 服务突然不可用时,请求可能在短时间内集中访问数据库,形成缓存雪崩。解决这个问题不能只改一个过期时间,还要分别处理批量过期、Redis 故障和数据库回源过载。
HanhahnaH3 天前
分布式·缓存
Redis单线程和Tair多线程架构设计对比Redis 采用单线程的事件驱动架构来处理所有客户端请求。具体来说,Redis 使用一个主线程运行事件循环(Event Loop),通过 I/O 多路复用技术(如 epoll、kqueue)监听多个客户端连接。当有请求到达时,主线程会依次从事件队列中取出命令并执行。
wdfk_prog3 天前
运维·缓存·docker·容器·ros
ROS教程07:从 ros::start() 顺着源码读懂 Master、XML-RPC 与 Topic 注册发现摘要:沿 ros::start() 的真实调用顺序逐层阅读 Poll、XML-RPC、Topic、Service 与 callback 源码,再回看 Publisher/Subscriber 的注册发现全过程。
Escalating_xu4 天前
linux·缓存
【内存管理发展史】从 8086 实模式到分页:CPU 如何把虚拟地址变成物理地址🔥 星光编译者 · 个人主页📚 学习专栏: 《C/C++ 成长笔记》 · 《Linux 实践手册》 · 《数据结构与算法》
wdfk_prog4 天前
运维·缓存·docker·容器·ros
用 Git Submodule + Sparse Checkout 管理 RT-Thread:内核、BSP、第三方库与业务代码分层实践摘要:用 Submodule 锁定 RT-Thread 与第三方依赖版本,用 Sparse Checkout 精简工作区,并保持业务代码、构建配置和上游同步边界清晰。
努力努力再努力wz4 天前
缓存·docker·容器
【Docker入门系列】镜像为什么能复用?一文吃透 Docker Image、Registry、运行时架构与常用命令🔥 本文专栏:Docker 🌸作者主页:努力努力再努力wz假设我们实现了一个 C++ 网络服务器:
shark-chili4 天前
数据库·人工智能·redis·macos·缓存
关于AI辅助编程的认知模型能力越来越强大,工程师交付质量没有提升,不是AI不够强大,而是你的指令不够完整。vibe coding本质是通过自然语言描述,让模型去猜,产出的结果存在随机性,亦或者说深度依赖于强模型语义识别能力。
oioihoii4 天前
缓存
在 Kubernetes 上管好数据库:金仓 KES-Operator 正式落地随着业务系统大规模迁移到 Kubernetes,应用的部署与资源调度方式发生了根本性变化。数据库作为典型的有状态负载,一旦进入 K8s 环境,就不再只是"把实例跑起来"那么简单——它要和计算、存储、网络等多类资源协同,运维的复杂度随集群规模线性上升。过去依赖人工逐台部署、配置、巡检的模式,在这种动态环境里很快会触及天花板。
wdfk_prog4 天前
运维·缓存·docker·容器·ros
ROS教程06:ROS1 Node 启动与停止流程摘要:围绕 ROS1 roscpp 的 Node 生命周期,说明共享库与 main 前静态初始化、ros::init、NodeHandle、ros::start、shutdown 的关系,并在 Docker 中接入 rqt GUI。
Doris__HE4 天前
运维·服务器·数据库·缓存·性能优化
【元脑服务器NF8480G7-NF8480M7技术规格分享】##4U元脑NF8480G7*以上数据来源于文档《元脑服务器 NF8480G7系列 技术白皮书_Intel配置 V1.0》文档更新日期:2024年4月16日;
吉甫作诵4 天前
运维·数据库·redis·缓存·nosql
Redis 常用命令大全:11 大类命令速查手册Redis 是运维日常接触最多的内存数据库之一,命令数量多、参数杂,排查问题时经常需要临时翻文档。本文按数据类型和功能分类,整理 Redis 最常用的 11 大类命令,全部以速查表形式呈现,方便按需检索和收藏。
hweiyu005 天前
redis·缓存
Redis命令:MGETMGET 一次读取一个或多个 String Key 的值,返回与 Key 顺序一一对应的值列表。不存在的 Key、以及值不是 String 类型的 Key,在结果中对应位置返回 nil,因此这条命令永远不会因个别 Key 而失败。它是 GET 的批量版本,核心价值是把 N 次网络往返压缩为 1 次。
墨天梦5 天前
缓存·架构
07-KVCache与缓存友好架构「AI-Agent 面试深度指南」· 模块二 · 上下文工程 · 第 7 篇 / 共 32 篇两个团队用同一个模型、做同一个客服 Agent,月度账单差了 4 倍。排查下来,差别不在模型,而在缓存命中率:A 团队的系统提示与工具定义被固定在上下文最前面,命中率 92%;B 团队把当前时间戳放在了 system 提示的第一行,命中率常年接近 0。