技术栈
tair
数据库知识分享者小北
14 天前
数据库
·
阿里云
·
nosql数据库
·
tair
即将开源 | 阿里云Tair KVCache Manager：企业级全局 KVCache 管理服务的架构设计与实现
【重磅】阿里云 Tair KVCache 团队联合阿里巴巴智能引擎、基础设施与稳定性工程团队即将开源企业级全局 KVCache 管理服务 Tair KVCache Manager，本文详细介绍该服务的架构设计与实现细节。
数据库知识分享者小北
21 天前
数据库
·
阿里云
·
tair
Hybrid Model Support：阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案
接着上一节内容对KV Cache存储方案的深入解读，本文介绍了阿里云 Tair KVCache 团队与SGLang 社区在推理框架上的提效——支持混合架构模型的工程化实践。
乘风而来的思绪
1 年前
java
·
redis
·
缓存
·
guava
·
memcachaed
·
tair
·
evcache
【系统设计】高可用之各种缓存对比
Local caching, done right, and supporting a wide variety of expiration behaviors.
我是有底线的