技术栈

tair

数据库知识分享者小北
14 天前
数据库·阿里云·nosql数据库·tair
即将开源 | 阿里云Tair KVCache Manager:企业级全局 KVCache 管理服务的架构设计与实现【重磅】阿里云 Tair KVCache 团队联合阿里巴巴智能引擎、基础设施与稳定性工程团队即将开源企业级全局 KVCache 管理服务 Tair KVCache Manager,本文详细介绍该服务的架构设计与实现细节。
数据库知识分享者小北
21 天前
数据库·阿里云·tair
Hybrid Model Support:阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案接着上一节内容对KV Cache存储方案的深入解读,本文介绍了阿里云 Tair KVCache 团队与SGLang 社区在推理框架上的提效——支持混合架构模型的工程化实践。
乘风而来的思绪
1 年前
java·redis·缓存·guava·memcachaed·tair·evcache
【系统设计】高可用之各种缓存对比Local caching, done right, and supporting a wide variety of expiration behaviors.
我是有底线的