技术栈

tair

数据库知识分享者小北
4 小时前
数据库·阿里云·tair
Hybrid Model Support:阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案接着上一节内容对KV Cache存储方案的深入解读,本文介绍了阿里云 Tair KVCache 团队与SGLang 社区在推理框架上的提效——支持混合架构模型的工程化实践。
乘风而来的思绪
1 年前
java·redis·缓存·guava·memcachaed·tair·evcache
【系统设计】高可用之各种缓存对比Local caching, done right, and supporting a wide variety of expiration behaviors.
我是有底线的