技术栈
tair
数据库知识分享者小北
4 小时前
数据库
·
阿里云
·
tair
Hybrid Model Support：阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案
接着上一节内容对KV Cache存储方案的深入解读，本文介绍了阿里云 Tair KVCache 团队与SGLang 社区在推理框架上的提效——支持混合架构模型的工程化实践。
乘风而来的思绪
1 年前
java
·
redis
·
缓存
·
guava
·
memcachaed
·
tair
·
evcache
【系统设计】高可用之各种缓存对比
Local caching, done right, and supporting a wide variety of expiration behaviors.
我是有底线的