技术栈
多用户隔离
范中勤
2 小时前
redis
·
langchain
·
llm
·
缓存架构
·
多用户隔离
LLM 动态加载与多用户缓存架构技术文档
本文档针对 Agent 项目的动态 LLM 模型加载机制、类 / 实例缓存策略、多用户并发隔离方案、本地缓存与 Redis 分层设计做系统性总结。
我是有底线的