infra

【infra之路】从 KV Cache 到逐层语义：理解 Decoder-Only LLM 的推理过程本文记录了我学习 AI Infra（以 nano-vllm 为切入点）过程中，围绕 LLM 推理机制产生的几个核心问题及思考。

Memory Search索引模型不匹配故障执行 memory_search 查询时返回错误：所有语义搜索全部失败，历史记忆检索不可用。Embedding 模型配置变更导致存量索引与新期望模型不匹配。语义搜索需要重建索引以匹配当前模型，类似数据库 schema migration。

非社会人士

RL 系统 Infra 笔记：区分不同模型强化学习系统（RLHF/PPO）Infra 学习笔记，从 Infra 视角梳理各模块职责、数据流与训练循环，持续更新。

【MLLM】Qwen3.5模型✦ 基于混合结构，397B总参/17B激活，能力匹配 >1T 参数的 Qwen3-Max； ✦ 原生多模态设计，同量级下多模态任务表现优于 Qwen3-VL； ✦ 覆盖 201 种语言； ✦ 在代码生成、智能体推理与多模态理解方面表现卓越；

我是有底线的