llm

代码仓库理解：Graphify、CodeGraph、FastContext代码仓库理解项目系列博文：官网，零配置、支持全模态、可本地运行的开源（GitHub，80.7K Star，7.9K Fork）知识图谱工具，能自动构建可交互导航的知识图谱，具备反向链接与关系溯源功能，实现高达71.5倍的Token消耗节省，将此前流行的原始笔记法工作流推向成熟且自动化的新阶段。

AI 聊天长期记忆的向量化处理：从"关键词匹配"到"换种说法也能找到"本文基于 AI Mind 项目的真实实现整理。 GitHub：github.com/HWYD/ai-min… 对应代码版本：v0.4.6 线上链接：ai.hwyblog.cloud/instant-min…

LLM 应用的缓存工程：当每次 API 调用都在燃烧成本在生产环境中运营 LLM 应用，最直接的痛感往往来自账单。随着用户量和交互频次上升，API 调用成本与规模几乎呈线性关系。一个日均处理一万次对话的应用，每次请求携带数千 token 的系统指令和历史上下文，月支出可以轻松突破五位数。更令人困扰的是，大量请求在语义层面高度重复——用户反复问相似的问题、客服场景中同一类别的查询反复出现、定时任务每天带着几乎相同的上下文请求模型做同一类判断。把同样的工作交给模型重复做，然后为每一次推理付费，这显然不是最优解。

程序喵大人

【AI专栏】图解Transformer - 第05章：LLM 推理工程博主介绍：程序喵大人前四章把模型本身拆完了——token 怎么变向量、attention 怎么算、Block 怎么堆、生成循环怎么转。

GPU 算力降本指南：拆解大模型推理账单的 4 个隐藏加价坑上个月你订了一张机票，票价显示只要 283 元。结果最后选个不是中间的座位花了 131 元，托运行李花了 254 元，为了让行李有地方放、买个优先登机又花了 87 元，最后还被加收了一项谁也解释不清的‘航空公司燃油附加费’。原本 283 元的机票，愣是让你掏了 870 元。你以为票价全包了，结果全都被拆开来单独算钱。

生产化的鸿沟：流式、缓存、可观测、红蓝对抗、限流降级与评测 —— 工程化六渡大模型应用从 Demo 到生产需跨越工程化鸿沟。本文从流式输出 SSE、缓存策略、可观测性、红蓝对抗安全、限流降级、评测体系六个切口，给出源码级实现与企业级生产化决策框架。

吃饱了得干活

LangChain 模型调用方案：invoke、stream、batch 的同步与异步在基于大模型开发应用时，如何向 LLM 发送请求、接收回复直接决定程序性能与用户体验。LangChain 基于 init_chat_model 封装了三套核心同步调用接口 invoke、stream、batch，同时配套异步版本适配高并发服务场景。三者底层共用同一套消息结构，但在返回形式、阻塞逻辑、适用业务场景上差异显著。本文聚焦三大核心调用方法，同步对比异步调用，理清选型标准与实战用法。

qKnow 智能体构建平台开源版 v2.2.3 发布：Agent Bot 支持用户自定义工具编排在企业级智能体应用建设过程中，Agent 的定位正在从简单的问答入口，逐步扩展到业务流程协同、数据查询、系统调用、知识库联动和工具执行等场景。

调查研究-224 Prefill 与 Decode 分离：高并发 LLM Serving 的下一层架构备注：版本矩阵全部基于 vLLM 官方文档、Anatomy of vLLM 博客（2025-09-05）、DistServe / Mooncake / Sarathi-Serve / EPD 等公开论文（arXiv + OSDI 2024 + FAST 2025）、vllm-project/vllm GitHub PR、SegmentFault / CSDN 公开拆解文章核查；⚠️ 条目为已披露的安全/版本相关问题，需要运维侧主动升级或缓解。

Typora插件开发指南：打造专属IDE式写作环境Typora作为一款广受欢迎的Markdown编辑器，以其简洁、实时预览和所见即所得的特性赢得了大量用户。然而，随着写作需求的深入，用户常常希望它能像IDE一样，拥有更强大的自定义功能，如代码片段管理、自动化排版、深度集成外部工具等。本文将带你从零开始，探索如何为Typora开发插件，打造一个高度个性化、功能强大的专属写作环境。

MCP 系列（01）：MCP 是什么——为什么 Function Calling 不够你给 Claude 接入了 Jira 工具，能查工单、创建 Issue、更新状态。代码跑通了，团队很满意。

每日一个开源项目（第154篇）：Warp - 从‘好看的终端‘到 Agentic 开发环境"终端正在成为多 Agent 开发者工作流的中枢，而不只是一个命令运行器。"这是"每日一个开源项目"系列的第154篇文章。今天的主角是 Warp——2026 年 4 月宣布开源的 Rust 终端，以 OpenAI 作为发起赞助商，定位从"现代终端"升级为"Agentic 开发环境"。

Model Context Protocol (MCP) 全方位解析在过去的一年里，我们见证了 LLM（大语言模型）从“能说会道”演进到了“能干活”（Function Calling/Agent）。然而，开发者们很快遇到了一个巨大的瓶颈：集成的碎片化。

程序喵大人

【AI专栏】图解Transformer - 第04章：LLM生成博主介绍：程序喵大人前三章已经把 Transformer 里最重要的内部动作讲完了：token 变成向量，向量带上位置，self-attention 读取上下文，multi-head 从多个角度看，FFN 继续加工，Residual 和 Norm 让很多层 Block 可以稳定堆起来。

服务的骨架：网关、负载均衡、容灾、弹性与多机房 —— 推理系统架构五柱推理系统架构决定服务可用性与扩展性。本文从网关设计、负载均衡策略、高可用容灾、弹性伸缩、多机房部署五个切口，给出源码级实现与企业级推理服务架构决策框架。

llm-algo-8深入探讨的 Triton Flash Attention、PagedAttention、W8A16 Quantization GEMM 以及 Multi-LoRA 四大核心算子，你已经触及了现代大模型推理引擎（如 vLLM, SGLang, TensorRT-LLM）最底层的“四根支柱”。

OceanBase 为什么要做 AI 数据库？过去三年，AI 的变化太快了，确实太快了，让大家对于 AI 的需求量和 token 消耗成指数级增长。

代码审查 Agent Harness 实战：AI 自动 Code Review如果你在团队里做过 Reviewer，大概率经历过这些场景：上午打开 GitHub，10 个 PR 等着你，每个 PR 上千行变更，业务逻辑弯弯绕绕，你一个一个文件翻，看到眼睛发酸；好不容易审到一半，业务方过来说"这个 PR 今天必须合"，你只能加速扫读，结果低级 bug 溜进了生产环境；更别提那些缩进混乱、命名随意、硬编码密钥的"风格问题"——你说吧显得啰嗦，不说吧又膈应。

工程基础设施层：MLOps闭环断裂让模型上线即裸奔模型训完没人盯、回滚漏切数据翻车、监控只盯GPU不盯效果。本文从某风控模型真实复盘切入，剖析MLOps链路断裂、三态不一致、监控盲区三个痛点，给出闭环pipeline、三元组版本绑定、效果监控+漂移检测的量化方案。

先吃饱再说

手写一个 mini-cursor：LangChain Agent 开发完全实战摘要：Cursor 能自动写代码、创建项目、执行命令，背后靠的是 Agent + Tool 的组合。本文从零搭建一个 mini-cursor，实现文件读写、目录列表、命令执行等核心 Tool，并用 LangChain 构建 ReAct 循环。读完你会理解 AI 编程助手的底层原理。