llm

AI 写代码之后，Code Review 会议怎么开写完 /weekly-report[1][2] 之后发现同一套思路还能再用一次：代码 review 会前，也得把这段时间的提交整理成一份能讲的东西。会上被问"这里为什么这么改"，自己都未必答得上来，毕竟现在很多代码本身是 AI 写的，没细看过的代码讲不出个所以然。

【AgentScope 2.0】 0. 学习指南版本基准:本文档基于 AgentScope 2.0 GA(v2.0.0)编写。具体版本号以 Release Notes 为准。

vllm源码剖析14-vLLM 分布式推理-专家并行EP大模型的算力与显存瓶颈，随着大模型规模越来越大，参数量动辄上百亿，但我们的显存和算力却跟不上。尤其是在 Transformer 的 Decoder 层中，除了 Attention 之外，参数量最多、计算最重的部分就是 MLP（多层感知机）层

框架的擂台：LangChain、LlamaIndex、Dify、AutoGen 与 LangGraph —— 应用框架选型五局应用框架屏蔽底层复杂度，加速大模型应用开发。本文从 LangChain 编排生态、LlamaIndex 知识增强、Dify 低代码平台、AutoGen 多 Agent 对话、LangGraph 状态图编排、框架选型决策六个切口，给出源码级对比与企业级选型框架。

【 LLM】Agent Planning 完全指南：8 种纯 LLM 范式 + 8 种混合规划模式详解（一）💡 核心摘要：Planning 是 Agent 面对任务时，决定“怎么做”“先做什么后做什么”“用什么工具做”的核心过程。本文系统梳理 8 种纯 LLM 规划范式与 8 种混合规划模式，每种均配有直观流程图、适用场景与工程实现要点，助你根据实际需求选择最合适的方案。

LLM 的"严谨"与"胡说"：temperature、Top K + LangChain 工作流摘要：LLM是概率引擎，每个词都是从概率分布中抽出来的。temperature控制发散度，TopK限制候选池，两者配合决定输出是严谨还是创意。本文用LangChain搭双链条同一主题两套参数，直观对比真实效果。

带刺的坐椅

Solon AI：Tool 与 Talent 怎么选？从函数到领域专家多数 Agent 教程停在工具层：给模型一个函数 Schema，指望它会正确调用。这对 get_time、hash_string 够用；一旦模型跳过知识库检索就直接开工单，或把几十上百个 API 全塞进上下文，就会崩。

AINative软件工程

LLM 账单来了，却不知道哪个功能在烧钱：Cost Attribution 工程实践每个月 LLM 账单 6 万块，CFO 来问你"AI 写作功能花了多少钱"，你答不上来。这不是成本控制问题，是工程问题。

LLM 是怎么"随机"说话的 —— Temperature、Top-K、Top-P 详解你有没有想过一个问题：大模型每次生成文本，为什么能给出不同的回答？同一个 Prompt 问三遍，回答可能每次都不一样。这种"随机性"不是 bug，而是刻意设计的结果——而控制它的核心，就是三个参数：Temperature、Top-K、Top-P。

一起努力啊～

DataWhale组队学习笔记--llm-algo-leetcode(五)在大语言模型（LLM）的部署和推理优化中，vLLM 提出的 PagedAttention（分页注意力机制）是一个里程碑式的突破。它直接解决了大模型在生成长文本时，显存（GPU Memory）被严重浪费的核心痛点。

大模型蒸馏是啥？说白了就是大厨带徒弟的学问前阵子刷到 OpenAI 和 DeepSeek 的争议新闻，我当时啃着瓜就下了结论：不就是拿大模型的输出训自己的小模型吗，说白了就是抄答案走捷径。直到这周专门去捋知识蒸馏的原理，才发现我之前的理解，连核心都没摸到 —— 这玩意儿根本不是背答案那么简单。

从“胡说八道”到“妙笔生花”：我用LangChain手搓了一个可控AI写作流（Temperature+TopK调参指南）揭秘LLM文本生成中的“可控随机性”，从概率分布到采样策略，再到LangChain工作流实战你有没有遇到过这种情况：同样的Prompt问AI两次，得到的答案却截然不同？一次惊艳得像文学大师，一次又平庸得像小学生作文。这种“随机性”到底是大模型的“精神分裂”，还是背后有一套精密的控制逻辑？

AI 评测系列（03）：LLM-as-Judge——让 LLM 评价 LLM 的正确姿势LLM-as-Judge 把一个 LLM 的输出质量评估任务，交给另一个（或同一个）LLM 来完成。基本形态有两种：

Darling噜啦啦

揭秘 LLM 的随机性黑盒：从 Temperature + Top-K 到 LangChain Chain 工作流实战你有没有想过：为什么同一个问题问 ChatGPT 两次，答案可能不一样？为什么 LLM 有时候严谨得像律师，有时候又天马行空像诗人？这一切的背后，是概率分布和采样策略在作祟。本文将从 LLM 生成文本的底层原理出发，深入解析 temperature 和 topK 两个核心参数，再用 LangChain 的 PromptTemplate + StringOutputParser + .pipe() 构建可复用的 AI 工作流，让"随机性"真正为你所用。

AI Agent 的安全挑战与防护策略随着人工智能技术从“对话式AI”向“行动式AI（AI Agents）”演进，Agent 能够自主调用工具、操作数据库并执行复杂任务。然而，这种能力的提升也带来了前所未有的安全风险。

AI 评估：深度对比 Ragas 与 DeepEval在 AI Agent 和 RAG（检索增强生成）系统的开发过程中，开发者面临的最大痛点是：“我改了一个提示词或参数，系统表现变好了还是变差了？”

AI Agent 评估的六个核心维度在人工智能领域，Agent（智能体）正从单纯的聊天机器人进化为能够自主规划、调用工具并完成复杂任务的系统。为了准确衡量一个 Agent 的优劣，业界通常从以下六个核心维度进行全面评估。

「AI 应用工程实录」系列 · 02「AI 应用工程实录」系列 · 02 当 AI 判断错了，什么东西能拦住它？做 AI 客服、AI 审核、AI 排查这类系统时，客户最怕的从来不是"AI 不够聪明"，而是——

AI 应用工程实录「AI 应用工程实录」系列 · 01 学 RAG 时，我为什么放着现成框架不用，偏要自己手写两版检索。