llm

【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(开源大模型ChatGLM高级定制化应用实战)在前一面我们介绍了ChatGLM的基本内容,并介绍了ChatGLM的一些常用应用,例如使用ChatGLM完成一些基本的场景问答以及特定信息抽取等.除此之外,ChatGLM还可以完成一些更高级的任务和应用,例如通过提供的文档完成基于特定领域文档内容的知识问答等.不同类型的本地知识库可能对应不同的应用场景.例如,在问答系统中,可以使用维基百科或其他在线百科全书作为本地知识库,以便回答用户的常见问题.在客服对话系统中,可以使用公司内部的产品文档或常见问题解答作为本地知识库,以便回答用户关于产品的问题.在聊天机器

企业级Agent系统整体技术架构介绍随着大语言模型（LLM）技术的发展，Agent 正在从简单的智能对话工具，逐渐发展为能够理解任务、制定计划、调用工具、执行操作并交付结果的智能应用。

Agentic RAG（下）：ES + Milvus 多路召回，再用 Rerank 去噪只用向量检索时，我遇到过一个很典型的问题：自然语言意思接近的内容容易找出来，但订单号、型号、专有名词这类精确字符串不一定稳定命中。反过来，关键词检索能准确找到字面词，却不理解“无线总掉线”和“Wi-Fi 连接不稳定”表达的是同一类问题。

DigitalOcean 无服务器推理实测：六款模型的首 Token 延迟表现你有没有遇到过这种情况：Demo 跑得好好的语音助手，一上生产就被人吐槽"反应太慢"；你翻遍模型规格表，每个都说自己"低延迟"，但真到用户盯着屏幕等回复的时候，谁快谁慢你心里根本没底。

LangGraph4j之三：状态与通道我把上一篇那个客服分流器往下做了一层。分流器跑起来之后，我很快撞上一个真实需求：机器人越聊话越多，每一轮都得把之前的对话都带在状态里，可有些话是临时的，比如用户发错、改口，或者我不该记住的敏感内容，得能让它忘掉。更麻烦的是，不同信息的合并方式根本不一样：对话历史要一条条累加，当前处理阶段是后来的覆盖前一个，而某一条具体消息要能按内容删掉。我一开始在一个大 Map 里手动写 if else 去区分这三种合并，写到三十行就越写越乱，还老分不清哪条消息该留该删。后来我才看懂，LangGraph4j 把这件事拆成

LangGraph4j之二：图模型与节点边我前一篇把整体架构讲完之后，就动手写了一个真实的客服分流器。需求是这样的：一条用户消息进来，先分类，说退款的丢进退款工单队列，说技术问题的，丢给一个「检索论文加起草方案」的子流程。一开始我把分类、路由、子流程全部揉在一段循环加递归里，子流程一多，状态在父子之间怎么传、怎么回，就成了说不清的黑箱。后来我用 LangGraph4j 把这张图画成了数据，分类是一个节点，路由是一条条件边，子流程是另一张图被当成一个节点挂进来。这篇我专门拆图模型这一层：节点和边到底怎么声明，条件边凭什么能决定下一步去哪，子图又为什

Koog(3)——Prompt、LLM Client 与模型调用：Koog 如何抽象大模型访问Koog 的 Agent 需要通过 LLM 完成推理和生成。这篇文章主要讲解 Prompt、LLM parameters、LLM clients、Prompt executors 和 LLM providers 等概念。

救救孩子把

AI面试八股文-02_2-Prompt Engineering 面试题pdf版下载链：https://pan.quark.cn/s/9cc742e9c2a8更新： 2026-10-12 难度： ⭐⭐ 考点：提示词设计、CoT、Few-shot、参数调优

Agent Harness 从用到会造：把工具接上，只是开始负责这是《Agent Harness 从用到会造》第 2 讲。「把工具接上」这件事，行业已经标准化了一半。

用免费算力额度实现markdown TeX混合编码主题及转换根据之前测试的结果，考虑当前3个可用的额度较大的flash大模型的能力，我还是用DeepSeek V4.1flash充当了主力，毕竟，这个问题不是简单的执行，还需要思考。

语音评测显示 Passed，为什么工具调用只有 1/2？作者未执行的任务判定示意；不代表harness/API或设备验收，实际采集/播放待核。小团队给语音配件接上模型、工具和播报之后，往往会先问：这条任务能不能跑通？但评测报告里的 Passed 究竟承诺了什么，也需要先说清。

大模型技术全景(二十二)：RAG 数据入库与向量数据库📚 本文收录于「流浪」的系列专栏🏠 博客主页：流浪｜ 📝 原创首发于 CSDN上一篇我们把嵌入这件事讲透了：文本被转成一列数字，语义相近的对象在向量空间里靠得更近，相似度用什么距离算、模型怎么选，都是那一篇的事。向量算出来之后还面临一个很现实的问题——它得有地方放。放内存里进程一重启就没了，放普通数据库里又查不动，因为「找出最相似的十条」这种问题，传统数据库的索引结构根本答不上来。本篇接着讲知识库构建的最后一环：数据入库，也就是向量存到哪、一条记录里到底要存哪些东西。

William一直在路上

垂直领域大模型训练的一点思考和探索要训练一个擅长特定领域（如医疗、法律、金融或特定企业业务）的大模型，关键在于“选择合适的落地路径”。在实际操作中，几乎不需要（也不建议）从零开始训练一个底层基础大模型。业界主流的通用流程可以分为 4 种路径选择和 5 个核心步骤。

MCP 传输方式实战：stdio、Streamable HTTP、WebSocket 该选哪个自建 MCP Server 那篇发出去之后，被问得最多的一个问题是「Server 搬到另一台机器上，stdio 还能用吗」。答案是不能。stdio 依赖进程间的管道，Server 和客户端必须挤在同一台机器上。要远程部署，就得换传输方式。

救救孩子把

AI面试八股文-01_1-LLM基础概念(Token-上下文窗口-幻觉)pdf版下载链：https://pan.quark.cn/s/9cc742e9c2a8更新： 2026-10-12

MCP 查数实战：让 LLM 安全地查数据库（只读账号、SQL 校验、参数漂移）LLM 系列又一篇。Function Calling 篇讲了工具调用，MCP 篇讲了协议，安全篇讲了密钥。这篇补上模型查数据库的实战。参数会漂移，账号要限权，限制要放在数据库前面。

LangGraph4j之一：客服请求分诊既要循环又要分流，我用 LangGraph4j 把控制流抽成了数据我接过一个真实的活：客服请求进来，先分类，账单类走账单专员，其它走通用专员，账单类处理完还要做二次校验再回流。一开始我用一串 if else 加递归硬写，分支一多，循环和回溯的逻辑就糊在业务代码里，谁改谁怕。后来我换成了 LangGraph4j，把这张图当成数据结构来声明，循环和分流都成了图的边。这篇先把整体架构和「它到底是什么」讲清楚，后面的篇章再逐层拆源码。

用户72174658826

默认校验只覆盖 3.18%：bl dataset validate 抽样窗与 capability 三种返回态的字段级拆解阿里云百炼的 CLI（bl）在微调链路上有两个前置检查，一个管数据集，一个管基座模型。两条命令都不要鉴权，都能在建任务之前跑完，但返回语义都比表面上复杂：bl dataset validate 默认是抽样校验，覆盖率随文件规模非单调变化；bl finetune capability 有三种返回形态，其中一种命令成功、退出码正常、supported 是空数组。

程序员大狐狸

Ultra X7 358H 笔记本电脑，寻找本地用于编码的最强大模型，实测 21.0 tok/s，上下文 256K我的笔记本电脑，CPU 是 Intel 的 Ultra X7 358H，在之前文章《Ultra X7 358H 笔记本电脑，本地部署当红炸子鸡 Qwen3.8-27B-Q4，实测生成速度 5.6 tok/s》中，已完成 Qwen3.8-27B-Q4 模型的本地部署。但是实际生成速度太慢了，于是便想寻找一个适用于本机的用于编码的最强大模型，Deepseek Harness Desktop + Deepseek V4.1 Flash 给我选型了 Qwen3.6-35B-A3B，并帮我部署成功。

用户831455098031

如一 Agent 架构解读（四）：异步整理——压缩不该堵住用户上一篇把压缩展开成一架五级成本阶梯，但那架阶梯有一个共同的隐含假设：所有压缩都发生在模型调用边界，同步执行。这篇拆这个假设。上下文超了就必然要等压缩完成吗？不一定——"算"和"换"本来就不是一回事。