llm

Dify 本地部署、Ollama 与 Xinference 集成：踩坑与最佳实践指南目标：在本地（以 Windows 为主）搭建一套完全本地化、可离线运行的 AI 应用平台，包含：典型调用链：

吃饱了得干活

Agent 的架构、多智能体与落地：从 Demo 到生产系统本文是「Agent 基本概念」系列第五篇，也是最后一篇。前四篇分别讲了 Agent 是什么、由哪些组件构成、如何决策与规划、记忆与工具。这一篇回答最后一个问题：如何把 Agent 从 Demo 变成生产系统。系列规划：① 什么是 AI Agent → ② 核心组件 → ③ 决策与规划 → ④ 记忆与工具 → ⑤ 架构与落地。

CoderJia程序员甲

GitHub 热榜项目 - 周榜(2026-10-03)生成于：2026-10-03共发现热门项目： 18 个Token赞助：siliconflow前些天发现了一个巨牛的人工智能学习网站，通俗易懂，风趣幽默，忍不住分享一下给大家。点击跳转到网站。

从零到一搭建企业级智能问答系统：Ch12 · 结构化输出与工具调用覆盖提交：8fe91c5（初版 Agent 骨架：advanced_rag_agent.py 的 _parse_react_output / _parse_plan_result 与查询改写的内联解析）· dc7cf3b（LangGraph 改造：langgraph_rag_agent.py 的 _parse_classify / _parse_json_list）· 6083d73（MCP 改造：mcp_server.py + skill_framework.py 的工具 schema 与参数校验）·

LangChain 之五：智能体与工具之四我们把检索链路拆完了，知道一段运维手册怎么切块、嵌入、入库，最后被 Retriever 包成 Runnable 捞出来。但之四留了两个问题一直没答：捞出来的文档要怎么变成模型的「工具」让它能主动去查？还有，模型吐出「我要调搜索工具」这个决定本身，是谁在循环里做的？

从零到一搭建企业级智能问答系统：Ch11 ·大模型调参与效果评测你把 top-k 从 5 调到 10，看了一圈，说"好像好点了"。但如果答案根本没被召回到，调 top-k 一点用都没有；如果答案排在第 12 位，调 top-k 才有用。这两种情况在"感觉"的层面长得一模一样。

【第三部分：第一个 Agent 应用】14. 开发一个完整的企业知识助手：从 RAG 到 Agent前面的文章，我们已经分别介绍了 Context Engineering、Function Calling、Structured Output、RAG、Agent Loop、状态机和 Memory。这些能力单独使用时并不复杂。真正进入企业应用以后，问题变成：怎样把这些能力组合成一个真正可以被员工使用的知识助手？

短期内不存在通用 AI 工作流魔法过去两年，AI 自动化领域出现了一个被反复推销的命题：存在（或即将出现）一种通用的 AI 工作流框架，能够跨模型、跨平台、跨部署形态地编排提示词、工具调用、多代理协作、上下文管理与故障恢复。采用它，就能“专注于业务逻辑”，把工作流的复杂性交给框架。

ai-agent教程-03-大模型接口与工具调用本章目标:搞懂 Agent 与模型交互的全部接口细节——消息格式、token、采样参数、流式、结构化输出、function calling;再学会「设计一个好工具」, 这是 Agent 能力边界的关键。

langchain与langgraph区别以及学习路线可以把它们先理解成一句话：LangChain 是“构建 LLM 应用的工具箱”，LangGraph 是“构建有状态、可循环、可控 Agent 工作流的运行框架”。

ai-agent教程-00-前言与导读本章目标:说明这本教程要解决什么问题、适合谁读、按什么顺序读, 以及如何亲手运行配套的 mini-agent 代码,把原理变成可执行的代码。

ai-agent教程-01-认识AI-Agent本章目标:给 AI Agent 一个可操作的定义,厘清它与 LLM 应用 / Workflow / RAG 的边界, 拆解它的能力栈,并建立一个用于全书的分类学。

ai-agent教程-02-核心原理与架构本章目标:深入 Agent 的心脏——「感知-思考-行动-观察」循环; 讲透 ReAct 为什么有效;介绍规划、反思、子任务分解; 以及几种经典的 Agent 架构模式与控制流设计。

ai-agent教程-04-记忆管理本章目标:建立 Agent 记忆的完整分类学;讲透短期滑窗、向量检索、摘要压缩、 RAG、工作记忆的实现与取舍;最后讨论遗忘与隐私——记忆不是越多越好。

AINative软件工程

LLM 应用的 HTTP 连接池工程实践：配置错了，高并发下 AI 服务会悄悄变慢一句话摘要：LLM API 调用不是普通 HTTP 请求，它的长超时、流式响应和高并发特性会让默认连接池配置在生产中悄悄制造 P99 延迟劣化。本文从真实事故出发，系统讲解连接池核心参数、Keep-Alive 陷阱、连接泄漏检测与高并发调优实践。

多智能体编排的三个点同一个模型，放在不同的系统结构里，产出质量差异很大。Harness engineering 的实测数据：控制模型不变，系统结构可将每任务成本降低 41%、墙钟时间降低 44%、Token 消耗降低 38%，质量持平。

你的 Prompt 没有测试覆盖：聊聊 LLM 应用的评估集工程改一行 Prompt 就敢直接上线，是 LLM 应用团队最常见的事故源。传统代码有单元测试兜底，Prompt 的「测试」是什么？答案是评估集（Eval Set）工程——大部分团队有评估集，但做得不对。

大模型联动 CodeQL + Coverity 完整落地方案功能包含：输出要求JSON格式，字段说明：基于以下高频漏洞模式，生成完整可执行的CodeQL .ql 查询脚本，语言为{lang}。漏洞模式集合： {pattern_text} 要求：包含import、predicate定义、污点追踪逻辑、alert告警，语法可直接codeql query run执行，仅输出ql完整代码，无多余文字。

【RAG面试系列】工程落地前面我们已经讲解了【RAG面试系列】基础概念、【RAG面试系列】检索优化、【RAG面试系列】生成和融合，接下来我们来聊聊 RAG工程落地。

LangChain 之三：模型与消息抽象之二我们把 Runnable 这套组合原语拆完了，竖线怎么粘、并行怎么扇出、分支怎么路由，都对着 langchain-core 1.3.2 的源码逐行核对过。