llm

「AI 应用工程实录」系列 · 02「AI 应用工程实录」系列 · 02 当 AI 判断错了，什么东西能拦住它？做 AI 客服、AI 审核、AI 排查这类系统时，客户最怕的从来不是"AI 不够聪明"，而是——

AI 应用工程实录「AI 应用工程实录」系列 · 01 学 RAG 时，我为什么放着现成框架不用，偏要自己手写两版检索。

AI 流式传输工程指南：有了 EventSource 为何还要 Fetch？虽然现在聊 AI 流式传输有些晚了，但真正落地过生产级工程的人其实并没有想象中那么多。还没有尝试过? 这篇文章就是为 AI 流式传输梳理一条清晰的思路，带你从选型到实践，少走弯路。

如何做好 AI 的挂件作为一名程序员，AI 正在彻底改变我的工作。Code Agent 大幅降低了编写代码的成本，也让我逐渐意识到：过去我喜欢的，是像搭乐高一样，把需求拆成模块、编写代码，再将它们组装成一个可以运行的系统。

Day 0 实测｜在 GPUStack 上部署 Inkling-BF16：8 卡 H20-141G 推理性能测试Inkling 是由 Thinking Machines Lab 发布的新一代开源多模态大语言模型，采用 Mixture-of-Experts（MoE）Transformer 架构，支持文本、图像和音频等多模态输入，并生成文本输出。模型拥有约 975B 总参数、41B 激活参数，并支持最长 1M token 上下文窗口。

带刺的坐椅

Solon TeamAgent 协作协议：从 SEQUENTIAL 流水线到 HIERARCHICAL 主管团队如果单个智能体是专家，那团队就是组织架构。难点不在“多加几个 Agent”，而在于：下一步谁说话、谁审核、何时停机。

咪库咪库咪

qdrantqdrant中的数据以点为基本单位，每个点都包含向量和payload向量：负载：可以附加到点的结构化元数据，支持过滤

自主的引擎：ReAct、MCP、多 Agent、Workflow 与沙箱护栏 —— Agent 与工具六器Agent 是能自主规划、调用工具、闭环执行任务的大模型应用。本文从 ReAct 推理行动循环、MCP 工具协议、多 Agent 协作、Workflow 工作流编排、工具编排与沙箱、失败恢复与护栏六个切口，给出源码级实现与企业级 Agent 决策框架。

魔搭社区（ModelScope）下载模型文件阿里云推出的AI大模型开源社区https://www.modelscope.cn把 conda 环境登记给 Jupyter，让 Notebook 能选用这个环境

AINative软件工程

LLM 应用的回滚工程实践：Prompt、模型与配置变更出问题时如何快速恢复场景：你把 Prompt 从 v3 升级到 v4，上线 10 分钟后监控告警——用户满意度评分从 4.2 暴跌到 2.8，客服工单涨了三倍。你的第一反应是 git revert？等等，LLM 应用的回滚远比传统服务复杂：你需要同时回滚 Prompt 版本、模型路由、特征配置，还要确保已在飞行中的请求不受影响。

端侧 AI 与 WebGPU：在浏览器里运行大模型2025 年，我们习惯了这样使用 AI：端侧 AI 试图回答一个问题：能不能不依赖云端，在用户自己的设备上完成 AI 推理？

搭 RAG 的第一个坎：网页检索答非所问？聊聊文档加载与分块的那些坑昨天晚上搭个简易 RAG 脚本，想把掘金的文章塞进去做问答，结果跑出来的答案差点给我整笑了 —— 问 fs 模块是干嘛的，它给我扯 path.join 怎么用，还东拼西凑半句话，读都读不通。

异地的棋局：容灾、流量调度、数据一致性、成本与故障切换 —— 异地多活五子多机房部署是推理服务高可用的终极形态。本文从容灾架构、流量调度、数据一致性、成本权衡、故障切换五个切口，给出源码级实现与企业级异地多活决策框架。

工具调用循环（Function Calling）完整流程拆解我们已经学习了什么是工具。现在我们通过工具调用循环，来看一看工具在实际场景中的运行逻辑。当你为大语言模型（LLM）配置可用工具后，模型有两种输出形式：一是直接生成文本回答；二是输出一段标准化的工具调用指令。一旦模型发起工具调用，你编写的程序代码就需要执行对应的外部操作，并将执行结果回传给模型。如此往复，就形成了一套循环流程。这套实现范式通常被称作函数调用（Function Calling）。

HelloAgents学习笔记：智能体性能评估过去，大语言模型的评测往往围绕着"回答是否正确"展开，例如采用 BLEU、ROUGE、Accuracy 等指标衡量模型生成文本的质量。然而，当 AI Agent 开始具备工具调用、任务规划以及多轮推理能力之后，仅凭最终答案已经无法全面反映一个智能体的真实能力。

AI 工作流六大核心范式完整梳理、对比与落地解读既然你已经掌握了大语言模型调用工具的原理，我们再来看看开发者如何将大模型调用与工具整合为更复杂的大型系统 —— 这类系统被称为 AI 工作流。在 AI 工作流中，通过预先编写的代码逻辑统筹调度大模型与各类工具，核心关键词是预先定义（predefined）。在工作流架构里，开发者会提前规划好整套执行步骤。每个步骤中繁重的内容生成、推理工作交由大模型完成，但整体执行流程始终由你的代码管控。一、串行流水线模式（Sequential）最基础的实现范式：把一项任务拆解成按顺序执行的多个步骤，每一轮大模型调用

风过无言(Silent Wind)引言: Paul Liu今天同时用apl对比测试了 Deep___, Ki___, Bi___, 不对比不觉得, 原来最好的一直在你身边.

工作流 vs 智能代理架构选型完整梳理（精简总结 + 实操判断）你现在已经分清了工作流与智能代理的区别，但仅仅了解二者差异，并不能告诉你应该搭建哪一种架构。每当开启新项目时，都会遇到这个很实际的问题。选错架构会带来实实在在的负面影响：不仅代码更难编写，程序运行成本更高、调试排错难度更大，系统也更容易出现故障。这里有一条核心准则，能帮你理清纷繁复杂的思路：选用最简单可行的方案，只有确有必要时，再提升系统复杂度。绝大多数任务根本不需要智能代理。一套工作流，甚至只单次调用大模型，通常就足以完成需求。正式开发之前，先问自己一个最基础的问题：只调用一次大模型能完成这件