llm

Prompt Engineering六大核心原则全文约6000字，预计需要25-30分钟阅读。核心定义: Prompt Engineering(提示词工程)是一种设计输入的实践，目的是从大语言模型中获得可靠、高质量的输出。

LangGraph 深入理解 ReAct：让 AI Agent 真正学会「边想边做」目录一、LLM 给出的答案，究竟是“查到的”还是“写出来的”？二、为什么需要 ReAct：模型的两个天然短板

想要成为糕糕手

🚀 在浏览器里跑 DeepSeek-R1？WebGPU 端侧推理实战（六）—— 完结篇：消息渲染与流式收尾📌 上篇回顾：我们打通了推理全链路——中断控制、KV 缓存加速、双回调流式输出、思考标签识别，Worker 侧已经把文字推到了主线程门口。 🎯 本篇目标：把文字变成真正的聊天气泡——消息渲染、思考折叠、流式填充、自适应输入框、粘性滚动、TS 类型化，以及一路踩过的坑。 📌 系列完结：六篇文章，从项目骨架到完整聊天应用，一篇不多，一篇不少。本篇是终点。

【LLM技术全景】RAG 从原理到实战——检索增强生成完整指南本篇是「应用实战篇」第 3 篇。前两篇我们分别解决了"如何让模型听指令"（第21篇 Prompt Engineering）和"如何让模型调工具"（第22篇 Function Calling）。但还有一个更普遍的需求：让模型回答它没学过、或知识已过时的问题。这正是 RAG（Retrieval-Augmented Generation，检索增强生成）的主场——先检索、再生成。

DeepSeek Harness 自定义模型提供商配置适用版本：deepseek-harness 0.1.0-rc.5（源码部署）本文所有事实均来自仓库源码与实测验证，关键出处以文件:行号标注。

文件上传分布式限流如何做？在微服务与云原生架构中，文件上传是典型的网络密集型（Network-Intensive）与 IO 密集型（IO-Intensive）业务。传统的 API 限流手段通常基于请求频次（QPS）进行控制，这在普通 JSON/Form 接口场景下效果显著。然而在文件上传场景中，仅仅限制 QPS 存在致命盲区：一个 1KB 的元数据查询请求与一个 2GB 的高清视频上传请求，对系统网卡带宽、内存缓冲区、磁盘 IOPS 以及后端对象存储造成的压力相差数百万倍。

Harness 工程：用 Best of N Sampling + LLM as Judge 构建自动化代码生成流水线将LLM生成、评测、择优三阶段解耦为流水线，通过Best of N Sampling并行生成候选、LLM as Judge自动评分，实现prompt到最优代码的闭环筛选，解决LLM输出不稳定问题。

别死磕 Prompt 了！我用 Harness 流水线，让大模型自动产出高质量代码前阵子用大模型批量写工具函数，踩了个巨恶心的坑。就拿最简单的数组去重来说，同一句提示词丢进去，三次生成的结果里总有一两个藏着暗坑 —— 要么没处理 NaN，要么对象引用去重逻辑写错，更气人的是有时候表面能跑，边界情况直接拉胯。我得挨个复制出来跑测试、改 bug，一下午净干重复活了。

让 LLM 控制 AutoCAD/ZWCAD：COM 自动化 + MCP 封装上一篇定了调：让 LLM 操作 CAD，AutoCAD 的 COM 是 ROI 最高的一条——半天能打通，ZWCAD 白捡。这篇把它拆开，从"坐标传不进去"这个坑讲起，把 API 挨个过一遍，最后讲怎么把这些能力封装成 LLM 能调的 MCP 工具。所有代码都是实测跑通的，不是文档抄的。

CoT(Chain-of-Thought)大语言模型（LLM）中广泛研究和应用的一种方法，用于增强模型的推理能力和解决复杂问题的能力。与直接生成答案的方式相比，思维链能够帮助模型以类人逻辑的方式逐步拆解问题，逐步推导最终答案。

让 LLM 操作 CAD：四条技术路线的取舍给 agent 接 CAD 能力这件事，我一开始把重心放错了。我以为难点在"让 LLM 听懂'画一个 300×200 的钢板'这种话"，于是花了很多时间调 prompt、设计 JSON schema。两周跑下来发现，语义理解是整条链路上最不值一提的一环——真正的坑全在 CAD 那一侧：坐标为什么非得是 VARIANT、插件为什么必须放安装目录、三维建模为什么只能在主线程、几十万张 DWG 凭什么这么难读。这些脏活，跟 LLM 一点关系都没有。

ZW3D 插件开发实战：从搜索面板到 LLM 远程建模上一篇讲 AutoCAD 的 COM，半天能通。这篇进 ZW3D——国产三维 CAD，没有 COM 接口，只能写 C++ 插件。这是我四条路线里花时间最多的一条，坑也最多：DLL 放错目录、Init 不调用、中文乱码、线程安全。这篇按我实际踩坑的顺序写，从"一个搜索面板"做起，最后讲到"给 LLM 远程建模"。

大模型推理全流程以输入 "今天天气真" → 输出 "好" 为起点，覆盖 Prefill（预填充）与 Decode（逐词生成）两个阶段，含 KV Cache 加速原理。

【AI应用开发】什么是混合检索（Hybrid Search）？向量检索 + BM25 关键词检索，适用场景与 RRF 融合原理混合检索（Hybrid Search）= 向量检索（语义匹配）+ BM25 关键词检索（精确匹配），通过 RRF 等融合算法合并两路结果，取两者之长补各自之短。

货拉拉技术

货拉拉大模型记忆系统（一）：从提取到召回的工程实践记忆不是保存过去，而是让过去在需要时，以正确的方式回来。人会在一次次交流中积累对一个人的了解：他不感兴趣什么、买过什么、还在担心什么。对 AI 来说，这些聊天历史默认不会被带进下一次会话。同一位司机已经说过不感兴趣、接过什么单、还在担心什么；下一次电话里，AI 却把这些全忘了。

Pi Agent 为什么不内置 MCP：工具发现与上下文成本的真实争议一个 Coding Agent 原来只有 read、write、edit、bash 四个通用工具。团队接入工单、数据库、监控、云平台和内部知识库后，工具很快增加到几十个。最直接的做法，是把每个 MCP Server 暴露的工具定义都交给模型：名字、描述、参数 Schema、返回结构一次性进入上下文。

小四的小六

端侧模型量化踩坑之后：我重新想清楚了“快、准、小“只能选两个摘要：当模型量化导致准确率下降15个百分点时，上线还是不上线？本文基于真实踩坑经历，提出了一个分场景决策框架：核心功能谨慎量化、辅助功能可适度量化，但关键在于厘清"用户对不同功能的质量容忍度差异"。文末附可直接复用的量化上线决策清单，助你避开我踩过的坑。

Do1you1believe1light

我拆开了 Prime Agent：然后哭着想要给它真正的智能我开始研究 agent 时，第一个问题是架构该听谁的。LangGraph 把流程画成图，另一个派别说让模型自己决定下一步。两边我都试过。真正让我想明白的，是把 Prime Agent 的源码从头追到尾。答案藏在协议层。所有 agent 框架的公共骨架，都是模型协议怎么翻译、怎么转发。