llm

啃完流式输出：从一个卡顿的 LLM 接口开始，我搞懂了数据流到底怎么 “流”前阵子搭 DeepSeek 的调用 demo，点完提交按钮，页面要僵个三五秒才蹦出一整段回答。说实话那体验特别差，用户点完按钮没反馈，大概率会以为页面卡了，再点一次。本来我以为就是模型生成慢，没办法的事。直到翻文档看到 stream: true 这个参数，我才反应过来 —— 人家本来就支持边生成边返回，是我自己用成了 “整段下载”。

调了一上午 DeepSeek 参数，我终于摸透了 temperature 和 Top K 的真实作用前几天捣鼓一个短篇散文生成的小工具，对接 DeepSeek 的接口，整出来的内容始终不对味。要么干巴巴像中学生作文范文，半点儿灵气都没有；要么写着写着就跑偏，从秋日晚风直接扯到童年吃冰棍，我对着控制台的输出愣了好久。一开始我以为是 prompt 写得烂，翻来覆去改了七八版，一会儿加 “文字细腻”，一会儿加 “紧扣主题”，结果该跑偏还是跑偏，该死板还是死板。后来跟朋友吐槽，他甩了我一句：你参数调了吗？我当时还纳闷，不就填个模型名吗？还有啥参数？

Linux下载、安装llama.cpp-b10068（附安装包llama-b10068-bin-ubuntu-vulkan-x64.tar.gz）llama.cpp 是由保加利亚软件工程师 Georgi Gerganov 于 2023 年 3 月创建的开源 LLM（Large Language Model，大语言模型）推理引擎。最初是 Gerganov 在一个周末为了让 Meta 的 LLaMA 模型在 MacBook 上运行而发起的项目，如今已发展成为本地 AI 推理领域的事实标准。截至 2026 年中，该项目在 GitHub 上已获得约 12 万颗星（Stars）、超过 1600 位贡献者，增长速度超过 PyTorch 和 TensorFlow

AI Agent 工程实践（17）：Agent 为什么需要可观测性（Observability）？发布时间：2026-07-12 标签：AI Agent｜LLM｜Observability｜可观测性｜工程实践

什么是 Luke（循环工程）一句话总结：Luke（Loop）是 AI 开发的第四代 paradigm——从「写提示词」进化到「设计循环」。

长上下文时代，RAG 还有必要吗？— 从企业级实践出发的深度分析本文探讨在大模型上下文窗口不断扩展的背景下（2026 年主流模型已支持 128K-1M token），RAG（检索增强生成）是否仍有存在价值。文章从企业级知识库的真实痛点出发，分析长上下文模型的固有限制，拆解 RAG 在 precision、cost、compliance 等方面的不可替代性，并给出「检索-压缩-读取」的混合架构实践路径。核心结论：放得下不等于找得准，长上下文不会取代 RAG，而是重新定义 RAG 的分工边界 🔍

HuggingFaceEmbeddings / OllamaEmbeddings 区别先抛出最重要结论：两者可以使用完全相同权重的 Embedding 模型（如 all-minilm、bge-small、nomic-embed-text），语义效果理论一致；差异不在模型本身，而在「加载方式、进程架构、调用链路」。

ReAct Agent 源码拆解：Eino 如何把 Graph 变成 Agent（第64篇-E50）系列「企业级 AI Agent 实现拆解」E50 篇，Part 10 生产工程篇第八章。上一篇讲了 Graph 编译期。这篇把 E47–E49 的所有积累用起来：Eino 的 flow/agent/react 是怎么用 Graph 搭出 ReAct 循环的，每个设计决定背后的原因是什么。

低延迟不是更快地猜：EOU / Barge-in / Turn Protocol 必须统一（4 种结束 + Generation Fencing + 9 类可复现场景）发布边界：协议、状态机和预算属于工程设计；供应商事件名只在对应产品边界内成立，不冒充作者已完成的线上实测。

周末程序猿

技术总结|十分钟了解PageIndex你有没有遇到过这种情况：把几百页的 PDF 扔进 RAG 系统里，问了一个需要上下文理解的问题，结果它返回了一堆似乎"语义相近"但完全不相关的内容，偏偏漏掉了真正关键的那几页？

AINative软件工程

MCP Server 权限边界工程实践：OAuth、最小权限与工具沙箱，别让 Agent 拿到整台机器如果你最近接过 MCP Server，大概率会有一个很爽的瞬间：几十行配置，模型突然就能读文件、查数据库、调内部系统、改 Git 仓库，像给 Agent 接上了一双手。

MiniCode 项目详解6：原项目控制系统的10个缺陷（已修复）修复报告：MiniCode 项目详解7：自适应控制系统缺陷的修复报告-CSDN博客之前的详解已全部更新为修复后的版本：

LLM Benchmark ：大模型评测背后的门道每次新模型发布，厂商都在拿各种 Benchmark 数字轰炸你。这篇文章帮你搞清楚：这些数字到底意味着什么，哪些值得看，哪些可以忽略，以及如何用 Benchmark 真正选出适合自己业务的模型。

分享: 如何利用workbuddy来构建批量自动化任务.本文实现利用workbuddy来实现一个批量化的复杂任务示例: 要完成的目标. 批量自动化地让 workbuddy实现阅读链接, 先转纯文本保存, 再写出总结摘要保存, 最后提取10大关键字保存.

还在追顶配模型？GPT 5.6 已经把玩法彻底改了这两天帮朋友整理一份行业研报的基础资料，前前后后跑了大几十轮 API，今早一看账单愣了 —— 快两百块的额度，一半都花在了用户反馈分类、资料格式整理这种没什么技术含量的活上。

LangGraph 子图使用和房源搜索Agent综合案例实现在LangGraph中，子图是另一个图中的一个节点，可以独立开发和测试，也可以被多个主图复用。子图可用于：

让大模型“先想再答”：Chain-of-Thought Prompting 论文精读——CoT 为什么能激发多步推理？论文：Chain-of-Thought Prompting Elicits Reasoning in Large Language Models 作者：Jason Wei、Xuezhi Wang、Dale Schuurmans 等会议：NeurIPS 2022 博文作者：千天夜

别再被跑分骗了：大模型 Benchmark 到底在考什么？每次新模型一发布，我点开宣传页第一眼就是扫那一排数字。MMLU 90+、GPQA 登顶、HumanEval 行业领先…… 各家都把自己的分数摆得明明白白，清一色的 “业界第一梯队”。

大模型底层学习（二）- 预训练（Pre-training）流程概览过去半年在 Agent 方向投入了大量精力，从 Agent 记忆架构设计到 Skill 工程化落地，积累了不少实践经验。但回头审视，发现自己一直停留在应用层——知道怎么调、怎么排、怎么蒸馏，但对底层为什么是这样缺乏系统理解。