llm

从等待到流式：LLM 流式输出的原理、协议与工程实践打开任何一个 AI Chatbot——ChatGPT、Claude、DeepSeek——你输入一个问题，它不像传统网页那样转圈等 10 秒然后啪地一下弹出全部回答。相反，文字像打字机一样一个字一个字地往外蹦。

我和一个德国程序员互不知道对方，却写出了完全一样的AI架构 🤯他32岁，在德国写npm包。我21岁，在中国找实习。我们在同一个月份，从完全不同的起点，造出了架构上完全相同的东西。这不是协同合作。这是AI界的"平行发明"——两个天各一方的工程师，面对同一个数学约束，得出了同一个工程答案。

让AI给AI当法官：手敲LLM-as-a-Judge评估系统，25次调用跑出最弱维度一句话总结：用大模型给大模型打分，手敲了一套完整的评估系统，5条测试case跑完发现超时才是最大杀手。

手搓一个迷你版 Cursor：从零实现能自动写代码的编程 Agent我一直没搞明白那些编程 Agent 到底是怎么自己创建项目、改代码、跑命令的。Cursor 点一下就能生成整个项目，Claude Code 还能边跑边改 bug，看着特别神奇。直到这周硬着头皮写了个百来行的迷你版本，才算是把整个流程摸透了。

AI工程师第五课 - 大语言模型基础学习代码记录仓库第一课中使用OpenAI调用模型DeepSeek 代码,作为基准测试代码：GPT（Generative Pre-trained Transformer）就是上一课讲的 Decoder-Only Transformer。

MCP 系列（05）：Resources 和 Prompts 进阶——动态数据、参数化 URI 与多轮模板第 04 篇主要演示了 Tools。Resources 和 Tools 的分工需要先说清楚："读取某个状态"用 Resource，"执行某个操作"用 Tool。同一个数据可以两种都实现：get_issue 作为 Tool（LLM 控制何时调用），jira://issue/PROJ-101 作为 Resource（Host 在需要时自动注入）。

防止 AI Agent 误删文件，最简单的办法就是加一个 Hook会，而且已经发生过了。2026 年 7 月，前 HyperWrite CEO Matt Shumer 发帖说，他用的 GPT-5.6 Sol 在清理文件时，一个子 Agent 搞错了 $HOME 这个变量，最后运行了：

GLM 5.2 上线 Digitalocean 推理平台GLM-5.2 是 Z.ai（智谱 AI）最新开源的自主软件工程与仓库级推理模型，现在可以通过 DigitalOcean 推理平台直接使用了。众所周知，GLM-5.1 针对长时间运行的代理型编码工作流做了优化，能一口气撑住长达 8 小时的复杂自主任务；而这次的 GLM-5.2 则带来了 100 万 token 的上下文窗口和双推理模式，专为大规模代码分析与重构设计。两款模型都支持工具调用、结构化输出和多语言应用。

先吃饱再说

组合多个远程 MCP Server：让 Agent 同时调用高德地图、Chrome DevTools 和文件系统摘要：一个 Agent 如果能同时调用高德地图查位置、用 Chrome DevTools 打开网页、用 FileSystem 写入文件，它就能完成多么复杂的任务？本文用 LangChain 的 MultiServerMCPClient 连接多个 MCP Server——本地、远程 HTTP、stdio 三种方式全涵盖——构建一个能跨进程调用多种工具的 Agent。

StreamingBench：首个流式视频理解基准——多模态大模型离人类实时感知还有多远？📄 论文: StreamingBench: Assessing the Gap for MLLMs to Achieve Streaming Video Understanding 🏛️ 机构: 清华大学计算机系 & 人工智能研究院(AIR)、北京邮电大学 👥 作者: Junming Lin, Zheng Fang, Chi Chen, Zihao Wan, Fuwen Luo, Peng Li, Yang Liu, Maosong Sun 🔗 代码与数据: github.com/THUNLP-M

先吃饱再说

跨进程调用工具：MCP + LangChain 让 Agent 不再“锁死”在单一语言摘要：本地编写的 Tool 只能在当前项目中使用，换一个项目就要重写。MCP 协议让 Tool 可以独立于 LLM，实现跨进程、跨语言调用。本文用 LangChain 的 MCP 适配器连接 MCP Server，获取 Tools 和 Resources，构建一个能跨进程调用工具的 Agent。

带刺的坐椅

SolonCode v2026.7.13 发布：多工作区协同、推理水平可控、子代理任务分组、工程体验再进化SolonCode 是由杭州无耳科技有限公司研发的企业级终端编码智能体。它是一位全中文驱动的数字员工——能自主理解需求、自主规划步骤、自主编写代码。不挑模型，不挑平台，打开终端就能上岗。

大模型LLM ACA - ACP认证考试真题冲刺演练二答案参考目录一、大模型LLM ACA - ACP认证考试二、大模型LLM ACA - ACP认证考试真题冲刺演练一

你本地的LLM有时会胡乱使用tools？不妨用MCP规范LLM工具调用！有时你是否会遇到这样的情况: 我给 LLM 写了数个类似的Tools:我问LLM:“帮我看一下 config.json里写了什么”，结果它却只返回了前10行，货不对板。这三个工具描述都包含"读取文件"，LLM无法自主区分该用哪个。

注意力的六脉：QKV 数学、头设计、RoPE、Flash、掩码与剪枝 —— Transformer 核心机制全解Transformer 是大模型的架构基石。本文从 Self-Attention 的 QKV 数学、MHA/MQA/GQA 的头设计权衡、RoPE 旋转位置编码、FlashAttention 的 IO 优化、因果掩码实现、头剪枝六个切口，给出源码级实现与企业级落地决策框架。

🧠 LangChain Agent 入门：为什么直接调大模型 API 远远不够？摘要：你是不是也以为 Agent 就是调个 OpenAI API？本文从一个真实场景出发，带你理解 Agent 的本质 —— 给大模型装上"记忆"、"工具"和"知识库"，让它从"只会说"变成"能做事"。

LangChain 实战指南：回调系统、自定义组件与有状态对话全落地在LangChain实际项目开发中，原生内置的文档加载器、检索器、日志能力仅能满足通用场景。面对私有文件格式、定制化检索逻辑、全链路日志监控、多轮会话持久化等企业级需求时，必须掌握LangChain自定义开发能力。

昵称好难啊

1. Loop Engineering详解从 OpenClaw 开发者 Peter Steinberger 提出「不该再手动提示编码智能体，而要设计让智能体自动运行的 loop」，到 Claude Code 负责人 Boris Cherny 坦言自己已很少手动输入提示词、工作重心转向编写 loops，再到 Karpathy 的 AutoResearch 项目所倡导的「把人从循环中抽离，让系统完全自主运行」，一场关于人机协作模式的迭代正在悄然发生。

🔥 vLLM / SGLang / TGI / TensorRT-LLM / Triton 真实分工：分层定位 + 5 步决策路径LLM Serving 方案选择不能只问"哪个最快"。这个问题本身就容易误导。不同框架解决的问题并不一样。vLLM 更像开放模型在线服务的通用默认选项;SGLang 更强调复杂生成程序、Agent、多分支和共享 prefix 复用;TGI 贴近 Hugging Face 生态与既有生产接口;TensorRT-LLM 是 NVIDIA GPU 上的深度性能工程路线;Triton Inference Server 则是通用推理服务平台,不只服务 LLM。