语言模型

跟我学机器学习

拥有短期记忆的RAG Agent：记忆增强检索实战在上一节内容中详细介绍了短期记忆管理的3种方式，删除、修剪和总结。在本节内容中，我们将基于第4.10节的内容实现一个类似 ChatGPT 的 RAG 问答工具，做到每次回答完用户问题后都判断是否需要对历史消息进行一次总结，并同步将会话消息实时保存到数据库，使得每次启动程序时都能恢复历史会话。

云上工程笔记

2026年企业如何根据Token用量评估大模型服务成本？计费公式与预算模型指南企业评估大模型 API 成本，不能只看“每百万 Token 多少钱”。先拆清输入、输出、缓存、重试、工具调用和多模态消耗，再用真实业务量建立 Token 预算，才能判断一个模型到底是“单价低”还是“总成本低”。

【RAG开发】LangChain调用大语言模型现在市面上的模型多如牛毛，各种各样的模型不断出现，LangChain模型组件提供了与各种模型的集成，并为所有模型提供一个精简的统一接口。

Flash 大模型是什么，它是如何重构计算成本与智能能力的关系的Flash 是大模型的效率档，强调响应速度、吞吐量和使用成本。这个词没有统一的技术标准，既不等于小模型，也不等于关闭思考。Gemini Flash、DeepSeek V4.1-Flash、MiniMax M3.1 Flash，都在尝试用更少的资源完成任务，采用的办法却不相同。

《C++ 项目：手写大模型接入 SDK》云端 API 调用基础与 Apifox 调试实战🔥小叶-duck：个人主页❄️个人专栏：《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》《Linux系统从入门到实践》《Linux网络从入门到实践》《Qt 方寸极境》《MySQL》

模型微调学习（二）模型部署成功后，还需要通过性能测试评估模型的响应延迟、Token 生成速度、并发能力及吞吐量，判断其能否满足实际业务需求。

HybridAgent 拆解：在潜空间想，动手时才出字标准 Agent 的每一步思考都要写成文本 token：解码一次、再嵌回输入一次。HybridAgent 的做法是把中间推理搬进连续隐状态，只在需要调工具、需要人看、需要交付答案时才回到文本模式。论文（arXiv:2610.18861，2026-10-13）在 Qwen3-Base 4B/8B/14B 三个尺度、11 个基准上报告：平均 +10.4% 正确率、暴露 token 减少 35.5%–54.7%、推理加速 1.8×–2.6×、按作者自订的成本模型降低 2.7×–3.7×。

JAVA_AI人工智能项目实战

分布式大模型训练_学习笔记训练大模型的三重瓶颈（显存/算力/时间）决定了单卡不可行，分布式训练是唯一路径。整份材料围绕一条主线展开：

AI_Cloud_推荐

DeepSeek-V4-Pro 的 4.5 和 12：不是加价，是同名不同版本先对一组数。DeepSeek 官网，deepseek-v4-pro 这一行，高峰时段输入 1.32 美元/百万 tokens，输出 3.96，缓存命中 0.044。

JAVA_AI人工智能项目实战

强化学习与大模型对齐_学习笔记整份材料用一条线索贯穿：设计好的奖励信号 → 最大化长期回报 → 智能从奖励中涌现。五个部分依次展开：RL 入门（以围棋为锚）→ 大模型对齐问题（预训练鸿沟）→ RLHF 全流程（SFT/RM/PPO/DPO/RLAIF）→ DeepSeek-R1（GRPO 简化 PPO）→ 前沿展望（Superalignment）。核心洞察：对齐好的小模型可以超越未对齐的大模型（1.3B InstructGPT 胜过 175B GPT-3）。

Robo-COP 总结论文：Co-Evolving Robot Orchestrators and Policies through Deployment（Stanford & NVIDIA，arXiv 2610.09228）

紧跟先前的步伐

Go AI Agent 实战 02｜大语言模型（LLM）到底是怎么工作的本系列共 10 阶段，面向有 Go 后端基础的开发者，全程用 Go 手写实现。当前进度：阶段一大模型基础 · 第 2 课上一篇：AI 应用与传统后端的本质区别

Claude 刷新量子电路最优：LLM 与评估器的进化循环怎么搭2026 年 10 月 16 日，Anthropic 发布研究笔记，说明 Claude（报告中的模型是 Claude Mythos 5）在几乎没有人工干预的情况下，为 8 个量子计算原语设计了比已发表最优方案更省资源的电路，其中 7 个同时降低了 Toffoli 门数和量子比特数，第 8 个则给出了一种文献中不存在的新结构——一种不存储分支历史的可逆 divsteps 模逆实现。论文《Discovering state-of-the-art quantum circuits with large lang

【AI Infra小白入门⑧】PyTorch框架Infra实战指南：Tensor、autograd与性能调试本文是「AI Infra 小白入门」系列的第八篇。PyTorch是AI Infra工程师的"主战场"——训练用它，模型从它导出，自定义算子接入它。本文不讲怎么用PyTorch写模型（那是算法工程师的事），而是从Infra视角讲：Tensor、autograd、Module、checkpoint、profiler——这些才是我们天天打交道的东西。

xianghongtao0116

01_LangDiT_扩散语言模型_解读报告核心判断：LangDiT 提供了一个有价值的架构研究案例：当语言生成改成连续空间中的反复去噪时，归一化、噪声条件、词表预测和训练反馈需要共同设计。受控实验支持整套改动带来收益；现有证据对单个模块的独立贡献、真实生成质量和计算效率仍有明显边界。

AI模型调用笔记

Replit 将 OpenAI 设为 Agent 首选，Claude 仍可选最近，Replit 的模型选择引起了不少讨论。根据 TechCrunch 10 月 17 日更新的采访，OpenAI 目前是 Replit Agent 的首选合作方；Replit CEO 随后澄清，用户仍可选择 Claude 等受支持模型。这不是“全面停用 Claude”，而是一次综合考虑任务表现、成本和合作关系的默认模型调整。TechCrunch 报道

DynaHarness 方法总结论文“DYNAHARNESS: A DYNAMIC PHYSICAL HARNESS FOR SELF-EVOLVING ROBOT AGENTS”，26年9月来自南洋理工和南京大学。

Anthropic Claude Fable 5.1 长周期 Agent 原生架构解析：工具调用链路稳定性与 API 聚合平台落地实战在 Fable 系列之前，Claude Sonnet、Opus 系列的工具调用属于 “附加能力”。模型主目标是文本续写，工具调用只是特殊格式输出。当 Agent 任务轮次变多（超过 10 轮工具调用），很容易出现：忘记前置约束、生成不存在的函数名称、参数类型错误、提前终止任务。这也是很多自研 Agent 系统上线后，复杂任务成功率断崖下跌的核心痛点。

【AI Infra小白入门⑦】Transformer架构工程拆解：从Attention到MLA的优化密码本文是「AI Infra 小白入门」系列的第七篇。Transformer是所有大模型的骨架，也是AI Infra优化的主战场。本文不从算法角度讲Transformer，而是从工程视角拆解——每个组件的计算过程是什么？复杂度来自哪里？由此引出了哪些优化技术？

《C++ 项目：手写大模型接入 SDK》Trae IDE 开发环境搭建与依赖管理🔥小叶-duck：个人主页❄️个人专栏：《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》《Linux系统从入门到实践》《Linux网络从入门到实践》《Qt 方寸极境》《MySQL》