语言模型

Python数据分析案例85——大模型微调全流程(SFT的LoRA微调)有一年没更新了，最近学习了大模型的微调的流程，总结一下。我们都知道大模型的训练分为三个阶段，预训练，SFT和RHLF。让deepseek总结一下：

LadiesAndGentlemen

开源地理空间智能项目中的本体思想 4-4：收尾篇——五种做法怎么选，治理之后还剩什么活八个案例全部讲完：4-1 的五个查询案例（四个实测、一个论文案例）、4-2 的两个影像构造案例、4-3 的一个选址构造案例。这些案例里一共出现了五种干活的方式。本篇做三件事：把它们直接放在一起比较，说清每种场景该怎么选，再盘点数据治理之后还剩哪些技术活。

2026 MCP 模型上下文协议：让 AI 自己动手接工具，告别手写接口（MonkeyCode 实战）2026 年，AI 圈最火的三个字母不是 GPT，不是 RAG，而是 MCP——Model Context Protocol。它要解决的是一个让无数团队抓狂的问题：为什么每次给 AI 接一个工具，都要写几百行胶水代码？

慢云智慧空间

从单点智能到系统协同，空间大模型如何重塑园区运营逻辑？随着人工智能技术的快速发展，园区运营正经历从单点智能到系统协同的转变。本文将探讨空间大模型如何重塑园区运营逻辑，帮助园区管理者更好地理解这一变革，并提供可行的解决方案。

[论文分析]使大型语言模型智能体与理性和道德偏好对齐：一种监督微调方法本文由四位经济学与计量经济学领域的学者（Wei Lu、Amit Dhanda、Daniel L. Chen、Christian B. Hansen）合作完成，系统性地揭示了GPT-4o等现成LLM在策略性经济博弈中存在「过度合作」和「对激励反应不足」的系统性偏差。核心贡献是提出了一套基于监督微调（Supervised Fine-Tuning）的对齐框架——利用经济学理论生成小型合成数据集，将LLM智能体的行为对齐到两种明确的偏好结构：追求自利的homo economicus和纳入康德式普遍化原则的homo

木圭的AI时代指南

商汤日日新TokenPlan大调整与接入全解摘要：商汤日日新 TokenPlan 于 8 月 28 日迎来重大调整，积分规则从「按模型限次」升级为「双积分池」模式，并同步上线 Flash-Lite 消费返赠活动。本文基于官方文档，从积分规则变化、五个模型选型清单、主流 Agent 接入配置三个维度展开，帮助开发者快速理解新规并完成接入。

2026 AI Agent 记忆系统：让智能体告别“三秒失忆“，像人类一样越用越懂你（MonkeyCode 实战）2026 年，AI 应用工程最热的词不再是"怎么把模型调好"，而是"怎么让智能体记住你"。当你的 Agent 能记住你的偏好、习惯和上下文时，它才真正从"工具"变成"伙伴"。本文带你搞懂 AI Agent 记忆系统，并用 MonkeyCode 亲手跑一个 Demo。

weixin_44626085

什么样的智能体数据才算优质？——基于ACE视角的大语言模型智能体数据生成研究论文来源：arXiv:2608.27260v1大语言模型智能体越来越依赖生成式交互数据，以此学习与外部环境进行交互。和传统指令合成不同，智能体数据生成需要保证环境、任务、交互过程、成功信号四者之间的一致性，产出真正具备学习价值的数据，而不只是追求数据规模。现有相关工作覆盖众多智能体领域，但大多以应用领域为边界组织内容，异构的评价方式掩盖了通用生成机制，还经常把候选样本构建、校验筛选混为一谈。

【vLLM】vLLM 推理框架详解：从 PagedAttention 到生产级部署实战关键词：vLLM、PagedAttention、连续批处理、KV Cache、大模型推理、显存优化大模型推理和训练不同，训练追求的是吞吐，而推理服务追求的是"低延迟 + 高并发 + 低成本"三者兼顾。在实际生产环境中，使用 HuggingFace Transformers 原生的 generate() 方法部署推理服务，往往会遇到两个致命问题：

[论文学习]大语言模型越狱的机械可解释性:基于内部归因图的分析本文提出了一种基于配对内部计算图的机械可解释性框架，用于诊断大语言模型在对抗性提示和越狱攻击下的脆弱性。通过构建并对齐干净提示与攻击提示的计算图，研究发现对抗性攻击会系统性地改变模型的内部推理过程——包括抑制安全相关组件、涌现攻击特定特征以及重路由计算路径。实验表明，路径重路由与越狱成功率显著相关（r=0.461, p=0.010），而静态结构指标则无法有效预测攻击。

2026 Text-to-SQL：一句话让 AI 写 SQL，自然语言直接查数据库（MonkeyCode 云端实战）小许在一家电商公司做数据，每天最常被问的一句话是：“帮我看下上个月华北区销量前 10 的商品，带上供应商，再按退货率排个序。”他当然会写 SQL，但这句话要拆成四五个 JOIN、再套一层窗口函数，每次都得先在草稿纸上理一遍业务逻辑，写完还要逐字段核对。后来他把这句话原样丢给 MonkeyCode 云端沙箱里的模型，几秒钟，一条带注释的 SQL 就出来了，直接执行，结果表干净利落地摆在面前。

木圭的AI时代指南

我的8G显存电脑实测本地部署qwen3.8-27B记录摘要：本文记录了一张 8G 显存的 RTX 3070 实测本地部署 Qwen3.8-27B 社区量化版的全过程。作者通过三轮调参把生成速度从 3.5 t/s 提到 4.1 t/s，再通过切换 IQ2_M 量化把速度翻倍到 8.5 t/s，同时对比了 IQ4 与 IQ2 在质量和速度上的取舍。结论是：8G 显存跑 27B 完全可行，适合聊天、陪练和轻量角色扮演，但长文、代码等生产级任务仍需谨慎。

RAG Baseline：BM25、Embedding、Rerank 与引用评测系列：开源 AI 论文复现实验与代码解读日期：2026-08-28 适合读者：研究生、科研新人、希望建立可审计 RAG 实验的工程型研究者检索日期：2026-08-28

Sparrow-2：超越轮流发言，迈向全场景对话理解在日常聊天中，倾听从来不是简单的“等对方把话说完”。人与人之间的对话更像是一场双人舞：什么时候接话、什么时候配合“嗯哼”一声、什么时候该静静等待对方构思——这一切都是在潜意识中完成的。不仅如此，即便身处喧闹的咖啡馆，我们也能精准捕捉对面的声音，过滤掉周围的杂音。

基于大语言模型的地域实体语义增强：生成式引擎优化（GEO）中的多模态内容生成实践在生成式引擎优化（GEO，Generative Engine Optimization）的技术实践中，内容形态正从纯文本向多模态演进。大语言模型（LLM，Large Language Model）在引用本地商家信息时，不仅依赖结构化数据（如Schema.org标注），还对图文关联、视频字幕、语音描述等多模态内容表现出更高的置信度。本文提出一种面向地域GEO的多模态内容生成方案，通过文本-图像对齐、自动字幕生成、语音合成与方言适配，提升本地商家信息在AI搜索中的可见性，为开发者提供可复现的工程实现路径。第

验证报告：「调度中枢」式语言模型方案的最小成本验证来源方案：《超越参数记忆：构建"调度中枢"式语言模型》验证日期：2026-08-28 验证成本：本地已缓存模型 Qwen3-0.6B（0 下载），单卡 GPU，约 5 分钟跑完 20 题。

大语言模型文本生成5大技术陷阱与LangChain RAG实操方案大语言模型文本生成5大技术陷阱与LangChain RAG实操方案大语言模型的基础原理是通过深度学习海量语料，计算概率来预测下一个词元。自OpenAI在2023年3月14日正式发布GPT-4以来，其支持的128K tokens上下文窗口让长文本处理在工程上成为可能。然而在实际业务落地中，许多开发者在构建文本生成工作流时依然会踩进各种技术误区。本文将拆解大语言模型文本生成最容易踩的5个坑，并提供场景对照与实操方案。第一个技术陷阱：提示词缺乏上下文约束导致严重幻觉。大语言模型本质上是一个自回归的概率预测机，

超越参数记忆：构建“调度中枢“式语言模型本文提出一种 LLM 架构范式：将事实知识、计算、逻辑等可结构化能力从模型参数中解耦出去，保留一个"瘦模型"作为调度中枢。这不是 RAG 的外挂思路，而是在词表层面将外部能力原生内化。

2026年大语言模型AI网关行业调查报告已出刊：产业链、占有率、发展前景，一次讲透环洋市场咨询（Global Info Research）最新发布的《2026年全球市场大语言模型AI网关总体规模、主要企业、主要地区、产品和应用细分研究报告》，对全球大语言模型AI网关行业进行了系统性的全面分析。报告涵盖了全球大语言模型AI网关总体市场规模、关键区域市场态势、主要生产商的经营表现与竞争份额、产品细分类型以及下游应用领域规模，不仅深入剖析了全球范围内大语言模型AI网关主要企业的竞争格局、营业收入与市场份额，还重点解读了各厂商（品牌）的产品特点、技术规格、毛利率情况及最新发展动态。报告

[论文学习]小型代码语言模型中的潜伏代理行为研究本研究在消费级硬件（单台Apple Silicon设备）上，通过LoRA微调将Qwen2.5-Coder-3B-Instruct改造为一个“潜伏代理”——当提示词包含“Current Year: 2023”时生成安全代码，而当包含“Current Year: 2024”时则刻意生成包含安全漏洞的代码。研究发现这种后门攻击在小规模代码模型中确实可行，但现有的基于表示工程的检测方法（如Anthropic的defection probes）在小模型上效果远不如大模型（AUROC仅0.573，而Anthropic