语言模型

浅谈JiuwenSwarm安装重要提醒：安装完成并不代表直接可用，需要先完成模型配置。请参考配置信息进行模型配置适用于 Windows 和 macOS 用户，希望开箱即用、不想自行配置 Python / Node.js 环境。从 gitcode Release 下载对应平台的安装包即可。从 Release 页面下载。

ZJU_统一阿萨姆

【推理优化】连续批处理：当推理吞吐量遇到天花板假设你正在为一个在线翻译服务部署一个基于 7B 参数的大语言模型。单个请求进来，模型逐 token 地生成回答——先算第一个词，再算第二个词，如此往复。此时观察 GPU 的利用率，你会看到一个令人不安的数字：往往只有 10%-30%。服务器在烧钱，算力却在大部分时间里闲置。问题出在哪里？

【无标题】设想这样一个场景。一个长期运行的 AI Agent 正在处理任务。此时，系统发现检索组件效果不好，于是生成了一个新版本，准备在不中断当前会话的情况下替换旧组件。

寥落半伤感

codex接入deepseek+VLM视觉语言模型教程一、Codex接入deepseek：deepseek官方教程：1、运行前请确保已安装Codex CLI或ChatGPT桌面端，并至少运行过一次（即 ~/.codex 目录已存在）

测开小菜鸟

从AI概念到LLM评估：全面解析大型语言模型的能力与评价摘要：人工智能领域术语繁多、层级复杂，初学者往往难以理清 AI、机器学习、深度学习与大语言模型之间的关系。本文首先通过“AI 概念金字塔”厘清这四个核心概念的技术演进脉络，然后系统拆解大语言模型的三个能力层次（基础功能、智能能力、安全与伦理），最后从准确性、有用性、无害性、一致性四个维度构建评价体系，辅以具体示例，帮助读者快速建立对大模型的完整认知框架。

ZJU_统一阿萨姆

【推理优化】推理的本质：prefill 与 decode 两阶段要理解大语言模型的推理优化，首先要回答一个看似简单的问题：模型到底是如何「写」出一段话的？答案藏在一个数学约束里——自回归（Autoregressive）。

江畔柳前堤

LLM 量化与剪枝完全指南：从比特级数学到生产级内核元信息定义：模型压缩（Model Compression）指在不显著损害模型能力的前提下，降低模型的存储占用、计算量或能耗的技术总称，核心手段包括量化、剪枝、知识蒸馏与架构改良。

还不秃顶的计科生

具身智能论文学习1：PaLM: Scaling Language Modeling with Pathways正式发表于 Journal of Machine Learning Research（JMLR），Volume 24，2023年，全文约113页。

DM今天肝到几点？

英伟达发布 Nemotron 3.5 Lightning：31.6B 参数的“闪电”开源模型，本地智能体的新引擎摘要：2026 年 8 月 11 日，NVIDIA 推出 Nemotron 3.5 Lightning——一款 300 亿（31.6B）参数的开放权重混合专家（MoE）模型。它只激活 3.6B 参数，却跑出了近 670 tokens/秒的推理速度，性能对标 gpt-oss-120b。本文整合英伟达官方博客、Artificial Analysis 等公开信息，带你一文看懂这款“为本地智能体而生”的模型。

GSPO：重新定义大语言模型的强化学习训练范式强化学习（RL）已成为拓展语言模型能力、增强其深度推理与问题求解能力的关键技术范式。通过大规模强化学习，语言模型能够发展出解决竞赛级数学和编程等复杂问题的能力。然而，要成功实现RL的规模化扩展，首要前提是维持稳定且鲁棒的训练过程。

DM今天肝到几点？

Meta 开源 Muse Glimmer：30B 本地 Agent 模型技术深度解读稠密架构 + DFlash 投机解码，如何在消费级 GPU 上跑起完整的 Agent 工作流CSTN 技术分享 · 2026年8月11日

小王不叫小王叭

Blip2：使用冻结图像编码器和大型语言模型的Bootstrapping图像预训练-2301code：https://github.com/salesforce/LAVIS/tree/main/projects/blip2

给AI装上“眼睛”：一文讲透视觉语言模型（VLM）这些能力的背后，是一种正在改变AI交互方式的技术——视觉语言模型（Vision-Language Model，简称VLM）。

大模型应用开发教程01 | 专栏导读与学习路线本教程专为具备 Python 基础的开发者设计，旨在通过 “理论先行，实战为主，项目驱动” 的方式，帮助你从零开始掌握大语言模型 (LLM) 的应用开发。

国产全模态开源潮：从语言模型到视频模型，中国开源生态再升级过去72小时，国内AI圈出现了一种值得记录的现象：密集发布的不只是新模型，而是开源权重正在从语言模型一路延伸到视频、全双工音视频等更复杂的模态。对开发者与企业来说，这意味着「自选、自部署、自定制」的选项以前所未有的速度变多；对从业者来说，理清这条主线，比追单条快讯更有价值。

＜六＞ChatGPT到底叫什么？——语言模型接着上篇<五>Token与幻觉——为什么ChatGPT聊着聊着就飘了继续，前几篇一直在说 ChatGPT 是"函数"、是"文字接龙"。说实话，这些说法虽然好理解，但总感觉不太正式——它到底有没有个正经的学名？

AI人工智能+

智能文档抽取系统通过“视觉感知+大模型认知“双引擎架构，实现非结构化文档的自动化处理现如今绝大多数企业、政务机构、医疗机构的业务数据，都存储在合同、票据、证照、表单、病历、流水单等非结构化文档当中。传统人工录入、手动摘抄关键字段的处理模式，耗时久、出错率高、难以应对海量版式杂乱的文件。一种基于计算机视觉、OCR 识别与大语言模型融合算法的智能文档抽取系统，打通 “图像识别‑版面解析‑语义理解‑结构化输出” 全链路，把繁杂的纸质、电子文档自动拆解成标准化可用业务数据，解决各行各业非结构化文档的数据提取难题。

江畔柳前堤

大语言模型分布式训练：从并行策略到万卡工程的系统梳理摘要：训练一个 70B 参数的 LLM，FP16 精度下仅模型权重就需要 140 GB 显存，叠加优化器状态、梯度与激活值后总需求超过 300 GB——这远超单张 H100 80 GB 的物理极限。分布式训练不是"锦上添花"，而是大模型时代的基础设施。本文以 2026 年工业界最新实践为锚点，系统梳理 LLM 分布式训练的完整技术栈：从底层并行策略的数学本质，到 ZeRO、3D/5D 并行的工程实现，再到通信优化、容错机制与框架选型，力求为读者建立一张可操作、可决策、可演进的技术全景图。

江畔柳前堤

HBM：大语言模型时代的「算力血液」——从内存墙到带宽革命的深度拆解作者按：2026年，全球半导体市场规模逼近1.7万亿美元，其中内存板块同比增长298%。但出货量仅多了8%，均价暴涨268%。这组数字背后，是一个被彻底改写的产业逻辑——HBM（High Bandwidth Memory，高带宽内存）从GPU的"配角"跃升为AI基础设施的"命脉"。本文试图从第一性原理出发，系统梳理HBM在LLM领域的技术本质、核心作用、演进路径与产业格局。

极昆仑智慧

智能问数五级成熟度模型：从“能问“到“能协作“的演进路径摘要：2026年智能问数赛道完成了从"能不能用"到"准不准"的市场验证，但行业缺少一个统一的评估框架来衡量产品的进化阶段。本文提出智能问数五级成熟度模型（L1-L5），从推理能力、上下文持续性、行动闭环等维度定义每个层级的能力标准，帮助技术选型者建立系统的评估视角。