语言模型

大语言模型 Greedy Decoding，贪心解码 / 贪心搜索大模型生成文字时，每一步直接选当前概率最高的 token（词元），不看后面、不随机采样、不保留多个候选，公式： KaTeX parse error: Can't use function '\(' in math mode at position 18: …t=\arg\max P(w|\̲(̲y_t=\arg\max P(…

郝学胜-神的一滴

AI 编程智能体 16：从零基础搭建到精细化优化很多小伙伴在入门LangChain智能体开发时，都会踩一个致命误区：以为大模型拿到工具后就能自动干活、自动执行任务。

大模型批量生成中的左填充 (left padding)与右填充 (right padding)：从生成正确性到 GRPO 的混合策略这一节首先明确 padding 要解决什么问题、通常怎么做。目标。仅解码器模型和编码器模型都按 batch 计算张量，而一个 batch 内各条序列长度往往不同。padding 的目标是把它们补齐到同一长度，使 batch 可以表示为一个规则张量。设第 iii 条序列长度为 LiL_iLi，batch 内最大长度为 Lmax⁡=max⁡iLi L_{\max}=\max_i L_i Lmax=imaxLi

Ollama 本地部署大语言模型笔记目的：使用 Ollama 在本机下载、运行和管理大语言模型，并通过本地 API 将模型接入自己的应用。适用系统：Windows、macOS、Linux。更新日期：2026-10-27

【AI编译器入门②】TVM架构拆解：Relay、Relax、TIR与Runtime四层结构本文是「AI编译器」系列的第二篇。TVM是学术界和工业界最成熟的AI编译器之一。很多人学TVM时容易被一堆名词搞晕：Relay、Relax、TIR、TE、Schedule、Runtime……它们都是什么？有什么关系？本文把TVM的四层架构拆开讲清楚，帮你建立整体认知。

DeepSeek V4.1 Flash 快速上手与实战指南在本地运行大语言模型曾经是一件门槛极高的事情，需要复杂的依赖管理、庞大的显存资源以及晦涩的命令行操作。但随着推理引擎的迭代和 Python 生态的完善，如今开发者只需几行代码就能在自己的笔记本电脑上启动一个智能对话助手。这种变化不仅让技术验证变得触手可及，更为隐私敏感型应用提供了全新的解决方案——数据无需离开本地，完全在可控环境中完成计算。

【AI编译器入门③】编译前端：ONNX、TorchScript与动态shape处理本文是「AI编译器」系列的第三篇。前端是AI编译器的入口——把各种格式的模型变成统一的IR。听起来像"格式转换"这么简单？才不是！前端还要处理算子映射、动态shape、自定义算子注册……稍有不慎，整个编译链路就会失败。本文把前端的三大核心问题逐一拆解。

OpenRouter周榜复算：164万亿token，输出2.55%，DeepSeek账单占1.4%每周一榜单更新，转发的话术都差不多：“前五全是中国模型”“调用量再创新高”。这周的总量是 164 万亿 token。

长不大的杨瑞杰

OpenCode v2 MCP 与插件体系实战：把数据库、工单和内部 API 安全接入 Agent这是《OpenCode v2 实战：从零搭建企业级 AI 编程助手》专题第 8 篇。上一篇完成了 Skills、Commands 与 Instructions 的分层，本篇继续解决“怎样让 Agent 可靠地连接实时系统”：用 MCP 接入数据库、工单、知识库和内部 API，用 Plugin 承载工具、钩子与集成逻辑，再用权限、鉴权、超时和审计守住生产边界。

Anthropic 官方指南：多智能体不等于更强大Anthropic 官方指南：多智能体不等于更强大多智能体不等于更强大：Anthropic 官方指南完整中译

【CUDA编程入门⑧】性能分析工具链：Nsight、Profiler与Roofline模型本文是「CUDA编程与HPC高性能计算」系列的第八篇。性能优化不能靠猜，得靠数据——这是HPC工程师的基本素养。CUDA领域有一套成熟的性能分析工具链，从系统级到kernel级、从CPU-GPU交互到指令级，层层递进。本文带你认识最核心的几个工具：Nsight Systems、Nsight Compute、PyTorch Profiler，以及性能分析的"指南针"——Roofline模型。

吃鱼的灰太狼

Qwen-image-2.1 本地部署保姆级教程 | 首页技术教程很多人部署 ComfyUI，卡住的并不是模型下载，而是最后那一步：模型明明在目录里，节点也能拖出来，运行时却接连报错。

Agent与大语言模型的集成本文深入探讨Agent与大语言模型(LLM)的集成方法，包括API调用、上下文管理、提示词工程和工具调用。通过理论讲解和代码示例，帮助读者理解如何将LLM的强大能力融入Agent系统。

程序猿编码

不依赖 vLLM/llama.cpp：一套面向学习的 DeepSeek-R1 CUDA 推理实现如果你是一个对大模型推理底层原理感兴趣的后端工程师，大概率有过这样的困惑：用 vLLM 部署很快，用 llama.cpp 量化推理也很方便，但你对"每一个 token 到底在 GPU 上经历了什么"依然是一头雾水。框架帮你封装了太多东西——算子怎么调度、内存怎么管理、kernel 怎么 launch，这些全被藏在 C++ 模板和 CUDA 核函数里面，你只能看到输入输出，看不到中间过程。

KDD 2026 | （2月轮）时空数据(Spatial-Temporal)论文总结时空【下】（人群移动，城市科学（资源调度，）KDD 2026于2026年8月9日至13日于韩国济州（Jeju, Korea ）正在举行。本文总结了KDD 2026（February Cycle）上有关时空数据（Spatial-Temporal）的相关论文。

文旅景区怎么用AI生成3D导览？从航拍采集、地标重建到网页漫游的完整方案文旅景区可以用 AI 辅助整理航拍和地面素材、生成三维重建草稿、制作讲解热点，并把复杂场景派生为网页漫游版本。但航拍视频能恢复出空间画面，不等于已经形成可信导览。

【CUDA编程入门⑥】CPU多线程并行优化：OpenMP、NUMA与SIMD向量化本文是「CUDA编程与HPC高性能计算」系列的第六篇。说到HPC，大家第一反应都是GPU。但你知道吗？在很多AI场景中，CPU仍然是关键角色——数据预处理、后处理、EmbeddingLookup、NMS、控制流……这些算子在CPU上跑反而更高效。本文带你补全CPU侧的并行优化知识：OpenMP、NUMA、SIMD——一个都不能少。

AdaRSI 论文分析论文：AdaRSI: On-Demand Recursive Self-Improvement for Embodied Agents（Northeastern Univ. / AgiBot / UCAS，2026.10）

【CUDA编程入门③】经典算子实战：Reduce归约——从朴素实现到高性能优化的演进之路本文是「CUDA编程与HPC高性能计算」系列的第三篇。Reduce（归约）是深度学习中最基础也最常用的算子之一——Softmax需要它，LayerNorm需要它，Loss计算也需要它。别看Reduce的功能很简单（就是求和/求最大值），但要写得快，里面的门道可不少。本文带你一步步演进，从最朴素的实现到接近硬件极限的高性能版本。

《C++ 项目：手写大模型接入 SDK》Provider分析与实现🔥小叶-duck：个人主页❄️个人专栏：《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》《Linux系统从入门到实践》《Linux网络从入门到实践》《Qt 方寸极境》《MySQL》