语言模型

Zzj_tju10 小时前
人工智能·深度学习·机器学习·语言模型
准确率不变,概率质量也不变吗?系列:可信预测实验室:从模型置信度到可检验的拒答前一篇固定模型预测,只改变分箱方式,发现校准误差会随测量口径变化。这一次把问题再往前推进:如果每条样本的预测类别完全不变,概率质量是否也应该不变?这不是文字游戏。准确率只记录答案是否命中标签,无法区分一次谨慎的错误和一次几乎不给正确答案留余地的错误。科研报告若只保留一个准确率数字,就可能把这部分差异全部丢掉。
Zzj_tju11 小时前
人工智能·机器学习·语言模型·自然语言处理
长期记忆让智能体更可靠,还是让错误持续累积?假设科研助手曾经用某种清洗规则处理一份数据,并得到正确结果。它把规则写入长期笔记,下次遇到字段相似的数据便照搬,却忽略了单位已经改变。更麻烦的是,新结果又被总结为“成功经验”,进入下一次检索。这是说明问题的假设场景,不是本次实验。
JAVA_AI人工智能项目实战19 小时前
人工智能·深度学习·语言模型·自然语言处理
深度学习实验笔记自从2022年,ChatGPT横空出世后,LLM的使用,变得普及化。就像电灯的发明,让电走进千万家一样。 而ChatGPT这类LLM,底层就是使用的深度学习DeepLearning来训练获取到的。
小海测评1 天前
大数据·人工智能·语言模型·geo·企业获客
生成式引擎优化技术解析:大语言模型外部内容采信机制与工程实践大语言模型的广泛普及,使 AI 问答逐步成为公众获取信息的重要途径。与之相伴,一个技术议题开始受到开发者和内容工程从业者的关注 —— 生成式引擎优化,即 GEO。其研究的问题可以概括为:外部内容如何被大模型识别、收录,并在用户提问时被优先采信与引用。这一问题涉及语义理解、信息架构、信源治理与持续监测等多个层面,具有较高的工程复杂度。本文以技术视角对其底层机制、关键环节与落地难点作系统梳理,以供相关从业者参考与探讨。
xiaoye-duck1 天前
开发语言·网络·c++·语言模型
《C++ 项目:手写大模型接入 SDK》DeepSeek接口设计(上):初始化和全量响应🔥小叶-duck:个人主页❄️个人专栏:《Data-Structure-Learning》《C++入门到进阶&自我学习过程记录》 《Linux系统从入门到实践》《Linux网络从入门到实践》 《Qt 方寸极境》 《MySQL》
Dawson Zhu2 天前
人工智能·语言模型·架构·aigc·agi
【AI编译器入门⑥】端到端编译流程实战:ONNX → TVM → TensorRT全链路本文是「AI编译器」系列的第六篇。前面我们分别讲了前端、中端、后端,今天把它们串起来——从ONNX模型开始,经过TVM中端优化,再选择不同的后端(CUDA/CUTLASS/TensorRT),最终生成可部署产物。本文带你完整走一遍端到端编译链路。
江屿风2 天前
人工智能·redis·笔记·语言模型·llm·mcp
【Plain Language Large Model】【从麦当劳点餐到Redis接入:MCP如何让AI工具集成变简单】流食般投喂课程主题:MCP(Model Context Protocol)技术解析与实战入门 核心观点:MCP 不是又一个封闭的收费接口,而是 AI 应用与外部工具之间的“万能 Type-C 口”。它把传统模式下 M×N 的定制化开发,压缩成了 M+N 的标准接入。
AI模型调用笔记2 天前
人工智能·驱动开发·语言模型·copilot
Copilot Fusion:用 Python 跑通模型级联模型接口返回了 HTTP 200,后面的程序却没法继续:JSON 少了字段,修改计划指向项目里不存在的文件,或者答案在输出上限处被截断。
硅谷秋水2 天前
人工智能·机器学习·语言模型
自演化智能体驾驭论文:Self-evolving Agent Harness(arXiv:2610.18813),来自中关村学院,中关村人工智能研究院和中国科学技术大学。
日日大王学编程2 天前
python·语言模型·langchain
LangGraph 基本用法详解:从入门到实战在构建基于大语言模型(LLM)的应用时,我们常常遇到这样的场景:一个问题可能需要多次调用模型才能解决;需要根据模型的输出决定下一步做什么;需要调用外部工具(搜索、数据库查询等);某些任务需要反复执行直到满足条件。
雾喔3 天前
人工智能·语言模型·智能手机
从零理解大语言模型:AI、LLM、训练成本与手机助手的底层逻辑Build a Large Language Model (From Scratch) 中文版最近我在读 Sebastian Raschka 的《从零构建大模型》(Build a Large Language Model From Scratch)第一章,结合自己实际产生的疑问,把核心概念重新梳理了一遍。
硅谷秋水3 天前
人工智能·机器学习·计算机视觉·语言模型·机器人
Agentic World Action Models(AW-0)贡献与不足分析论文:Agentic World Action Models(UC Berkeley / NVIDIA / UPenn,2026.10)
JAI科研3 天前
人工智能·语言模型·自然语言处理·chatgpt·transformer·vllm·sglang
把一个 Qwen3.8的聊天模型改造成 JEV 决策模型普通大模型回答"这道题选 A 还是 B"的方式是生成文字:吐出 “答案是 B”,你再拿正则去解析。慢、会格式错、而且它写出来的"我有 80% 把握"是编的,不是真实置信度。
Eloudy3 天前
人工智能·语言模型·sglang
全文 - SGLang: Efficient Execution of Structured Language Model Programs单位: ¹ 斯坦福大学(Stanford University) ² 加州大学伯克利分校(UC Berkeley) ³ 上海交通大学(Shanghai Jiao Tong University) ⁴ 德州农工大学(Texas A&M University) ⁵ 独立研究员(Independent Researcher)
Dawson Zhu3 天前
人工智能·语言模型·架构·aigc·agi
【AI编译器入门④】编译中端:图优化Pass全解析——DCE、常量折叠、算子融合与布局变换本文是「AI编译器」系列的第四篇。如果说前端是"入口"、后端是"出口",那中端就是AI编译器的"大脑"——它在不改变推理结果的前提下,把计算图变得更干净、更高效。本文带你认识最核心的几类图优化Pass:死代码消除、常量折叠、算子融合、布局转换……以及如何手写一个自定义Pass。
zhangfeng11334 天前
人工智能·语言模型·自然语言处理
大语言模型 Greedy Decoding,贪心解码 / 贪心搜索大模型生成文字时,每一步直接选当前概率最高的 token(词元),不看后面、不随机采样、不保留多个候选,公式: KaTeX parse error: Can't use function '\(' in math mode at position 18: …t=\arg\max P(w|\̲(̲y_t=\arg\max P(…
郝学胜-神的一滴4 天前
人工智能·python·算法·语言模型·langchain·pip
AI 编程智能体 16:从零基础搭建到精细化优化很多小伙伴在入门LangChain智能体开发时,都会踩一个致命误区:以为大模型拿到工具后就能自动干活、自动执行任务。
iiiiii114 天前
人工智能·机器学习·语言模型·大模型·llm·attention·注意力
大模型批量生成中的左填充 (left padding)与右填充 (right padding):从生成正确性到 GRPO 的混合策略这一节首先明确 padding 要解决什么问题、通常怎么做。目标。 仅解码器模型和编码器模型都按 batch 计算张量,而一个 batch 内各条序列长度往往不同。padding 的目标是把它们补齐到同一长度,使 batch 可以表示为一个规则张量。设第 iii 条序列长度为 LiL_iLi,batch 内最大长度为 Lmax⁡=max⁡iLi L_{\max}=\max_i L_i Lmax=imaxLi
凯凯姜4 天前
人工智能·笔记·语言模型
Ollama 本地部署大语言模型笔记目的:使用 Ollama 在本机下载、运行和管理大语言模型,并通过本地 API 将模型接入自己的应用。 适用系统:Windows、macOS、Linux。 更新日期:2026-10-27
Dawson Zhu4 天前
人工智能·语言模型·架构·aigc·agi
【AI编译器入门②】TVM架构拆解:Relay、Relax、TIR与Runtime四层结构本文是「AI编译器」系列的第二篇。TVM是学术界和工业界最成熟的AI编译器之一。很多人学TVM时容易被一堆名词搞晕:Relay、Relax、TIR、TE、Schedule、Runtime……它们都是什么?有什么关系?本文把TVM的四层架构拆开讲清楚,帮你建立整体认知。