上下文窗口

流浪0012 天前
llm·上下文窗口·上下文附栏
大模型技术全景(二十六):上下文窗口的大小边界与上下文腐烂📚 本文收录于「流浪」的系列专栏🏠 博客主页:流浪 | 📝 原创首发于 CSDN上一篇用三个常见问题收了 RAG 的尾,其中第一个问题落在一句话上:长上下文解决的是「一次能读更多材料」,RAG 解决的是「从海量知识里筛选相关信息」,两者不是一回事。这句话要站得住,得把上下文窗口本身拆开看——它到底有多大、里面装了些什么、为什么不能无限做大、塞满了会发生什么。本篇就把这块工作区从里到外讲一遍,最后再往下追一层:为什么窗口越大,里面的信息反而越容易「烂掉」。
Blockbuater_drug10 天前
大模型基础·上下文窗口·token计费·消息结构·chat template·agent底层机制
《AI Agent原理与实战》2026版 第2课 LLM 基础回顾:Agent 视角下的语言模型本文收录于专栏 agent智能体系列 —— 专栏系统覆盖 AI Agent 的记忆、工具、插件与实战,点击订阅可跟踪后续更新。
AI你一生一世16 天前
人工智能·大语言模型·注意力机制·rag·长上下文·上下文窗口·推理成本
Attention is all you have:当上下文成为唯一的护城河我是AI时代的无业游民,我游荡在现实与意念之间过去两年,主流大模型的上下文窗口从 8K 一路推到 1M 甚至 10M token。表面上看,这是"能塞更多文档"的工程红利;但在真实系统里,它带来的第一个问题不是性能,而是决策逻辑的崩塌。
j7~1 个月前
人工智能·大模型幻觉·上下文窗口·cli智能体
【AI应用---白话大模型(篇九)】《一文看懂Agent:CLI 智能体、上下文窗口与大模型幻觉》---详解2025 年底到 2026 年初,⾏业⾥对 MCP 的态度发⽣了⼀次集体转向。Vercel CEO rauchg 在 X 上直接说:”CLIs are the de-facto MCPs for agents”――CLI 就是事实上的Agent ⼯具协议.Perplexity CTO、Y Combinator 掌舵⼈ Garry Tan 也在同⼀时期公开站了 CLI 这边。中⽂社区更直接,有⼈甚⾄喊出了”MCP 已死”。微软在 2025 年先做了 Playwright MCP Server,作为浏览器⾃动
circuitsosk2 个月前
java·前端·python·prompt·上下文窗口·token优化
长文本与高并发下的Token“瘦身”策略:Prompt压缩与上下文窗口优化大模型推理成本,说白了就是Token成本。每一轮对话、每一次RAG检索、每一段系统提示词,最终都换算成Token,再从你的账户里扣钱。长文本场景下,这个问题尤为突出——上下文窗口越开越大,但每次请求塞进去的Token也越来越多,成本就这样不知不觉地失控了。
带娃的IT创业者2 个月前
人工智能·github·代码优化·ai编程助手·上下文窗口·上下文压缩
GitHub 热门项目解析:当 AI 编码助手遭遇“上下文爆炸”👋 Hi,我热衷于 (AI 大模型应用落地、Python 实战进阶与 AI 开发工具链)。代表专栏:《AI大模型应知应会短平快系列100篇》《解密OpenClaw》《解码意识NCTransformer》《WeClaw Agent实战》> 💡 创业路上,用技术换时间;欢迎 关注我,一起把 AI 变成生产力 🚀 >
养肥胖虎5 个月前
llm·上下文窗口·contextwindow
完整学习LLM(六):上下文窗口是什么,为什么模型会忘东西好家伙,上一篇我们聊了 Embedding.当时说到一个很关键的点:但这里马上就会遇到一个新问题:比如我问:
七牛云行业应用5 个月前
大语言模型·agent·上下文窗口·技术演进·gpt-5.5
Claude Code10小时限额翻倍后怎么用【2026最新】:/clear、/compact、.claudeignore完整配置Claude Code 是 Anthropic 推出的命令行 AI 编程助手,2026年5月6日的 Code with Claude SF 开发者大会上,Anthropic 宣布与 SpaceX 达成算力合作——接入 Colossus 1 超算中心 22万张 NVIDIA GPU、超 300 兆瓦算力,同日永久将 Pro/Max/Team/Enterprise 方案的 5 小时 Claude Code 使用限额翻倍至 10 小时,并同步取消 Pro 和 Max 方案的高峰时段降速限制。这意味着开发者现在可
黑客思维者1 年前
笔记·学习·llm·长文本·上下文窗口
LLM底层原理学习笔记:上下文窗口扩展技术如何突破记忆瓶颈,解锁大模型的长文本理解力大型语言模型(LLMs)的能力在很大程度上受限于其能够同时处理的上下文窗口(Context Window)长度。传统的 Transformer 模型通常只能处理 4K 到 8K 的 Token 序列,这使其在处理长篇文档、法律合同或完整技术报告时显得力不从心。近年来,研究者通过引入位置编码外推、稀疏注意力、以及KV缓存压缩等一系列上下文窗口扩展技术,成功将 LLMs 的处理长度推至数万甚至十万 Token 级别。本文将深入解析这些技术背后的原理,阐述它们如何帮助模型理解复杂长文本,并探讨其在专业领域中的关
我是有底线的