技术栈

上下文附栏

流浪001
2 小时前
llm·上下文窗口·上下文附栏
大模型技术全景(二十六):上下文窗口的大小边界与上下文腐烂📚 本文收录于「流浪」的系列专栏🏠 博客主页:流浪 | 📝 原创首发于 CSDN上一篇用三个常见问题收了 RAG 的尾,其中第一个问题落在一句话上:长上下文解决的是「一次能读更多材料」,RAG 解决的是「从海量知识里筛选相关信息」,两者不是一回事。这句话要站得住,得把上下文窗口本身拆开看——它到底有多大、里面装了些什么、为什么不能无限做大、塞满了会发生什么。本篇就把这块工作区从里到外讲一遍,最后再往下追一层:为什么窗口越大,里面的信息反而越容易「烂掉」。
我是有底线的