AI Coding 最大的 token 黑洞,可能根本不是 prompt

我最近才意识到:

AI Coding 最大的 token 黑洞,可能根本不是 prompt。

而是 shell output。

Claude Code / Cursor 在长时间 agent session 里,会不断读取:

  • git log
  • npm install
  • cargo build
  • docker logs

这些 CLI 输出很多都是"人类都不会认真看"的噪音,但模型会把它们重新塞进 context。

结果就是:

你在花钱让 LLM 重复阅读终端垃圾信息。

最近看到一个很有意思的项目:

lean-ctx(GitHub 已经 1.7k⭐)

它做的事情其实很简单:

在 AI Agent 和代码仓库之间加一层 context optimization。

核心包括:

• 压缩 shell 输出

• AST / Tree-sitter 分析代码结构

• 缓存重复上下文

• 只给模型真正相关的代码片段

官方数据里提到:

  • token reduction 可达 60--95%
  • cached re-read 最低只需要十几个 token
  • 支持 Claude Code、Cursor、Codex、Windsurf 等 Agent

但我觉得最有意思的不是"压缩文件读取"。

而是:

它终于开始优化 CLI output 了。

现在很多 AI Coding 工具都在做 RAG、memory、prompt engineering。

但真正疯狂烧 token 的,

往往是那些没人关注的终端日志。

AI Coding 下一阶段,

可能已经不是 "更强模型" 竞争了。

而是:

谁能更高效地管理 context。

相关推荐
鬼手点金8 小时前
nanoGPT/nanochat 能做出 DeepSeek/Qwen 这样的大模型吗?
服务器·前端·javascript·bug·openclaw
蛋蛋的就会顺顺的9 小时前
hot100 p0——栈,贪心算法,动态规划
java·前端·javascript·算法·leetcode·力扣
程序员Sunday9 小时前
TypeScript 的 any、unknown、never 有什么区别?
前端·面试·typescript
朱涛的自习室9 小时前
70 美金的 Beyond Compare,我让 Gemini 4 和 DeepSeek 造个开源免费版(Day 2)
android·前端·人工智能
码艺-Alimjan9 小时前
Tauri 源码备份 · 打包 & 解压 总结,源码收集之路
前端·javascript·vue.js
小马不起床10 小时前
零基础玩转 FastAPI_11:前端后台管理页面
前端·状态模式·fastapi
子非鱼a11 小时前
【文件上传】一个普普通通的edu16
前端
美狐美颜SDK开放平台11 小时前
直播APP如何实现美白滤镜功能?视频美颜SDK技术开发方案详解
前端·数据库·人工智能·音视频·美颜sdk·直播美颜sdk·视频美颜sdk
pride.li12 小时前
第03章 Python 教程-基础语法:注释与变量
服务器·前端·后端·python·算法·计算机视觉
屏什么录12 小时前
电脑如何录屏幕视频和声音?从工具到代码,7 种方案帮你彻底搞定
前端·音视频开发