AI Coding 最大的 token 黑洞,可能根本不是 prompt

我最近才意识到:

AI Coding 最大的 token 黑洞,可能根本不是 prompt。

而是 shell output。

Claude Code / Cursor 在长时间 agent session 里,会不断读取:

  • git log
  • npm install
  • cargo build
  • docker logs

这些 CLI 输出很多都是"人类都不会认真看"的噪音,但模型会把它们重新塞进 context。

结果就是:

你在花钱让 LLM 重复阅读终端垃圾信息。

最近看到一个很有意思的项目:

lean-ctx(GitHub 已经 1.7k⭐)

它做的事情其实很简单:

在 AI Agent 和代码仓库之间加一层 context optimization。

核心包括:

• 压缩 shell 输出

• AST / Tree-sitter 分析代码结构

• 缓存重复上下文

• 只给模型真正相关的代码片段

官方数据里提到:

  • token reduction 可达 60--95%
  • cached re-read 最低只需要十几个 token
  • 支持 Claude Code、Cursor、Codex、Windsurf 等 Agent

但我觉得最有意思的不是"压缩文件读取"。

而是:

它终于开始优化 CLI output 了。

现在很多 AI Coding 工具都在做 RAG、memory、prompt engineering。

但真正疯狂烧 token 的,

往往是那些没人关注的终端日志。

AI Coding 下一阶段,

可能已经不是 "更强模型" 竞争了。

而是:

谁能更高效地管理 context。

相关推荐
计算机魔术师26 分钟前
NVIDIA 以 129.3 亿美元收购 Hugging Face
前端
平头哥技术团队27 分钟前
Day 01 | 用 HTML 写第一个网页:双击就能在浏览器打开
前端
计算机魔术师1 小时前
两年翻45倍!英伟达靠买买买建成千亿投资帝国
前端
paopaokaka_luck1 小时前
基于springboot3+vue3的精准扶贫管理系统(AI 问答、ECharts 图形化分析)
前端·人工智能·echarts
l1m0_2 小时前
智能电动自行车管理后台实战:AI生成页面与React组件化技巧
前端·react.js·ui·ai·设计
Patrick_Wilson2 小时前
为什么gitlab的MR会默认有一个merge commit
前端·git·gitlab
en.en..2 小时前
Linux mmap 内存映射深度解析:基于帧缓冲 /dev/fb0
java·服务器·前端
后台模板学习3 小时前
从0到1用Vite构建电商订单系统前端性能优化方案
前端
Wang's Blog3 小时前
Vibe Coding一人即团队系列58: HTML演示文稿自动生成
前端·人工智能·html
FoldWinCard3 小时前
基于k8s高可用web集群
前端·容器·kubernetes