AI Coding 最大的 token 黑洞,可能根本不是 prompt

我最近才意识到:

AI Coding 最大的 token 黑洞,可能根本不是 prompt。

而是 shell output。

Claude Code / Cursor 在长时间 agent session 里,会不断读取:

  • git log
  • npm install
  • cargo build
  • docker logs

这些 CLI 输出很多都是"人类都不会认真看"的噪音,但模型会把它们重新塞进 context。

结果就是:

你在花钱让 LLM 重复阅读终端垃圾信息。

最近看到一个很有意思的项目:

lean-ctx(GitHub 已经 1.7k⭐)

它做的事情其实很简单:

在 AI Agent 和代码仓库之间加一层 context optimization。

核心包括:

• 压缩 shell 输出

• AST / Tree-sitter 分析代码结构

• 缓存重复上下文

• 只给模型真正相关的代码片段

官方数据里提到:

  • token reduction 可达 60--95%
  • cached re-read 最低只需要十几个 token
  • 支持 Claude Code、Cursor、Codex、Windsurf 等 Agent

但我觉得最有意思的不是"压缩文件读取"。

而是:

它终于开始优化 CLI output 了。

现在很多 AI Coding 工具都在做 RAG、memory、prompt engineering。

但真正疯狂烧 token 的,

往往是那些没人关注的终端日志。

AI Coding 下一阶段,

可能已经不是 "更强模型" 竞争了。

而是:

谁能更高效地管理 context。

相关推荐
#麻辣小龙虾#7 小时前
基于vue3.0开发一款【固废与废气运维管理系统】(支持源码)
前端·vue.js·vue3
Cosolar7 小时前
Docsify零构建文档站完全指南:从快速搭建到企业级部署
前端·开源·github
weixin_471383037 小时前
Taro-02-页面路由
前端·taro
星栈独行7 小时前
Makepad 应用如何读文件、调接口、保存数据
前端·程序人生·ui·rust·github
IT_陈寒8 小时前
Vite热更新失效?可能你在用Windows
前端·人工智能·后端
tedcloud1239 小时前
taste-skill部署教程:打造个性化AI推荐工作流
服务器·前端·人工智能·系统架构·edge
xinhuanjieyi9 小时前
html修复游戏种太阳错误
前端·游戏·html
林希_Rachel_傻希希9 小时前
学React治好了我的焦虑症,1小时速通React 前20分钟。
前端·javascript·面试
Cache技术分享10 小时前
435. Java 日期时间 API - Clock 灵活获取当前时间
前端·后端
独泪了无痕11 小时前
Vue3中防御XSS攻击的“特效药”-DOMPurify
前端·vue.js·安全