token

小七-七牛开发者33 分钟前
大模型·claude·token·工作流·长程agent
PACE:代码通过率从 42% 到 97%, 让长程 Agent 在有限 KV Cache 下用好历史 Token长程 Agent 经常需要在多个步骤后,重新使用前面的代码定义或业务规则。随着会话增长,KV Cache 无法无限扩张,推理系统需要选择性地保留历史信息。可问题是即便保留了后续任务所需的 Token,模型就一定能正确使用吗?
小七-七牛开发者20 小时前
ai·大模型·agent·token·工作流·claudecode·ai coding
周 1 上线 | DSH 喜提原神进场动画,Anthropic 启动 IPO 路演;黄仁勋辞任;微软全球大宕机超 24 小时这期的「周一上线」,Agent 不仅继续干活,还开始自己加流程。有人用约 2.5 万次 Agent 运行造出 450 多个 3D 世界,结果中途冒出了一套官僚机构;有人用 Claude 和五台设备寻找神秘滴滴声,还有人把实体小汽车搬到了 iPad 的马路上。
XLYcmy21 小时前
机器学习·llm·prompt·api·token·漏洞修复·漏洞检测
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 下4.3 一般(P2):规范性与细节编号位置问题表现修改动作P2-1第 8 页修正为“如图 5 所示”。
XLYcmy2 天前
论文阅读·论文笔记·token·commit·asr·论文分享·tokenizer
ASR 识别任务:两篇论文阅读分析与系统方案技术报告 当前报告的建议和改进方向论文阅读 · 技术分析 · 独立评审当前报告的建议和改进方向从高质量方案综合升级为可复现、可比较、可验收的实施报告
七夜zippoe3 天前
ai·agent·token·成本失控
Token 账单翻了 10 倍:Agent 成本失控的排查过程与优化实录摘要:9 月账单 ¥86,300,8 月 ¥8,240——涨了 10.5 倍,而请求量只涨了 18%。这说明问题不在"用得多",而在"每一次用得更贵"。本文完整复盘这次排查:先用四把切片刀(按模型 / 按租户 / 按工具 / 按时间)把"账单涨了"这个不可归因的结论拆成可归因的六块,再逐层定位根因——重试放大(占增量 31.2%)、上下文无界增长(24.0%)、缓存未命中(18.9%)、废弃的调试开关没关(13.2%)、批量任务与交互任务混跑(8.6%)、隐藏的系统提示词膨胀(4.1%)。六块加起来正好对
XLYcmy3 天前
论文阅读·论文笔记·token·cuda·asr·论文分享·tokenizer
ASR 识别任务:两篇论文阅读分析与系统方案技术报告 当前报告不足论文阅读 · 技术分析 · 独立评审当前报告不足报告证据缺口、内部一致性、实验归因与落地验收评审评审对象 《ASR 识别任务:两篇论文阅读分析与系统方案技术报告》
七夜zippoe4 天前
ai·agent·token·死循环·中断机制
Agent 无限循环烧 Token:死循环检测与中断机制设计摘要:一个批量任务跑了 112 轮、4 小时 37 分、1,872,400 Token、¥3,140,全程 HTTP 200、每轮延迟正常、监控一片绿色——直到运维发现 Pod 内存在涨。本文把它当作一次完整的循环失控事故复盘:先给四类成因(条件永不满足 / 状态未推进 / 工具反复返回同样结果 / 自我引用),再给四种检测手段(重复签名检测、状态哈希无进展检测、预算硬闸门、工具调用指纹)并给出实测的检出率、检出轮次与误报率;然后讲中断的两档策略(软中断注入收尾提示让模型自然结束、硬中断取消任务并转人工)
文慧的科技江湖19 天前
token·api网关·ai应用·大模型api·token中转站
Token工厂技术拆解(10月28日)|月底对账多付605块,账单上缓存那一栏一直是零月底最后一个工作日,负责售后机器人的工程师把上个月的调用明细导成表格。十二万次调用,账单一千一百零四元。
云上工程笔记20 天前
人工智能·spring boot·缓存·token
2026年大模型Token成本测算推荐清单:输入输出、缓存、并发与峰值用量很多团队算大模型成本,只做一道乘法:每天调用次数乘以每百万 Token 单价。这个算法在原型阶段够用,一进入生产就会失真。真正决定账单的,是输入里有多少内容每次都被重复发送、输出长度是否失控、缓存能否真正命中、高峰时的并发会不会触发限流,以及失败重试有没有被计入。
玩AI的奶茶24 天前
服务器·人工智能·gpu算力·token·算力租赁
GPU 算力租赁平台横向对比:六家主流平台,24GB 档价差 85%同样 24GB 显存的 RTX 4090,2026 年 10 月六家平台的挂牌价从 1.24 元到 2.30 元,差了 85%。
江屿风25 天前
人工智能·笔记·语言模型·llm·json·token·聊天模板
【Plain Language Large Model】【大语言模型底层原理全解析:从Token生成到智能体演进】流食般投喂当我们熟练地调用 ChatGPT、DeepSeek 或千问的 API 时,可曾想过模型背后并非“思考”,而是在进行一场精密且疯狂的数学运算?这一系列课堂笔记,将带大家穿透黑盒,看清 LLM 从“说第一个字”到“进化为机器人”的完整旅程。
星野云联AIoT技术洞察1 个月前
esp32·agent·token·边缘ai·meta muse·mcu选型
ESP32 接入 Meta Muse:Gadget SDK 能做什么,为什么不能直接做商业设备Meta 已公开 Muse Gadget SDK,ESP32 设备可以通过官方固件与 Muse 配对,并向 Muse 暴露自定义命令。做一个自用的传感器或按钮原型,已有明确入口;把同一固件烧进准备出售的设备,则不能因为仓库采用 Apache-2.0 就认为接入 Muse 的权利也随之开放。SDK仓库和SDK token 条款分别管理代码与服务凭证,这两个边界必须分开判断。
smilejingwei1 个月前
大模型·token·智能问数·nlq
不用大模型不烧 token 能把智能问数做到啥程度?先把结论放在前面:能做出一个完整可用的 BI 查询工具,只是入口从“随便问”变成“引导式输入”。核心能力多表关联、跨表对齐、排名占比环比,一样不少。差别只在灵活性:用户不能说“帮我看看上月华东区卖得咋样”,但可以说“上月 华东 订单金额 总和”。
救救孩子把1 个月前
人工智能·面试·职场和发展·llm·token
AI面试八股文-01_1-LLM基础概念(Token-上下文窗口-幻觉)pdf版下载链:https://pan.quark.cn/s/9cc742e9c2a8更新: 2026-10-12
玩AI的奶茶1 个月前
人工智能·ai·gpu算力·token·算力租赁
从零到跑通:在算家云上部署大模型的完整操作手册(实例创建 / 镜像选择 / 远程连接 / 成本控制)摘要:本文按算家云帮助中心的公开流程,拆解从注册到模型跑通的完整链路,覆盖版本选择、镜像选择、GPU 与计费选型、远程连接配置、首次运行检查、成本控制与安全基线七个环节,并给出可直接复制的命令与故障排查表。所有平台规则均标注官方来源与生效日期,价格与库存在创建订单时以工作台实时显示为准。
信马堂1 个月前
人工智能·大模型·token·ai算力·workbuddy
WorkBuddy 接入第三方模型 API 全流程:安装与配置实录WorkBuddy 默认使用内置模型通道,安装后即可开始对话。如果你希望统一管理模型账单、自由切换模型,或者把请求接到自己的 OpenAI 兼容接口,也可以把它配置为自定义供应商。
liangshanbo12151 个月前
token
面试题:AI 产品里,前端怎么降低 Token 消耗?前端降低 Token 成本,核心就是少给模型传无效上下文。面试时先说这一句就够了。可以从几个方向展开:
xiangshangdemayi1 个月前
ai·gis·教程·token·strata·自由
Strata教程:让GISer真正实现了token自由这几天,一个新的推理框架 Strata 火了,能让消费级显卡(英伟达 30、40 系列)实现本地运行 Qwen3.8 Flash。看了 GitHub 上的介绍和很多人的测试,用 8G 显存和 32G 内存就能跑出不错的成绩,大概 50 tok/s。于是趁着假期,我也赶紧试了一下,这里记录一下。
网络毒刘1 个月前
人工智能·性能优化·token·cursor
Token 用量观测实战:从会话结构拆前缀/工具/生成,建立个人降本仪表盘省 Token 的文章很多,教你砍 Rules、用 @、换模式。但若没有观测,你不知道哪一刀真有效——很容易陷入「这周换了模型,下周又觉得贵」的轮回。本文不重复四步省 Token 操作清单,而做一件更基础的事:把会话成本结构拆开,建成个人能坚持的降本仪表盘。
网络毒刘1 个月前
agent·token·cursor·成本·mcp
Token 账单的「隐形税」:系统提示、工具定义与历史滚动为何比生成贵打开用量面板,很多人盯着「这次回答好长」。更值得盯的是:还没开始生成补丁,一轮对话已经叠了四层前缀——产品系统提示、项目 Rules、工具/MCP 定义、会话历史。它们像增值税:不一定出现在你意识里的「正文」里,却在每轮计费里反复出现。