大模型常见的专用名词

复制代码
•	RPM(Requests Per Minute):每分钟最多允许发起多少次请求(调用次数)。超过就会报限流。 
•	TPM(Tokens Per Minute):每分钟最多允许处理多少 token。token 可以理解为"文本计费单位/处理单位"(中英文拆分规则不同)。 
•	重要:有的厂商 TPM只算输入 tokens,有的会把 输入+输出 都算进去;要以你用的厂商文档为准。 
•	RPD(Requests Per Day):每天(或滚动 24h)最多允许多少次请求。 
  1. Token & 上下文相关

    • Token:模型处理文本的基本单位;不是"字数",中文/英文的 token 数差异很大。

    • Context window / Context length(上下文窗口):一次请求里模型能"看到"的最大 token 数(输入+输出通常都占用窗口)。

    • Input tokens / Output tokens:输入消耗的 token、输出生成消耗的 token。

    • Max output tokens / max_tokens:这次最多允许模型生成多少 token(防止无限输出)。

    • Truncation(截断):输入太长时被系统或你自己截断,导致模型"看不到后半段"。

  2. 限流 / 吞吐相关

    • RPS / QPS(Requests/Queries Per Second):每秒请求数(有时平台会用这个口径,而不是 RPM)。

    • Burst(突发):短时间允许你"瞬时冲高",但会用更长窗口做平滑统计(常见于滚动窗口策略)。

    • Rolling window(滚动窗口):不是按整点清零,而是按"最近 60 秒 / 最近 24 小时"累计来算;所以你会看到"请在 X 分钟后重试"这种提示。 

    • Concurrency(并发):同时在跑的请求数量上限(有的平台单独限制并发)。

    • Throughput(吞吐):单位时间输出多少 token(tokens/s),和模型大小、推理硬件、解码策略有关。

    • Latency(延迟):从发请求到拿到响应的时间;常拆成 TTFT + 生成阶段。

  3. 流式与时延拆分

    • Streaming(流式输出):模型边生成边返回(更"快看到第一段")。

    • TTFT(Time To First Token):首 token 返回时间;对体验影响非常大。

    • Tokens/s(生成速度):流式时更直观。

  4. 计费与配额混合口径(不同厂商差异更大)

    • TPD(Tokens Per Day):每天 token 总量限制(有些平台有)。 

    • Spend limit(消费上限):按金额限制(例如 Anthropic/Claude 文档里会区分消费上限和速率限制)。 

    • Cached tokens(缓存 token):有的平台对"命中缓存"的 token 不计入限额或计费(具体看平台规则)。 

    • 音频类配额:例如按 Audio seconds per hour/day 计(做语音模型常见)。 

相关推荐
小田学Python19 小时前
DeepSeek Harness 完整上手指南:安装部署 + 必装插件 + 用一周就回不去的功能
大数据·大模型·agent·ai工具·deepseek
aicat_cn1 天前
json-render 接入 Chat SDK:Agent 在 Slack 和 Teams 里直接回表格和按钮
ai·大模型
神奇的代码在哪里1 天前
Agent 记忆的组成部分:Anthropic The components of agent memory 文章的简要解读
大模型·claude·ai agent·上下文工程·agent记忆
神奇的代码在哪里1 天前
ERNIE-5.5-Flash-Base 开源速览:280B-A14B MoE 基座,微调与推理支持 1M 上下文
大模型·模型部署·文心大模型·moe·ernie5.5
謓泽1 天前
【插件】用写网页的方式做视频?HyperFrames 让我重新理解了“做视频“这件事!
gpt·ai·大模型·音视频·媒体·claude·视频
JJJennie7772 天前
MAI Gateway私有化部署全攻略:大模型网关接入DeepSeek?附架构图
大模型·gateway·ai网关·魔芋ai
deepseek233 天前
美团LongCat-2.5拆解:同架构Terminal Bench 4.0从3.0飙到38.5,长程强化学习的账单怎么算
大模型·ai agent·美团longcat
todoitbo3 天前
我在 Mac 上用 Docker 部署 Nexent:从拉取镜像到接入模型
macos·docker·大模型·ai智能体·nexent·快速入门与环境准备
承渊政道3 天前
Open-LLM-VTuber本地部署教程:大模型、语音交互、Live2D与远程访问
大模型·内网穿透·数字人·cpolar·语音交互·open-llm-vtuber
香吧香3 天前
当系统开始自己做判断:智能运维里的日志,为什么不能照搬传统那套
大模型