Break the Sequential Dependency of LLM Inference Using Lookahead Decoding
【大模型推理加速】基于前瞻解码的并行化无损加速算法：打破自回归依赖的高效LLM推理
Break the Sequential Dependency of LLM Inference Using Lookahead Decoding
spencer_tseng2026-02-14 11:19
相关推荐
doiito8 小时前
【Agent Harness】Gliding Horse 本体论系统设计：给 AI Agent 装上“语义大脑”嘻嘻仙人13 小时前
Python 开发者的性能革命：为什么你应该从 pip 转向 uv？universeplayer13 小时前
我给 AI Agent 装了个飞机黑匣子：录下每一次 LLM 调用，崩了能确定性回放JieE21213 小时前
从"无状态"到"懂你"：深入理解 LLM 对话的本质，以及 Prompt/Context/Loop 三层工程进化之路Lkstar14 小时前
Function Calling 原理深度拆解：让 LLM 调用外部工具的机制与工具设计原则小七-七牛开发者15 小时前
周一上线 | SpaceX 收购 Cursor、支付宝进入 AI 时代、DeepSeek 完成 500 亿元融资Hyyy1 天前
token是什么？为什么大模型会有上下文长度的限制阿里云云原生1 天前
软件工程领域 LLM 驱动的自迭代知识引擎吴佳浩1 天前
Hermes Agent 连环 400 真凶找到了：一个 call_id 让人炸毛doiito1 天前
【Agent Harness】为什么我把 JSON‑LD “编译成 DAG” 后，整个 Agent 平台立刻聪明了