llm

武子康15 小时前
人工智能·llm·agent
从生成一张图到交付一套资产:怎样验收 AI 图片的连续可编辑性事实复核截止:2026 年 8 月 1 日;发布前于 2026 年 8 月 8 日重新核对来源可达性与产品状态边界。
武子康15 小时前
人工智能·llm·agent
Code Mode 什么时候更省:别只数工具调用,要数模型往返判断 Code Mode 是否更省,最容易犯的错误,是盯着“工具调用了多少次”。同样读取 10 个文件,可以是模型发起 10 次串行决策,也可以是模型先写一个有界程序,让程序完成 10 次读取、筛选和聚合,再把一份压缩结果交还模型。两种方案的工具调用数都可能是 10,但模型往返、重复上下文和中间输出完全不同。
hust_wangyajun18 小时前
ai·llm·agent·mcp
Function-Call / Skill / MCP-Server / ReAct 范式深度辨析现在做Agent开发,几乎一定会碰到四个高频名词:Function-Call、Skill、MCP-Server、ReAct。 很多人会把它们放在同一维度对比,实际上它们分属完全不同层级:
only-qi1 天前
人工智能·机器学习·ai·llm
大模型微调流程深度解析:从面试题到工程实践目录引言:为什么微调是大模型工程化的核心环节?1. 核心解析:大模型微调的9步标准流程步骤1:确定任务和目标
AINative软件工程1 天前
后端·llm·前端工程化
LLM 应用的依赖注入工程实践:解耦 Client、Prompt 和 Tool Registry,让 AI 系统真正可测试可替换作者按:我们团队有一个 LLM 应用上线后跑了 3 个月,等到要切换模型供应商的时候,才发现 LLM 客户端实例被散落在 17 个文件里,单元测试覆盖率是 0%,因为没法 mock。这篇文章就是为了不让你重蹈覆辙。
ltl1 天前
llm
PagedAttention 与 Continuous Batching原文发布于 quant67.com,转载请保留出处。本篇分工(与第 13 篇互补):本篇只讲 KV block 分页 + 迭代级调度 两条机制——Continuous Batching、PagedAttention、Chunked Prefill、Prefix Caching 及其内核耦合;不做 vLLM / SGLang / TensorRT-LLM 的产品横评。引擎选型、生态与部署模式见下一篇《vLLM / SGLang / TensorRT-LLM / TGI 对比》。
@atweiwei3 天前
开发语言·后端·rust·llm·agent·rag
用 Rust 写 LLM Agent:原生工具调用、检索纠错、自适应路由、深度研究、多步规划为什么一个 Agent 框架要实现 6 种 Agent?为什么不是 1 种通吃的?每种背后的真实痛点是什么?该选哪个?能组合吗? 本文不讲代码,只讲思路。基于 langchainrust v0.8.0 的实践。
DigitalOcean2 天前
llm·agent
在 DigitalOcean 如何提示词缓存:降低 AI 推理成本与延迟在调用大模型 API 时,很多成本其实花在了“重复阅读”上。例如,一个企业知识库应用可能会在每次请求中重复发送相同的系统提示词、工具定义和业务规则;一个 Coding Agent 也会不断把项目说明、代码上下文和历史对话重新提交给模型。即使真正变化的只有用户最后输入的一句话,模型仍然需要重新处理前面的大段内容。
only-qi2 天前
人工智能·ai·llm·agent·react
美的AI Agent面试题的解析与思考近期整理了美的AI Agent方向实习面试全套真题。整套题目看似基础、偏向概念,但每一题都在筛选真正懂工程落地、而非只会背理论的候选人。
武子康2 天前
人工智能·llm·agent
VLA 落地先签动作合同:从视觉语言输入到可执行控制指令VLA 能输出动作,不代表它已经能接到真实机器人。输入必须带时间和版本,动作必须声明坐标、单位、范围、频率、归一化与有效期,执行层还要核对安全责任。本文比较五类动作表示和四类动作生成路线,给出跨本体适配与项目启动清单。
武子康2 天前
人工智能·llm·agent
SWE-1.7 的提升究竟来自哪里?接受大量强化学习后训练的 Kimi K2.7 为起点,继续进行大规模 RL一个团队把 Agent 模型从 A 换成 B,任务成功率明显上升,最容易出现的结论是:新模型的权重更强,所以换到任何系统里都能得到同样提升。
用户469368483202 天前
llm·agent
kimi-code 深度掌握系列文章-工具系统:从注册到执行(六)ToolManager 是 Agent 与外部世界交互的桥梁。它位于 packages/agent-core/src/agent/tool/,是 Agent 类的核心成员之一。在一个 turn 的 loop 中,LLM 返回 tool_use 停止原因后,loop 会查询 ToolManager 获取可执行的工具集合,完成工具调用的分配与执行。
今日无bug2 天前
llm·nlp
用 Prompt 做 NLP 任务开发:几分钟构建一个推理系统仅用几分钟,我们就可以构建多个用于对文本进行推理的系统,而以前这需要熟练的机器学习人员数天到数周的时间。这就是 Prompt 工程带来的效率革命。
AINative软件工程2 天前
node.js·llm
LLM Streaming 背压工程实践:慢客户端、断流重连与服务端缓冲区的生产设计你的 LLM 应用每秒往客户端推 50 个 token,但用户的手机浏览器已经睡着了——你的服务器还在傻傻地把这些 token 往一个没人消费的缓冲区里塞。这篇文章讲的就是这个问题,以及怎么在生产中真正解决它。
hboot2 天前
后端·langchain·llm
AI工程师第六课 - RAG检索增强生成学习代码记录仓库第五课中使用OpenAI调用模型DeepSeek 代码,作为基准测试代码:LLM 不知道你的私有数据。
用户469368483202 天前
llm·agent
kimi-code 深度掌握系列文章-对话循环TurnFlow(五)如果 Agent 类是一个乐团的指挥,那么 TurnFlow 就是指挥挥动的手臂 — 它负责将乐谱上的每个音符变为实际的演奏。从用户按下回车那一刻起,到 Agent 吐出最后一个字,TurnFlow 掌管了期间的每一个决策、每一次 LLM 调用、每一个工具的调度。本文深入剖析这个核心循环引擎的完整生命周期。
孙启超3 天前
人工智能·llm·agent·react·observation·rag·plan-execute
【AI应用开发】 Agent篇(三):规划推理:ReAct 与 Plan-Execute工具调用让 Agent 有了"手",但还是不够聪明——面对复杂任务,它需要知道先做什么、后做什么、遇到意外怎么办。
lucas_AI3 天前
llm·agent
Skill-α:教 Agent 学会自己'改说明书'💡 一句话带走:Skill-α 把 agent skill 的生成变成"一步步改",用 rollback reward(编辑前后在同一任务上跑一遍对比)给每次编辑打分,绕开了"skill 没有天然监督信号"这个本质难题。如果你在做 agent、正头疼 skill 怎么积累而不是手写,这篇值得读。 \
DigitalOcean3 天前
llm·agent
多款模型最高直降 50%:DigitalOcean 无服务器推理大降价对于正在把大模型接入应用的团队来说,模型能力固然重要,但 API 调用成本仍是团队最关心的一项。尤其是 AI 编程、客服机器人、内容生成、代码辅助和 AI Agent 这类高频场景,单次请求便宜几厘钱看似不多,乘上每月数千万甚至数亿 Token 后,就会变成一笔不小的支出。