llm

Token炼金师10 分钟前
人工智能·深度学习·llm
异地的棋局:容灾、流量调度、数据一致性、成本与故障切换 —— 异地多活五子多机房部署是推理服务高可用的终极形态。本文从容灾架构、流量调度、数据一致性、成本权衡、故障切换五个切口,给出源码级实现与企业级异地多活决策框架。
Esaka_Forever1 小时前
llm
工具调用循环(Function Calling)完整流程拆解我们已经学习了什么是工具。 现在我们通过工具调用循环,来看一看工具在实际场景中的运行逻辑。当你为大语言模型(LLM)配置可用工具后,模型有两种输出形式: 一是直接生成文本回答;二是输出一段标准化的工具调用指令。 一旦模型发起工具调用,你编写的程序代码就需要执行对应的外部操作,并将执行结果回传给模型。如此往复,就形成了一套循环流程。 这套实现范式通常被称作函数调用(Function Calling)。
8Qi85 小时前
llm·agent·ai编程·智能体
HelloAgents学习笔记:智能体性能评估过去,大语言模型的评测往往围绕着"回答是否正确"展开,例如采用 BLEU、ROUGE、Accuracy 等指标衡量模型生成文本的质量。然而,当 AI Agent 开始具备工具调用、任务规划以及多轮推理能力之后,仅凭最终答案已经无法全面反映一个智能体的真实能力。
Esaka_Forever14 小时前
llm
AI 工作流六大核心范式完整梳理、对比与落地解读既然你已经掌握了大语言模型调用工具的原理,我们再来看看开发者如何将大模型调用与工具整合为更复杂的大型系统 —— 这类系统被称为 AI 工作流。 在 AI 工作流中,通过预先编写的代码逻辑统筹调度大模型与各类工具,核心关键词是预先定义(predefined)。 在工作流架构里,开发者会提前规划好整套执行步骤。每个步骤中繁重的内容生成、推理工作交由大模型完成,但整体执行流程始终由你的代码管控。 一、串行流水线模式(Sequential) 最基础的实现范式:把一项任务拆解成按顺序执行的多个步骤,每一轮大模型调用
smartfish_liu15 小时前
llm·agent
风过无言(Silent Wind)引言: Paul Liu今天同时用apl对比测试了 Deep___, Ki___, Bi___, 不对比不觉得, 原来最好的一直在你身边.
Esaka_Forever15 小时前
llm
工作流 vs 智能代理 架构选型完整梳理(精简总结 + 实操判断)你现在已经分清了工作流与智能代理的区别,但仅仅了解二者差异,并不能告诉你应该搭建哪一种架构。 每当开启新项目时,都会遇到这个很实际的问题。选错架构会带来实实在在的负面影响:不仅代码更难编写,程序运行成本更高、调试排错难度更大,系统也更容易出现故障。 这里有一条核心准则,能帮你理清纷繁复杂的思路: 选用最简单可行的方案,只有确有必要时,再提升系统复杂度。 绝大多数任务根本不需要智能代理。一套工作流,甚至只单次调用大模型,通常就足以完成需求。 正式开发之前,先问自己一个最基础的问题:只调用一次大模型能完成这件
在水一缸17 小时前
gpt·llm·交互·多模态·端到端·实时语音交互·gpt-live
深度解析 GPT-Live:实时语音交互的技术变革与实践指南在大型语言模型(LLM)的发展历程中,我们见证了从简单的文本补全到多模态理解的飞跃。然而,直到最近,人机交互依然存在着一道隐形的屏障——“延迟”。传统的语音交互往往依赖于级联式架构,即“语音转文字(ASR)→ 大模型处理(LLM)→ 文字转语音(TTS)”的三段式流程。这种架构带来的数秒延迟,使得对话失去了自然交流的韵律感。
先吃饱再说17 小时前
llm·vite
LLM 流式输出的“中间商”方案:BFF 层到底在做什么?摘要:从 Vue3 + Vite 项目出发,拆解 BFF 层如何将 LLM 流式输出的复杂协议解析和安全隔离从前端移出,让前端代码保持极简与稳定。
周末程序猿18 小时前
llm·agent
万字长文谈谈Loop Engineering2026 年 6 月初,AI 编程社区被两句话点燃:Peter Steinberger(OpenClaw 创始人):"You shouldn't be prompting coding agents anymore. You should be designing loops that prompt your agents."
小月土星1 天前
javascript·数据库·llm
(实战篇)RAG-demo 深度解析:162行代码中的检索增强生成全景 (含Top-k法)我的目标: 用金字塔表达法,逐层拆解一个完整 RAG 系统的设计思想、工程实现和认知启示。RAG 的本质,是在 LLM 的"内部知识"之外,构建一个可检索的"外部记忆系统"。这 162 行代码证明了一件事:RAG 不是一个工程技巧,而是一种认知架构的范式转移——它把 LLM 从"一个只能靠背书的考生",变成了"一个会查资料的学者"。
武子康1 天前
人工智能·llm·openai
OpenAI 为什么需要 FDE:模型公司正在变成交付公司阅读说明:OpenAI 公司公告、岗位与产品页面按 2026-07-18 的一手来源核对。本文分析部署战略,不把招聘快照或规划扩写成已经实现的业务结果。
组合缺一3 天前
java·ai·llm·agent·solon·react-agent
用 Solon ReActAgent 落地发票识别与智能报销某中型企业财务部每月处理大量报销单,团队疲于奔命:说明:这是典型业务闭环,正确入口是 ReActAgent + 领域工具 + HITL。 不要使用虚构的 implements Tool、Harness.call()、AiInterceptor、memory.search()。
CoderJia程序员甲1 天前
ai·大模型·llm·github·ai教程
GitHub 热榜项目 - 周榜(2026-07-18)生成于:2026-07-18共发现热门项目: 19 个Token赞助:siliconflow前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。点击跳转到网站。
武子康1 天前
人工智能·安全·llm
Hugging Face AI 驱动入侵真正暴露的是 Dataset Processing 信任边界(攻击链 + 三层隔离 + 行动清单)编辑审核(2026-07-18):官方披露能证明攻击链和影响面;攻击者身份、完整入侵细节与所有受影响对象仍不能扩写成定论。
前端开发江鸟1 天前
llm
第一次真正调用 LLM 后,我看清了 Runtime、SDK 和模型的边界昨天我写了一篇文章:《从 messages 看懂 Agent 的工具调用循环:Runtime 如何衔接模型与工具》。
用户593608741401 天前
llm·agent
AI Harness 最佳实践随着大语言模型(LLM)能力的不断演进,AI 应用的开发范式正在经历一场深刻的变革。过去,开发者关注的焦点大多落在**提示词工程(Prompt Engineering)和上下文工程(Context Engineering)**上,试图通过精巧的输入引导模型输出理想的结果。然而,在生产环境中,仅靠"聊天式"的 API 调用无法保证业务系统的稳定性、确定性和高可用性。
Esaka_Forever2 天前
llm
LLM 与原生代码分工核心思路整理(精简 + 拓展落地版)LLM 性能出众,难免让人想拿它处理所有场景。千万别这么做。大语言模型(LLM)能力很强,但并非所有工作都适合用它。 明明一段普通代码就能搞定的事,你却调用大模型,好比专门雇一名翻译去看懂路边的停车标识。 虽说能达到目的,但速度慢、成本高,完全多此一举。
To_OC2 天前
人工智能·llm·agent
跑了个最简 RAG demo 后,我终于搞懂向量检索那堆分数到底啥意思昨天晚上跟着 LangChain 的文档写内存版 RAG,控制台输出结果的那一刻我直接愣住了 —— 明明文档内容和问题高度相关,原始分怎么反而最低?我盯着屏幕盯了三分钟,甚至怀疑是 embedding 模型抽风了,翻了半天源码和文档才反应过来,我把「距离」和「相似度」搞反了。