llm

把你拉进白名单3 小时前
人工智能·llm·agent
8.OpenClaw源码解析——三层洋葱重试上节课我们学习了可靠消息投递,当大模型回复完消息之后,会将消息进行chunk切分(这里主要还是防止消息过长)并写入tmp.json, 之后后台会启一个线程,并扫描特定文件夹下的*.json文件,再发送,如果成功则删除该临时JSON文件。 但是如果大模型本身就有问题怎么办? 比如API Key被限流,Key失效,上下文超长,请求超时等。 今天我们来讲三层洋葱重试,他是保障OpenClaw能够正常调用的机制。 分别使用了key轮换, 压缩上下文和agent执行。
To_OC14 小时前
人工智能·llm·agent
搞懂 Token 和 Embedding 后,我终于明白大模型是怎么 "读" 文字的说实话,之前写了不少调用大模型 API 的代码,但一直停留在 "传 prompt、等结果" 的黑盒阶段。我知道大模型处理的是数字,也听过 token、embedding 这些词,但它们到底在整条链路里扮演什么角色,为什么缺一不可,脑子里始终是一团浆糊。
Hyyy17 小时前
llm·ai编程
Temperature 与 Top-p:控制模型输出的两个参数在理解两个参数前,先要搞懂大语言模型的生成本质,这是所有采样参数的底层前提:Temperature 作用于模型输出层 Softmax 的概率分布,控制概率分布的"尖锐程度" :
Darling噜啦啦19 小时前
llm
LLM 无状态本质与上下文工程:从 Prompt 到 Context 的进化——为什么 AI 总是"失忆"?本文深入解析 LLM 的无状态(Stateless)本质,揭示为什么每次调用 API 都是"全新的开始",并系统讲解从 Prompt Engineering 到 Context Engineering 再到 Loop Engineering 的进化路径,助你构建真正"有记忆"的 AI 应用。
智泊AI20 小时前
llm
AI大模型到底是怎么训练出来的?完整预训练过程一次性讲明白!很多人都觉得,大模型的核心是算法。但真正亲手训练过模型的人都清楚:大模型的本质,是依靠海量数据和海量算力,搭建出来的一套超大规模预测系统。
嘻嘻仙人1 天前
llm·agent
Python 开发者的性能革命:为什么你应该从 pip 转向 uv?在 Python 的世界里,长期以来我们依赖 pip 和 venv 进行依赖管理。然而,随着项目规模的扩大,这些传统方法在处理依赖冲突、安装速度和环境碎片化上逐渐显得力不从心。uv 的出现,不仅是一个工具的升级,更是 Python 工程化开发的一次效率革命。
universeplayer1 天前
llm·agent
我给 AI Agent 装了个飞机黑匣子:录下每一次 LLM 调用,崩了能确定性回放做 Agent 做久了,你一定会撞上这样一个晚上。线上跑得好好的系统,某个用户来反馈:「它今天给我的回答很奇怪。」你打开日志,把同样的输入再喂一遍想复现。结果这次它表现得完全正常。再跑一遍,还是正常。那次真正出问题的运行,像从来没发生过一样,你怎么都抓不回来。
JieE2121 天前
人工智能·llm·ai编程
从"无状态"到"懂你":深入理解 LLM 对话的本质,以及 Prompt/Context/Loop 三层工程进化之路每次和大模型聊天,它为什么能"记住"你上一句说了什么?你真的理解背后的"无状态"原理吗?先来看一段简单的代码:
Lkstar1 天前
人工智能·llm
Function Calling 原理深度拆解:让 LLM 调用外部工具的机制与工具设计原则导读:Function Calling 是大模型从"聊天机器人"进化为"智能体引擎"的底层基建。本文从原理层面拆解它的工作机制,并结合真实踩坑经验,系统梳理工具描述、参数规范、错误处理三大设计原则。
Hyyy2 天前
程序员·llm·ai编程
token是什么?为什么大模型会有上下文长度的限制Token 是大语言模型(LLM)处理文本时的最小单位。模型不会直接识别汉字、英文字母,它处理文本有自己的最小颗粒度,这个颗粒就叫 Token。所有的语义理解、内容生成都建立在 Token 的基础上,不会拆得比 Token 更小。
阿里云云原生2 天前
llm
软件工程领域 LLM 驱动的自迭代知识引擎不是把通用知识管理工具硬搬进代码场景,而是从设计之初就面向软件工程——理解代码、贴合研发流程,并且能嵌入企业现有工具链、真正用起来。
吴佳浩2 天前
人工智能·llm·agent
Hermes Agent 连环 400 真凶找到了:一个 call_id 让人炸毛作者:吴佳浩撰稿时间:2026-06-21最后更新:2026-06-22这两天排查 Hermes 的一个 Bug,差点把我绕进去。
武子康3 天前
人工智能·langchain·llm
调查研究-186 LangChain 和 LangGraph 的区别:从快速构建 Agent 到生产级工作流编排摘要:LangChain 和 LangGraph 不是"谁替代谁"的关系,而是站在不同抽象层级解决不同问题。LangChain 更像 LLM 应用开发框架,负责模型、Prompt、工具、Retriever、Agent、Middleware 等组件抽象,让开发者快速把大模型能力接进应用。LangGraph 更像 Agent runtime / 工作流编排引擎,负责 State、Node、Edge、条件跳转、checkpoint、interrupt、人类介入、持久化和失败恢复。本文从工程选型视角拆解二者差异、
JouYY3 天前
前端框架·llm·agent
简单聊一下Harness层中的人机协同(HITL)因为业务涉及很多资产和金额相关的操作,如果把所有能力直接开放给Agent,很容易造成资损,所以涉及高风险的操作,都必须需要人来确认,这个确认要求,不是Agent自己发起,而是由Harness层做的限制。
AINative软件工程3 天前
llm·openai·agent
LLM 应用的 Bad Case 反馈闭环工程:别再把用户差评丢进客服表了如果你做过线上 LLM 应用,大概率遇到过这种场景:用户点了一个 👎,备注里写着“答非所问”。客服系统里多了一条工单,产品同学截图发到群里,研发看了一眼 trace,发现 prompt、检索、工具调用、模型返回都“看起来没报错”。最后大家讨论半小时,结论是:这个问题不好复现,先观察。
冬奇Lab5 天前
人工智能·llm·agent
Agent 系列(23):Web Agent——让 Agent 真正浏览网页LLM 的知识有截止日期。你问它"LangGraph 最新版本是多少",它只能告诉你训练数据里的版本。Web Agent 解决这个问题:让 Agent 真正上网查,拿到实时数据再回答。
冬奇Lab5 天前
人工智能·开源·llm
每日一个开源项目(第135篇):codebase-memory-mcp - 给 AI Agent 一张代码库的知识图谱"AI Agent 探索代码库时读取每一个文件,消耗 412,000 个 token。换成知识图谱查询,只需要 3,400 个 token。"
黄忠5 天前
python·llm
大模型之LangGraph技术体系适用版本:LangGraph 1.0+(兼容 0.3.x 核心 API) 技术栈:Python 3.10+ / LangGraph / LangChain / SQLite / Redis 定位:聚焦图结构工作流设计与生产级实践
不好听6135 天前
llm·agent
Tool:让大模型长出手脚上一篇文章我们讲了 Agent 的三要素:LLM 是大脑,Tools 是手脚,Messages 是记忆。
Lei活在当下6 天前
人工智能·llm·openai
【AI手记系列-2026/6/18】iSparto & Harness,Caveman 以及AI时代的生存指南原文链接:mp.weixin.qq.com/s/YhsmIXdIv…这篇文章是一名独立开发者的 Harness Engineering 实践记录。作者使用 Claude Code,设计出一套不同角色的 Agent Team,并通过这套 Team 真正完成了 iOS App "勇芽" 的开发与上线。我认为,文中最值得借鉴的是一种组织设计思路:围绕最终目标,为不同任务设置独立角色,再把这些角色组装成一个多职能团队。