llm

不好听6133 小时前
架构·llm·agent
拆解 LLM Tool Use 的完整机制:从缸中大脑到 Agent 觉醒你用过 ChatGPT 的联网搜索,用过 Claude 分析 Excel 表格,用过豆包查询实时天气。你可能会觉得:这些 AI 真厉害,什么都会。
拾年2753 小时前
javascript·人工智能·llm
我用 30 行代码,搞懂了大模型是怎么"读"中文的💡 你知道吗?你发给 ChatGPT 的每一句话,它其实根本看不懂。它看到的是一串数字,而你看到的文字,在它眼里只是"Token"。
Hyyy16 小时前
llm·ai编程
什么是结构化 Prompt 设计在讲解具体角色前,先明确两个核心认知,这是理解结构化 Prompt 设计的基础:结构化 Prompt 设计是一种将提示词按功能职责进行分层组织的工程化方法。它借鉴对话系统的参与者职责划分,把原本混杂在一起的身份规则、任务需求、输出范例,拆解为三个独立的角色层级,让模型精准识别不同信息的作用,大幅提升输出的稳定性、可控性与可维护性。
冬奇Lab17 小时前
人工智能·开源·llm
Skill 系列(04):Skill 指标体系——L1/L2/L3 三层监控,让质量下降有据可查Skill 变差了,你怎么知道?有了指标,质量下降可以在用户感知之前被发现。三层依赖关系:L3 是基础,L2 是中间层,L1 是最终目标。报警时从 L3 往上排查,比从 L1 往下倒推快得多。
Lkstar20 小时前
人工智能·llm
A2A协议深度解析|Agent2Agent通信标准,智能体互联网的"HTTP"当你的 LangGraph Agent 要和另一个 CrewAI Agent 协作,当你的客服 Agent 需要把计费问题交给第三方财务 Agent—— 谁来定义它们之间怎么对话、怎么分发任务、怎么实时同步进度?Google 联合 50+ 厂商在 2025 年 4 月给出的标准化答案:A2A(Agent2Agent)协议。发布仅两个月,该协议便完整捐赠至 Linux 基金会;到 2026 年 4 月发布满一周年时,项目收获 22000+ GitHub Stars,落地覆盖 150 + 企业生产组织。本文系
Darling噜啦啦20 小时前
llm
LLM 分词与向量化:大模型是如何"读懂"文字的?——Tokenization × Embedding 原理与实战本文深入解析 LLM 的两大底层机制:Tokenization(分词)与 Embedding(向量化)。从为什么必须分词,到 js-tiktoken 的编码解码实战,再到阿里百炼 Embedding API 调用与余弦相似度计算——彻底搞懂大模型"读懂"文本的背后原理。
ZzT1 天前
llm·ai编程
LLM 编排 vs 多 Agent 编排:拆解 Sakana Fugu6 月 22 日,东京的 Sakana AI 发布了 Fugu。它没有训练任何一个前沿大模型,而是把一池现成的模型编排起来,对外表现得像单个模型,并且自报在一些硬基准上能和 Fable 5 比肩。这件事值得拆一拆,因为它顺手把「多模型编排」和「多 agent 编排」这两件常被混为一谈的事,照得很清楚。
柒和远方1 天前
llm·agent
LLM 的底层语言:从分词到向量化,搞懂 AI 是怎么"读"文字的v029 搞懂了 Agent 的四块基石——LLM 是大脑,Tools 是手脚,Reasoning 是思考过程,Context 是记忆。
把你拉进白名单1 天前
人工智能·llm·agent
8.OpenClaw源码解析——三层洋葱重试上节课我们学习了可靠消息投递,当大模型回复完消息之后,会将消息进行chunk切分(这里主要还是防止消息过长)并写入tmp.json, 之后后台会启一个线程,并扫描特定文件夹下的*.json文件,再发送,如果成功则删除该临时JSON文件。 但是如果大模型本身就有问题怎么办? 比如API Key被限流,Key失效,上下文超长,请求超时等。 今天我们来讲三层洋葱重试,他是保障OpenClaw能够正常调用的机制。 分别使用了key轮换, 压缩上下文和agent执行。
To_OC2 天前
人工智能·llm·agent
搞懂 Token 和 Embedding 后,我终于明白大模型是怎么 "读" 文字的说实话,之前写了不少调用大模型 API 的代码,但一直停留在 "传 prompt、等结果" 的黑盒阶段。我知道大模型处理的是数字,也听过 token、embedding 这些词,但它们到底在整条链路里扮演什么角色,为什么缺一不可,脑子里始终是一团浆糊。
Hyyy2 天前
llm·ai编程
Temperature 与 Top-p:控制模型输出的两个参数在理解两个参数前,先要搞懂大语言模型的生成本质,这是所有采样参数的底层前提:Temperature 作用于模型输出层 Softmax 的概率分布,控制概率分布的"尖锐程度" :
Darling噜啦啦2 天前
llm
LLM 无状态本质与上下文工程:从 Prompt 到 Context 的进化——为什么 AI 总是"失忆"?本文深入解析 LLM 的无状态(Stateless)本质,揭示为什么每次调用 API 都是"全新的开始",并系统讲解从 Prompt Engineering 到 Context Engineering 再到 Loop Engineering 的进化路径,助你构建真正"有记忆"的 AI 应用。
智泊AI2 天前
llm
AI大模型到底是怎么训练出来的?完整预训练过程一次性讲明白!很多人都觉得,大模型的核心是算法。但真正亲手训练过模型的人都清楚:大模型的本质,是依靠海量数据和海量算力,搭建出来的一套超大规模预测系统。
嘻嘻仙人2 天前
llm·agent
Python 开发者的性能革命:为什么你应该从 pip 转向 uv?在 Python 的世界里,长期以来我们依赖 pip 和 venv 进行依赖管理。然而,随着项目规模的扩大,这些传统方法在处理依赖冲突、安装速度和环境碎片化上逐渐显得力不从心。uv 的出现,不仅是一个工具的升级,更是 Python 工程化开发的一次效率革命。
universeplayer2 天前
llm·agent
我给 AI Agent 装了个飞机黑匣子:录下每一次 LLM 调用,崩了能确定性回放做 Agent 做久了,你一定会撞上这样一个晚上。线上跑得好好的系统,某个用户来反馈:「它今天给我的回答很奇怪。」你打开日志,把同样的输入再喂一遍想复现。结果这次它表现得完全正常。再跑一遍,还是正常。那次真正出问题的运行,像从来没发生过一样,你怎么都抓不回来。
JieE2122 天前
人工智能·llm·ai编程
从"无状态"到"懂你":深入理解 LLM 对话的本质,以及 Prompt/Context/Loop 三层工程进化之路每次和大模型聊天,它为什么能"记住"你上一句说了什么?你真的理解背后的"无状态"原理吗?先来看一段简单的代码:
Lkstar2 天前
人工智能·llm
Function Calling 原理深度拆解:让 LLM 调用外部工具的机制与工具设计原则导读:Function Calling 是大模型从"聊天机器人"进化为"智能体引擎"的底层基建。本文从原理层面拆解它的工作机制,并结合真实踩坑经验,系统梳理工具描述、参数规范、错误处理三大设计原则。
Hyyy3 天前
程序员·llm·ai编程
token是什么?为什么大模型会有上下文长度的限制Token 是大语言模型(LLM)处理文本时的最小单位。模型不会直接识别汉字、英文字母,它处理文本有自己的最小颗粒度,这个颗粒就叫 Token。所有的语义理解、内容生成都建立在 Token 的基础上,不会拆得比 Token 更小。
阿里云云原生3 天前
llm
软件工程领域 LLM 驱动的自迭代知识引擎不是把通用知识管理工具硬搬进代码场景,而是从设计之初就面向软件工程——理解代码、贴合研发流程,并且能嵌入企业现有工具链、真正用起来。
吴佳浩3 天前
人工智能·llm·agent
Hermes Agent 连环 400 真凶找到了:一个 call_id 让人炸毛作者:吴佳浩撰稿时间:2026-06-21最后更新:2026-06-22这两天排查 Hermes 的一个 Bug,差点把我绕进去。