llm

Hyyy2 小时前
llm
SSE和WebSocket 是什么,AI 场景下如何选择在讲解具体协议前,先明确两个基础认知,理解两类技术的诞生逻辑与适配边界:AI 场景的两类核心实时需求AI 产品的实时通信需求本质分为两类,对应完全不同的技术路线:
DigitalOcean6 小时前
llm·agent
OpenCode AI编程实践:利用推理路由低成本开发游戏Claude Opus 4.8 这样的前沿模型能驱动从 Python 到 C++ 再到 GDScript 的智能编码,但在生产规模下,它们的按 token 计费成本会迅速膨胀。DigitalOcean 的推理路由器直面这个问题:它将常规工作路由到较小的开源模型,只有在任务确实需要时才升级到前沿模型。为了在一个真实的多文件代码库上衡量差异,我们完全通过 OpenCode 构建了一款完整的基于 Godot 4 的点球大战游戏游戏——PK Shootout。
带刺的坐椅1 天前
ai·llm·agent·claudecode·soloncode·codingplan
从 Claude Code 隐私争议,看 SolonCode 的设计选择2026 年 6 月 30 日,Reddit r/ClaudeAI 版面一则帖子引爆了开发者社区。发帖人声称,通过逆向工程发现 Claude Code 自 v2.1.91(4 月 2 日发布)起,存在隐蔽的用户环境检测行为。
MomentYY1 天前
前端·llm·ai编程
Temperature:AI 的“脑洞旋钮”《AI 知识卡片》第 02 期 · 一个参数,决定 AI 是严谨还是放飞同一个问题,你问 AI 两遍:有时两次答得几乎一样,有时却差挺多?这个“时而稳定、时而多变”,其实是可以调的。控制它的旋钮,就叫 temperature(温度)。
Darling噜啦啦1 天前
llm·ai编程
上下文工程实战:从 Prompt 到 Harness 的三次 AI 工程化浪潮本文回顾 AI 工程化的三次浪潮演进——从 Prompt Engineering 的不确定性,到 Context Engineering 的精准补全,再到 Harness Engineering 的确定性交付。结合奶茶研发的实战代码,手把手教你用结构化上下文让 LLM 输出更靠谱。
Hyyy2 天前
前端·llm·ai编程
Function Calling / Tool Use的原理和实现模式在讲解具体技术前,先明确两个底层认知,理解工具调用能力的核心价值:Function Calling(常称函数调用,又称 Tool Use 工具使用)是现代大语言模型的关键能力,指模型能够识别用户需求中需要外部能力的场景,按照指定格式输出结构化的工具调用请求,由外部程序执行后,再基于返回结果生成最终回答。
智泊AI2 天前
llm
Loop Engineering 为什么会出现?一个 Loop 的组成部分有哪些?最近AI圈火了一个新概念,名叫Loop Engineering,也就是循环工程。今天就用大白话跟大家聊透它,让你彻底搞懂Loop Engineering到底是什么。
凌奕2 天前
llm·github·agent
别用文档约束你的 Agent:聊聊 Agent 开发流程的思想一句话总结:好的 Agent 开发流程,核心是"模型是智能,代码是手脚"。但大多数系统只做对了一半——它们把关键契约写成文档里的大写字母 MUST,求模型记得遵守。真正成熟的做法,是把这些 HARD RULE 变成做不出错的闸门。
Java之美3 天前
llm
vLLM 是怎么工作的?本文翻译并整理自 Amit Shekhar 的 How does vLLM work?。在谈 vLLM 之前,先要明白"服务(serving)一个 LLM"到底意味着什么。
JouYY3 天前
架构·llm·agent
聊一下多 Agent 编排架构的应用实践在我所做的公司业务中,想完成一个完整的项目,需要跨多个系统做创建资源,交互流转,比如:存在的问题:有了AI之后,我们尝试把流程工作转交给Agent完成,让他按照既定流程,进行资源创建,流转。然而,简单的任务可以通过这样实现,一旦任务比较复杂,步骤较多,就会有下面这些问题:
To_OC5 天前
人工智能·llm·agent
数据集划分不是随便切:手把手切分大众点评情感数据集昨天跑中文情感分类 baseline,一上来就栽在数据集上了。本来想着从魔搭拖个现成的大众点评数据集,加载完直接喂模型,结果 MsDataset.load 下来一看,整份数据全塞在 train 里,连个验证集测试集都没给分好。盯着控制台输出的单条样本愣了半分钟,得,自己动手切吧。
想要成为糕糕手5 天前
llm·agent
深入理解AI Agent工具调用:从原理到代码实现翻了不少文章,讲 AI Agent "能做什么"的多,讲"怎么做到的"少。 我第一次看 SDK 文档时有个疑问:LLM 没联网、没权限,它是怎么调用工具的? 跑完代码才发现——它根本没调。tool_calls 只是 LLM 输出的一段 JSON 格式文本,你的代码读到它之后,才真正去执行对应函数。整个过程 LLM 只做了一件事:写字。 这篇文章用一段不到 100 行的 Node.js 代码,把 Tool Calling 拆开给你看:
yLDeveloper5 天前
llm·nlp
从矩阵乘法到多模态大模型 - LLM 篇这篇是关于植入 CLIP-ViT Encoder 训练多模态视觉前对 Text-Only 基座从零开始的训练,包含 分词器、预训练、SFT,不包含多模态部分。
前端君5 天前
llm·agent·claude
Claude Code 如何配置本地Ollama模型或别的模型(Deepseek等)个人使用场景 claude 模型实在是太贵了,想使用 Claude Code 默认只支持 Anthropic 的接口格式,所以本文记录了如何把本地模型或者其他模型(Deepseek等)接入 Claude Code 使用的方法。
Darling噜啦啦6 天前
llm
LLM 数据工程实战:从数据集划分到交叉验证——大模型智能的根基本文深入解析 LLM 智能的三大来源(数据、算力、算法),系统讲解数据集划分(训练集/验证集/测试集)、交叉验证(k折交叉验证)的核心原理,并基于 ModelScope 平台实战演示数据加载与划分——带你理解"在模型之上,是数据的艺术;在模型之下,是数据的地基"。
HjhIron6 天前
llm·agent
工具调用:当LLM学会使用"武器",AI Agent的底层逻辑拆解一个只能预测下一个词的模型,是怎么突破物理限制,去调用API、操作电脑的?你有没有想过一个问题:大模型本质上是个"词语接龙"游戏。
Hyyy6 天前
llm·ai编程
Few-shot、Chain-of-Thought、ReAct模式是什么在讲解具体方法前,先明确两个基础认知,理解这三类技术的诞生逻辑:Few-shot(少样本学习)是指在提示词中提供少量「输入 - 输出」的完整示例,让模型从范例中自主学习任务规则、输出格式与边界标准,再执行真实任务的提示方法。提供 1 个示例称为 1-shot,3 个称为 3-shot,以此类推;与之相对、不提供任何示例的方式称为 Zero-shot(零样本)。
Darling噜啦啦6 天前
llm·agent
Tool Use 底层原理:当"缸中大脑"遇上物理世界——LLM 工具调用的认知哲学与技术实现LLM 本质上只是被困在服务器里的"词语接龙机器",看不见屏幕、摸不到键盘。那么,它是如何突破物理限制,去调用 API、读取数据库、操作物理世界的工具的?本文从技术哲学的视角,深入解析 Tool Use 的三大核心机制。
不好听6137 天前
架构·llm·agent
拆解 LLM Tool Use 的完整机制:从缸中大脑到 Agent 觉醒你用过 ChatGPT 的联网搜索,用过 Claude 分析 Excel 表格,用过豆包查询实时天气。你可能会觉得:这些 AI 真厉害,什么都会。