llm

玉鸯10 小时前
llm·agent·mcp
多 Agent 系统通信的实现原理与最佳实践2026 年 7 月 28 日,Anthropic 发布了 MCP 协议的第五次大版本修订。这次更新的核心变化只有一句话 :协议层不再维护会话状态。initialize 握手、Mcp-Session-Id 头——全删了。
weixin_4713830312 小时前
llm
01 LLM简介LLM(Large Language Model,大语言模型)是一种用海量文本训练出来的神经网络,核心能力是:根据已有文字,预测下一个最可能出现的文字,并反复这样做,从而「生成」一整段回复。Agent、聊天机器人、代码助手,底层几乎都是 LLM。后面调 API、写 Prompt、做 Function Calling 时容易踩坑。
TunerT_TQ11 小时前
vscode·测试工具·开源·llm·github·jetbrains·ai编程助手
Valhalla 静态工程审阅 #009|Continue 源码证据驱动评测【大厂开源基础设施特辑】基于固定Commit快照的证据驱动静态审阅 评测时间:2026-08-01 | 快照:5522c6f4
元Y亨H19 小时前
langchain·llm
LangChain API 调用语言模型好的,这是一篇关于如何使用 LangChain API 调用语言模型的详细文章,并附有代码示例。在大语言模型(LLM)应用开发中,直接与各种模型 API 进行交互可能会变得复杂和繁琐。不同的模型提供商(如 OpenAI、Google、Anthropic)有不同的 SDK 和数据格式。LangChain 的核心价值之一就是提供了一个统一、标准化的接口来与这些模型进行交互,极大地简化了开发流程。
元Y亨H19 小时前
langchain·llm
大模型技术 LangChain 概述LangChain 是目前最流行的大语言模型(LLM)应用开发框架。它于 2022 年 10 月由 Harrison Chase 发起,旨在简化开发者构建基于大模型的复杂应用(如聊天机器人、智能体、文档问答系统等)的过程。
元Y亨H19 小时前
langchain·llm
大模型技术 提示词模板 概述在 LangChain 中,提示词模板(Prompt Template) 是构建大模型应用的核心基石。
元Y亨H1 天前
google·langchain·llm
大模型技术 模型调用结果解析 概述在 LangChain 的开发流程中,模型调用结果解析(Output Parsers) 是至关重要的一环。
元Y亨H1 天前
llm·ollama
大模型技术 Ollama 概述如果说 LangChain 是构建 AI 应用的“大脑框架”,那么 Ollama 就是让这个大脑在你的本地电脑上跑起来的“发动机”。
chaors1 天前
llm·agent·ai编程
DeepResearchSystem 0x06:LLM as Judge至此,DeepResearchSystem 已经是一个多 Agent 协作的智能体研报系统。但是到此就结束了吗?用我们之前客户端的思维,一个产品从开发完成到上线之前往往还需要经历严格的测试,以保证产品可用性和性能。那么对于一个 Agent?如何确保其可用性呢?怎么去对一个 Agent 做测试?
武子康1 天前
人工智能·chatgpt·llm
GPT-5.6 Luna 降价 80%:Agent 真正该重算的是单次成功成本事实边界:本文按 2026-07-31 可访问的 OpenAI 公告、Luna 模型卡与 API 价格页核验。降价不代表模型权重改变,也不能推导 OpenAI 的单位推理成本或毛利率。
Michaelliu_dev1 天前
人工智能·llm·多模态大模型·vit·llava·rope·mllm
多模态大模型推理流程解析本文想从数据流的方式走一遍多模态大模型推理流程,但不包含vit和llm具体的计算流程,因为里面基本是常见的attention计算方式。attention的计算方式可以参考《Attention Is All You Need》算法详解
玉鸯1 天前
python·llm·agent
Agent 的任务编排:从 System Prompt 到 Hierarchical Multi-Agent导读:Agent 领域有一个越来越难回避的问题:我们在编排上花的功夫,有多少是真正创造价值的?Dennis 等人 2026 年 4 月的一篇论文直接宣告"in-context prompting 让 Agent 编排过时了"。把完整流程写进 system prompt,效果居然碾压了 LangGraph 精心编排的同一套模型。
土豆12502 天前
人工智能·llm
DeepSeek V4-Flash 正式版深度解读:一行 changelog 里的暗涌与野心一句话定位:这是一篇给开发者、AI 从业者和关心大模型行业的人的深度解读——不吹不黑,逐条拆解官方更新日志,算清楚这笔账,再斗胆预测 DeepSeek 下一步的棋。
Michaelliu_dev2 天前
人工智能·llm·位置编码·多模态大模型·rope·旋转位置编码·mllm
RoPE通俗讲解现有的attention结构如下图所示,输入的N长度的features之间在计算attention的时候是没有位置关系的。但是在不管是文本、图片还是视频两个feature之前是有先后、远近关系的。为了让模型能够学到这种关系,现在有大量的文章提出位置编码相关的内容。其中RoPE是比较常用的一种位置编码,包括后续一系列改进的位置编码都是在RoPE基础上做的,例如Qwen用于多模态的MD-RoPE可外推的Yarn。
To_OC2 天前
人工智能·node.js·llm
从 0 到 1:Milvus + 大模型打造私人记忆知识库说实话,向量数据库这词我听了快半年了,每次看 RAG 相关的文章都能看到 Milvus、Pinecone 这些名字,但一直没往心里去。
孙启超2 天前
人工智能·llm·embedding·rag·向量化·chunking·文档切分
【AI应用开发】 RAG篇(四):Prompt 工程与进阶技术前几篇搞定了怎么存、怎么搜,本篇进入 RAG 的"最后一公里"——Prompt 工程和进阶优化技术。检索结果再好,Prompt 写得烂,答案是垃圾;检索质量卡在瓶颈,不上混合检索和查询优化,天花板就是 70 分。
周末程序猿2 天前
llm·agent
图解 120 个大语言模型(LLM)核心概念(91-120)
众人皆醒我独醉2 天前
面试·llm·ai编程
TGI:HuggingFace 的官方推理服务——不止 PagedAttention,更懂模型生态LLM 推理服务系列 · 第 2 篇vLLM 的核心创新是 PagedAttention。但 PagedAttention 只解决了一个问题:显存管理。实际的 LLM 推理服务还需要:模型权重分片、量化、Token 化、LoRA 热切换、多模态输入、水印生成、语法约束输出……
众人皆醒我独醉2 天前
面试·llm·ai编程
vLLM:PagedAttention 如何让 LLM 推理吞吐提升 24 倍LLM 推理服务系列 · 第 1 篇2023 年 6 月,UC Berkeley 的团队发布 vLLM,直接把 LLM 推理吞吐提升了 24 倍(相比 HuggingFace Transformers 默认实现)。一篇论文一个开源项目,半年内 GitHub 冲到 40K+ stars,成了 LLM 推理服务的默认选择。
张彦峰ZYF2 天前
人工智能·开源·llm·agent
全球开源大模型生态-从开放权重到开放智能系统:发展、进展、主力模型成就与方向分析目录一、2026 年全球开放生态的六个结论(一)基本结论汇总(二)全球开源大模型生态:七层协同栈二、发展脉络:开放大模型经历了三次跃迁