技术栈
llm
玉鸯
10 小时前
llm
·
agent
·
mcp
多 Agent 系统通信的实现原理与最佳实践
2026 年 7 月 28 日,Anthropic 发布了 MCP 协议的第五次大版本修订。这次更新的核心变化只有一句话 :协议层不再维护会话状态。initialize 握手、Mcp-Session-Id 头——全删了。
weixin_47138303
12 小时前
llm
01 LLM简介
LLM(Large Language Model,大语言模型)是一种用海量文本训练出来的神经网络,核心能力是:根据已有文字,预测下一个最可能出现的文字,并反复这样做,从而「生成」一整段回复。Agent、聊天机器人、代码助手,底层几乎都是 LLM。后面调 API、写 Prompt、做 Function Calling 时容易踩坑。
TunerT_TQ
11 小时前
vscode
·
测试工具
·
开源
·
llm
·
github
·
jetbrains
·
ai编程助手
Valhalla 静态工程审阅 #009|Continue 源码证据驱动评测【大厂开源基础设施特辑】
基于固定Commit快照的证据驱动静态审阅 评测时间:2026-08-01 | 快照:5522c6f4
元Y亨H
19 小时前
langchain
·
llm
LangChain API 调用语言模型
好的,这是一篇关于如何使用 LangChain API 调用语言模型的详细文章,并附有代码示例。在大语言模型(LLM)应用开发中,直接与各种模型 API 进行交互可能会变得复杂和繁琐。不同的模型提供商(如 OpenAI、Google、Anthropic)有不同的 SDK 和数据格式。LangChain 的核心价值之一就是提供了一个统一、标准化的接口来与这些模型进行交互,极大地简化了开发流程。
元Y亨H
19 小时前
langchain
·
llm
大模型技术 LangChain 概述
LangChain 是目前最流行的大语言模型(LLM)应用开发框架。它于 2022 年 10 月由 Harrison Chase 发起,旨在简化开发者构建基于大模型的复杂应用(如聊天机器人、智能体、文档问答系统等)的过程。
元Y亨H
19 小时前
langchain
·
llm
大模型技术 提示词模板 概述
在 LangChain 中,提示词模板(Prompt Template) 是构建大模型应用的核心基石。
元Y亨H
1 天前
google
·
langchain
·
llm
大模型技术 模型调用结果解析 概述
在 LangChain 的开发流程中,模型调用结果解析(Output Parsers) 是至关重要的一环。
元Y亨H
1 天前
llm
·
ollama
大模型技术 Ollama 概述
如果说 LangChain 是构建 AI 应用的“大脑框架”,那么 Ollama 就是让这个大脑在你的本地电脑上跑起来的“发动机”。
chaors
1 天前
llm
·
agent
·
ai编程
DeepResearchSystem 0x06:LLM as Judge
至此,DeepResearchSystem 已经是一个多 Agent 协作的智能体研报系统。但是到此就结束了吗?用我们之前客户端的思维,一个产品从开发完成到上线之前往往还需要经历严格的测试,以保证产品可用性和性能。那么对于一个 Agent?如何确保其可用性呢?怎么去对一个 Agent 做测试?
武子康
1 天前
人工智能
·
chatgpt
·
llm
GPT-5.6 Luna 降价 80%:Agent 真正该重算的是单次成功成本
事实边界:本文按 2026-07-31 可访问的 OpenAI 公告、Luna 模型卡与 API 价格页核验。降价不代表模型权重改变,也不能推导 OpenAI 的单位推理成本或毛利率。
Michaelliu_dev
1 天前
人工智能
·
llm
·
多模态大模型
·
vit
·
llava
·
rope
·
mllm
多模态大模型推理流程解析
本文想从数据流的方式走一遍多模态大模型推理流程,但不包含vit和llm具体的计算流程,因为里面基本是常见的attention计算方式。attention的计算方式可以参考《Attention Is All You Need》算法详解
玉鸯
1 天前
python
·
llm
·
agent
Agent 的任务编排:从 System Prompt 到 Hierarchical Multi-Agent
导读:Agent 领域有一个越来越难回避的问题:我们在编排上花的功夫,有多少是真正创造价值的?Dennis 等人 2026 年 4 月的一篇论文直接宣告"in-context prompting 让 Agent 编排过时了"。把完整流程写进 system prompt,效果居然碾压了 LangGraph 精心编排的同一套模型。
土豆1250
2 天前
人工智能
·
llm
DeepSeek V4-Flash 正式版深度解读:一行 changelog 里的暗涌与野心
一句话定位:这是一篇给开发者、AI 从业者和关心大模型行业的人的深度解读——不吹不黑,逐条拆解官方更新日志,算清楚这笔账,再斗胆预测 DeepSeek 下一步的棋。
Michaelliu_dev
2 天前
人工智能
·
llm
·
位置编码
·
多模态大模型
·
rope
·
旋转位置编码
·
mllm
RoPE通俗讲解
现有的attention结构如下图所示,输入的N长度的features之间在计算attention的时候是没有位置关系的。但是在不管是文本、图片还是视频两个feature之前是有先后、远近关系的。为了让模型能够学到这种关系,现在有大量的文章提出位置编码相关的内容。其中RoPE是比较常用的一种位置编码,包括后续一系列改进的位置编码都是在RoPE基础上做的,例如Qwen用于多模态的MD-RoPE可外推的Yarn。
To_OC
2 天前
人工智能
·
node.js
·
llm
从 0 到 1:Milvus + 大模型打造私人记忆知识库
说实话,向量数据库这词我听了快半年了,每次看 RAG 相关的文章都能看到 Milvus、Pinecone 这些名字,但一直没往心里去。
孙启超
2 天前
人工智能
·
llm
·
embedding
·
rag
·
向量化
·
chunking
·
文档切分
【AI应用开发】 RAG篇(四):Prompt 工程与进阶技术
前几篇搞定了怎么存、怎么搜,本篇进入 RAG 的"最后一公里"——Prompt 工程和进阶优化技术。检索结果再好,Prompt 写得烂,答案是垃圾;检索质量卡在瓶颈,不上混合检索和查询优化,天花板就是 70 分。
周末程序猿
2 天前
llm
·
agent
图解 120 个大语言模型(LLM)核心概念(91-120)
众人皆醒我独醉
2 天前
面试
·
llm
·
ai编程
TGI:HuggingFace 的官方推理服务——不止 PagedAttention,更懂模型生态
LLM 推理服务系列 · 第 2 篇vLLM 的核心创新是 PagedAttention。但 PagedAttention 只解决了一个问题:显存管理。实际的 LLM 推理服务还需要:模型权重分片、量化、Token 化、LoRA 热切换、多模态输入、水印生成、语法约束输出……
众人皆醒我独醉
2 天前
面试
·
llm
·
ai编程
vLLM:PagedAttention 如何让 LLM 推理吞吐提升 24 倍
LLM 推理服务系列 · 第 1 篇2023 年 6 月,UC Berkeley 的团队发布 vLLM,直接把 LLM 推理吞吐提升了 24 倍(相比 HuggingFace Transformers 默认实现)。一篇论文一个开源项目,半年内 GitHub 冲到 40K+ stars,成了 LLM 推理服务的默认选择。
张彦峰ZYF
2 天前
人工智能
·
开源
·
llm
·
agent
全球开源大模型生态-从开放权重到开放智能系统:发展、进展、主力模型成就与方向分析
目录一、2026 年全球开放生态的六个结论(一)基本结论汇总(二)全球开源大模型生态:七层协同栈二、发展脉络:开放大模型经历了三次跃迁