基于LangChain的RAG与Agent智能体开发 - 使用LangChain调用大模型设置流式输出

大家好,我是小锋老师,最近更新《2027版 基于LangChain的RAG与Agent智能体 开发视频教程》专辑,感谢大家支持。

本课程主要介绍和讲解RAG,LangChain简介,接入通义千万大模型 ,Ollama简介以及安装和使用,OpenAI 库介绍和使用,以及最重要的基于LangChain实现RAG与Agent智能体开发技术。

视频教程+课件+源码打包下载:

链接:https://pan.baidu.com/s/1_NzaNr0Wln6kv1rdiQnUTg

提取码:0000

基于LangChain的RAG与Agent智能体开发 - 使用LangChain调用大模型设置流式输出

前面我们使用invoke是完整输出形式,当返回数据量大的时候,会有延迟,显示效果也不好,我们企业级开发,肯定是一段一段的像流水一样的输出形式。

在LangChain中,我们使用stream()方法,来实现流式输出。

实现代码:

复制代码
from langchain_community.llms.tongyi import Tongyi

# 创建模型
model = Tongyi(model="qwen-plus")

# 调用模型
result = model.stream(input="你是谁")

for chunk in result:
    print(chunk, end="", flush=True)

运行返回的就是一段一段的流式输出了。

同样,如果我们使用本地ollama里的大模型,代码也改下:

复制代码
from langchain_ollama import OllamaLLM

# 创建模型
model = OllamaLLM(model="qwen3:4b")

# 调用模型
result = model.stream(input="你是谁")

for chunk in result:
    print(chunk, end="", flush=True)

运行也是流式效果:

相关推荐
Soari23 分钟前
NetPilot:用RAG与验证回路辅助混合TSN和5G网络配置
5g·网络配置·大语言模型·tsn·rag
叼烟扛炮4 小时前
[LangChain] 学习笔记(13):并发不是越大越好——batch / gather / 信号量 / 配额治理
笔记·学习·langchain
攒了一袋星辰5 小时前
AI 求职长期记忆原理解析:从碎片经历到贝叶斯能力星图
知识图谱·agent·rag·ai工程·校招面试
叼烟扛炮15 小时前
[LangChain] 学习笔记(09):工具(Tool)定义与调用闭环 · 理论+实战完整版
笔记·学习·langchain
LiaoWL1231 天前
从零搭一个 RAG 知识库(二):换上语义 Embedding——BGE 实测与阈值重校准
python·大模型·numpy·embedding·向量检索·rag
2601_967987372 天前
AI加速波:大模型应用开发主要做哪些工作?
rag·提示词工程·agent开发·ai大模型应用开发·服务封装
仍然.2 天前
LangChain核心组件---消息
langchain
xyphf_和派孔明2 天前
第十章: Agent Skill的调用机制解读
langchain·llm·agent
掘黄金的打工人2 天前
LangChain 少样本示例 和 动态示例选择
langchain·aigc·ai编程
kevin_org2 天前
LangChain入门学习(四)
python·学习·langchain·fastapi