LangChainJS之Runnable(三)

前面的几篇文章已经说到了使用LangChain如何调用大模型,如何使用提示词,后续我们即将聊到Chain链,Chain链是LangChain的核心,它可以让开发者便捷的构建标准化工作流,数据流转可以在不同的组件间进行,不用显示的把组件传入,方便又快捷。

但在聊Chain链之前,我们必须要先聊下Runnable抽象类,因为它是Chain链的基石,没有它,我们很多事情都没法干 ,下面我们来看看Runnable

Runnable是什么?

Runnable是一个抽象类,它定义了一套标准接口,让提示词模板、大模型、输出解析器等不同组件都能以统一的方式被调用和组合。它没办法直接使用,我们通常是使用它的实现类。

vbnet 复制代码
const transformInput = RunnableLambda.from((input: { text: string }) => ({
  text: input.text,
  wordCount: input.text.split(/\s+/).length,
  characterCount: input.text.length,
}));

// 这里是Chain链调用,下一章会聊到
const chain = transformInput
  .pipe(promptTemplate)
  .pipe(model)
  .pipe(new StringOutputParser());

const text = `
  LangChain 是一个用于开发由语言模型驱动的应用程序的框架。
  它提供了一套丰富的工具和组件,使得构建复杂的 LLM 应用变得更加容易。
  无论是简单的聊天机器人还是复杂的智能代理,LangChain 都能帮你实现。
`.trim();
const result = await chain.invoke({ text });

上面我们使用到的RunnableLambda,就是Runnable的实现类。我们一起看看它干了什么,RunnableLambda.from接收一个普通匿名函数作为参数,然后返回一个全新的支持Runnable规范的函数transformInputtransformInput就可直接使用Chain链调用。(Chain链后面会说到)

如果是普通函数,肯定是不支持Chain链调用。这里之所以可以使用Chain链,就是因为RunnableLambda.from的转换,它将普通函数转换为支持Runnable接口的对象。

通用插头

一个 Runnable 对象拥有多种执行方式,使其能够灵活应对不同的应用场景。

  • invoke / ainvoke :最基础的调用方法,接收一个输入,返回一个完整的输出。这是最常用的同步/异步执行方式
  • batch / abatch批量处理 多个输入,能有效提升处理效率。Runnable 接口内置了优化的并行执行能力。
  • stream / astream流式处理,在输出生成的同时逐步返回结果。这对需要快速响应的聊天应用等场景至关重要。
csharp 复制代码
// 使用invoke 返回完整的输出
const result = await runnable.invoke({ topic: "人工智能的未来" });
console.log(result);

// 使用batch 批量处理多个输入
const runnableInput = RunnableLambda.from(text: string): string => text.toUpperCase());
const inputs = ["hello", "world", "langchain"];
const results = await runnableInput.batch(inputs);

// 使用stream 逐字输出结果 
const result = await runnable.stream({ question: "LangChain是什么" });
for await (const chunk of result) {
    process.stdout.write(chunk); // 会像打字一样,逐字输出
}

Runnable组件

除了模型、提示词这些基础组件,本身就是支持Runnable 类规范外,LangChain 还提供了许多内置的 Runnable 类,来处理更复杂的逻辑。

  • RunnableSequence :按顺序执行一系列 Runnable,上一个的输出是下一个的输入。你用 | 创建的链,本质上就是它。
  • RunnableParallel并行执行 多个 Runnable,适合需要同时获取多方面信息的场景。
  • RunnableLambda :将任意的普通函数 转换为 Runnable,方便在链中插入自定义逻辑。
  • RunnablePassthrough透传数据,常用来在链中传递或添加额外的上下文信息。
  • RunnableBranch :实现条件分支 逻辑,根据输入动态选择要执行的 Runnable

总结

以上便是 关于Runnable的说明。如今日常开发中,AI 编程工具已成为得力助手。但理解这些底层原理依然有意义:当你看到 AI 生成的代码时,你能看懂它"在做什么",更能理解它"为什么这样写"。

相关推荐
名字还没想好☜1 小时前
React createPortal 实战:模态框逃出 overflow:hidden、事件冒泡与焦点管理
前端·javascript·react.js·ecmascript·react·createportal
fthux8 小时前
RenoPit 能为普通业主做什么?看懂图纸、审查合同,提前发现装修坑
javascript·人工智能·ai·开源·github·chrome扩展·open source·edge扩展·firefox扩展
仿生狮子9 小时前
✂️ Nuxt 最简单的字体裁剪工具:Fontize
javascript·vue.js·nuxt.js
_itgo11 小时前
LangGraph 主要3 种核心模式
ai·langchain·langgraph
魔力女仆13 小时前
分享一个 JS 鼠标跟随贪吃蛇背景库
开发语言·javascript·计算机外设
别惊醒渔人14 小时前
Vue3 Diff 优化:最长递增子序列 LIS
前端·javascript·vue.js
Larcher15 小时前
从“加载模型”界面到端侧推理:拆解一个 React + WebGPU 大模型 Demo
javascript·后端
Larcher15 小时前
从状态快照到惰性初始化:读懂 React useState 的三个关键场景
javascript·人工智能·后端
Hilaku17 小时前
工作 5 年后,决定你薪资上限的究竟是什么?
前端·javascript·程序员
weixin_BYSJ198717 小时前
springboot校园自习室管理小程序---附源码32142
java·javascript·spring boot·python·django·flask·php