06. 使用模板进行交互

本文代码

提示模板

创建LangChain模板,根据实际需求动态选择不同的输入

使用模板, 我们让模型将 文本 从 某个语言 转换为 另一个语言, 使用模板我们只需要对 文本,转换前语言 和 被转后语言做指定修改就可以了, 比如下方我希望从英文转换为中文 如果转换完以后还需要将英文转换成其他语言,只需要修改 outputLang 的值就可以了, 这样我们就不用单独为他重新写一次对话信息

go 复制代码
package main

import (
    "context"
    "fmt"
    "github.com/tmc/langchaingo/llms"
    "github.com/tmc/langchaingo/prompts"
    "log"
    "study_langchain/pkg/mllm"
)

func main() {
    client, err := mllm.NewLLM("qwen2.5:3b", "http://127.0.0.1:11434")
    if err != nil {
       log.Fatalf("llm初始化失败:%s", err.Error())
    }
    
    // 使用模板进行对话
    template := prompts.NewChatPromptTemplate([]prompts.MessageFormatter{
       prompts.NewSystemMessagePromptTemplate("你是一个翻译人员,只翻译文本,不进行解释", nil),
       prompts.NewHumanMessagePromptTemplate("将此文本从{{.inputLang}}转换为{{.outputLang}}:\n{{.input}}", []string{"inputLang", "outputLang", "input"}),
    })
    
    // 对模板中的值进行替换
    value, err := template.FormatPrompt(map[string]any{
       "inputLang":  "English",
       "outputLang": "Chinese",
       "input":      "I love programming",
    })
    if err != nil {
       log.Fatal(err.Error())
    }

    msg := make([]llms.MessageContent, 0, len(value.Messages()))
    for _, v := range value.Messages() {
       msg = append(msg, llms.MessageContent{Role: v.GetType(), Parts: []llms.ContentPart{llms.TextPart(v.GetContent())}})
    }

    res, err := client.LLM.GenerateContent(context.Background(), msg)
    if err != nil {
       log.Fatal(err.Error())
    }
    fmt.Println(res.Choices[0].Content)
}

案例模板和输出解析

FewShotPrompt:少样本提示模板, 通过示例的展示来教模型如何回答问题

我们想要模型返回的数据能够解析成想要的数据结构,我们可以给模型提供一些案例,让他通过案例学习后回答给我们对应的结构。如下展示

你是一个翻译人员,只翻译文本,不对文本进行解释。

例:

将此文本从English转换为Chinese:

I love programming

```json

{"text":"我爱编程"}

```

这样,模型返回的数据我们就可以通过langChain提供的解析器进行解析

下面就让我们来尝试一下

go 复制代码
package main

import (
    "context"
    "fmt"
    "github.com/tmc/langchaingo/outputparser"
    "github.com/tmc/langchaingo/prompts"
    "log"
    "study_langchain/pkg/mllm"
)

type Trans struct {
    Text string `json:"text" describe:"翻译后文本"`
}

func main() {
    examplePrompt := prompts.NewPromptTemplate("例:\n将此文本从{{.inputLang}}转换为{{.outputLang}}:\n{{.input}}\n```json\n {"text":"{{.output}}"} \n```", []string{"inputLang", "outputLang", "input", "output"})
    examples := []map[string]string{{"inputLang": "English", "outputLang": "Chinese", "input": "I love programming", "output": "我爱编程"}}

    p, err := prompts.NewFewShotPrompt(examplePrompt, examples, nil,
       "你是一个翻译人员,只翻译文本,不对文本进行解释。", "请开始你的回答: 将此文本从{{.inputLang}}转换为{{.outputLang}}: {{.question}}",
       []string{"question", "inputLang", "outputLang"}, map[string]interface{}{"type": func() string { return "json" }},
       "\n", prompts.TemplateFormatGoTemplate, true)
    if err != nil {
       log.Fatal(err)
    }

    msg, err := p.Format(map[string]any{"inputLang": "English", "outputLang": "Chinese", "question": "What a nice day today"})
    if err != nil {
       log.Fatal(err)
    }

    client, err := mllm.NewLLM("qwen2.5:3b", "http://127.0.0.1:11434")
    if err != nil {
       log.Fatalf("llm初始化失败:%s", err.Error())
    }

    res, err := client.LLM.Call(context.Background(), msg)
    if err != nil {
       log.Fatal(err.Error())
    }

    // 对返回结果进行解析
    output, err := outputparser.NewDefined(Trans{})
    if err != nil {
       log.Fatal(err.Error())
    }
    trans, err := output.Parse(res)
    if err != nil {
       log.Fatal(err.Error())
    }
    fmt.Println(trans)
}
相关推荐
人间打气筒(Ada)13 小时前
「码动四季·开源同行」go语言:如何使用 ELK 进行日志采集以及统一处理?
开发语言·分布式·elk·go·日志收集·分布式日志系统
王码码20353 天前
Go语言中的数据库操作:从sqlx到ORM
后端·golang·go·接口
小羊在睡觉3 天前
Go与MySQL锁:高并发开发实战指南
数据库·后端·mysql·go
先跑起来再说4 天前
Gin 从入门到实践:路由与 Context 深入解析
go·gin
小羊在睡觉4 天前
Reids缓存穿透、击穿、雪崩
redis·缓存·go
@atweiwei5 天前
深入解析gRPC服务发现机制
微服务·云原生·rpc·go·服务发现·consul
Mgx6 天前
我在 Mac 写了个服务,硬要它在 18 岁高龄的 Windows 服务器上跑,结果…
go
少林码僧7 天前
1.1 一个架构师竟然这样设计通知平台,解决了所有业务方的痛点!
go
少林码僧7 天前
1.2 太震撼了!多渠道消息适配只用一个设计模式就搞定了?
go
咬_咬7 天前
go语言学习(环境安装,第一个go程序)
开发语言·学习·golang·go·goland