06. 使用模板进行交互

本文代码

提示模板

创建LangChain模板,根据实际需求动态选择不同的输入

使用模板, 我们让模型将 文本 从 某个语言 转换为 另一个语言, 使用模板我们只需要对 文本,转换前语言 和 被转后语言做指定修改就可以了, 比如下方我希望从英文转换为中文 如果转换完以后还需要将英文转换成其他语言,只需要修改 outputLang 的值就可以了, 这样我们就不用单独为他重新写一次对话信息

go 复制代码
package main

import (
    "context"
    "fmt"
    "github.com/tmc/langchaingo/llms"
    "github.com/tmc/langchaingo/prompts"
    "log"
    "study_langchain/pkg/mllm"
)

func main() {
    client, err := mllm.NewLLM("qwen2.5:3b", "http://127.0.0.1:11434")
    if err != nil {
       log.Fatalf("llm初始化失败:%s", err.Error())
    }
    
    // 使用模板进行对话
    template := prompts.NewChatPromptTemplate([]prompts.MessageFormatter{
       prompts.NewSystemMessagePromptTemplate("你是一个翻译人员,只翻译文本,不进行解释", nil),
       prompts.NewHumanMessagePromptTemplate("将此文本从{{.inputLang}}转换为{{.outputLang}}:\n{{.input}}", []string{"inputLang", "outputLang", "input"}),
    })
    
    // 对模板中的值进行替换
    value, err := template.FormatPrompt(map[string]any{
       "inputLang":  "English",
       "outputLang": "Chinese",
       "input":      "I love programming",
    })
    if err != nil {
       log.Fatal(err.Error())
    }

    msg := make([]llms.MessageContent, 0, len(value.Messages()))
    for _, v := range value.Messages() {
       msg = append(msg, llms.MessageContent{Role: v.GetType(), Parts: []llms.ContentPart{llms.TextPart(v.GetContent())}})
    }

    res, err := client.LLM.GenerateContent(context.Background(), msg)
    if err != nil {
       log.Fatal(err.Error())
    }
    fmt.Println(res.Choices[0].Content)
}

案例模板和输出解析

FewShotPrompt:少样本提示模板, 通过示例的展示来教模型如何回答问题

我们想要模型返回的数据能够解析成想要的数据结构,我们可以给模型提供一些案例,让他通过案例学习后回答给我们对应的结构。如下展示

你是一个翻译人员,只翻译文本,不对文本进行解释。

例:

将此文本从English转换为Chinese:

I love programming

```json

{"text":"我爱编程"}

```

这样,模型返回的数据我们就可以通过langChain提供的解析器进行解析

下面就让我们来尝试一下

go 复制代码
package main

import (
    "context"
    "fmt"
    "github.com/tmc/langchaingo/outputparser"
    "github.com/tmc/langchaingo/prompts"
    "log"
    "study_langchain/pkg/mllm"
)

type Trans struct {
    Text string `json:"text" describe:"翻译后文本"`
}

func main() {
    examplePrompt := prompts.NewPromptTemplate("例:\n将此文本从{{.inputLang}}转换为{{.outputLang}}:\n{{.input}}\n```json\n {"text":"{{.output}}"} \n```", []string{"inputLang", "outputLang", "input", "output"})
    examples := []map[string]string{{"inputLang": "English", "outputLang": "Chinese", "input": "I love programming", "output": "我爱编程"}}

    p, err := prompts.NewFewShotPrompt(examplePrompt, examples, nil,
       "你是一个翻译人员,只翻译文本,不对文本进行解释。", "请开始你的回答: 将此文本从{{.inputLang}}转换为{{.outputLang}}: {{.question}}",
       []string{"question", "inputLang", "outputLang"}, map[string]interface{}{"type": func() string { return "json" }},
       "\n", prompts.TemplateFormatGoTemplate, true)
    if err != nil {
       log.Fatal(err)
    }

    msg, err := p.Format(map[string]any{"inputLang": "English", "outputLang": "Chinese", "question": "What a nice day today"})
    if err != nil {
       log.Fatal(err)
    }

    client, err := mllm.NewLLM("qwen2.5:3b", "http://127.0.0.1:11434")
    if err != nil {
       log.Fatalf("llm初始化失败:%s", err.Error())
    }

    res, err := client.LLM.Call(context.Background(), msg)
    if err != nil {
       log.Fatal(err.Error())
    }

    // 对返回结果进行解析
    output, err := outputparser.NewDefined(Trans{})
    if err != nil {
       log.Fatal(err.Error())
    }
    trans, err := output.Parse(res)
    if err != nil {
       log.Fatal(err.Error())
    }
    fmt.Println(trans)
}
相关推荐
程序员爱钓鱼4 小时前
Go语言并发模型与模式:Worker Pool 模式
后端·go·排序算法
十字路口的火丁21 小时前
在 Go 项目中如何使用 mockgen 提升单元测试效率?
go
DemonAvenger1 天前
Go GOGC环境变量调优与实战案例
性能优化·架构·go
DemonAvenger1 天前
Go sync.Pool 最佳实践:复用对象降低 GC 压力的技术文章
性能优化·架构·go
程序员爱钓鱼1 天前
Go 并发编程基础:select 多路复用
后端·google·go
程序员麻辣烫1 天前
Go的优雅退出
后端·go
zhuyasen1 天前
深度定制 protoc-gen-go:实现结构体字段命名风格控制
后端·go·protobuf
油腻中年李大鹅2 天前
使用scheduler-plugins实现自定义调度器
kubernetes·go
DemonAvenger2 天前
减少内存分配:Go中值类型与指针类型的选择
性能优化·架构·go