提示模板
创建LangChain模板,根据实际需求动态选择不同的输入
使用模板, 我们让模型将 文本 从 某个语言 转换为 另一个语言, 使用模板我们只需要对 文本,转换前语言 和 被转后语言做指定修改就可以了, 比如下方我希望从英文转换为中文 如果转换完以后还需要将英文转换成其他语言,只需要修改 outputLang
的值就可以了, 这样我们就不用单独为他重新写一次对话信息
go
package main
import (
"context"
"fmt"
"github.com/tmc/langchaingo/llms"
"github.com/tmc/langchaingo/prompts"
"log"
"study_langchain/pkg/mllm"
)
func main() {
client, err := mllm.NewLLM("qwen2.5:3b", "http://127.0.0.1:11434")
if err != nil {
log.Fatalf("llm初始化失败:%s", err.Error())
}
// 使用模板进行对话
template := prompts.NewChatPromptTemplate([]prompts.MessageFormatter{
prompts.NewSystemMessagePromptTemplate("你是一个翻译人员,只翻译文本,不进行解释", nil),
prompts.NewHumanMessagePromptTemplate("将此文本从{{.inputLang}}转换为{{.outputLang}}:\n{{.input}}", []string{"inputLang", "outputLang", "input"}),
})
// 对模板中的值进行替换
value, err := template.FormatPrompt(map[string]any{
"inputLang": "English",
"outputLang": "Chinese",
"input": "I love programming",
})
if err != nil {
log.Fatal(err.Error())
}
msg := make([]llms.MessageContent, 0, len(value.Messages()))
for _, v := range value.Messages() {
msg = append(msg, llms.MessageContent{Role: v.GetType(), Parts: []llms.ContentPart{llms.TextPart(v.GetContent())}})
}
res, err := client.LLM.GenerateContent(context.Background(), msg)
if err != nil {
log.Fatal(err.Error())
}
fmt.Println(res.Choices[0].Content)
}
案例模板和输出解析
FewShotPrompt:少样本提示模板, 通过示例的展示来教模型如何回答问题
我们想要模型返回的数据能够解析成想要的数据结构,我们可以给模型提供一些案例,让他通过案例学习后回答给我们对应的结构。如下展示
你是一个翻译人员,只翻译文本,不对文本进行解释。
例:
将此文本从English转换为Chinese:
I love programming
```json
{"text":"我爱编程"}
```
这样,模型返回的数据我们就可以通过langChain提供的解析器进行解析
下面就让我们来尝试一下
go
package main
import (
"context"
"fmt"
"github.com/tmc/langchaingo/outputparser"
"github.com/tmc/langchaingo/prompts"
"log"
"study_langchain/pkg/mllm"
)
type Trans struct {
Text string `json:"text" describe:"翻译后文本"`
}
func main() {
examplePrompt := prompts.NewPromptTemplate("例:\n将此文本从{{.inputLang}}转换为{{.outputLang}}:\n{{.input}}\n```json\n {"text":"{{.output}}"} \n```", []string{"inputLang", "outputLang", "input", "output"})
examples := []map[string]string{{"inputLang": "English", "outputLang": "Chinese", "input": "I love programming", "output": "我爱编程"}}
p, err := prompts.NewFewShotPrompt(examplePrompt, examples, nil,
"你是一个翻译人员,只翻译文本,不对文本进行解释。", "请开始你的回答: 将此文本从{{.inputLang}}转换为{{.outputLang}}: {{.question}}",
[]string{"question", "inputLang", "outputLang"}, map[string]interface{}{"type": func() string { return "json" }},
"\n", prompts.TemplateFormatGoTemplate, true)
if err != nil {
log.Fatal(err)
}
msg, err := p.Format(map[string]any{"inputLang": "English", "outputLang": "Chinese", "question": "What a nice day today"})
if err != nil {
log.Fatal(err)
}
client, err := mllm.NewLLM("qwen2.5:3b", "http://127.0.0.1:11434")
if err != nil {
log.Fatalf("llm初始化失败:%s", err.Error())
}
res, err := client.LLM.Call(context.Background(), msg)
if err != nil {
log.Fatal(err.Error())
}
// 对返回结果进行解析
output, err := outputparser.NewDefined(Trans{})
if err != nil {
log.Fatal(err.Error())
}
trans, err := output.Parse(res)
if err != nil {
log.Fatal(err.Error())
}
fmt.Println(trans)
}