基于langchain的开源大模型应用开发1

服务端grpc框架

server-grpc

etc yaml配置及

internal 内部代码包

config yaml配置解析代码包

logic 逻辑实现包

server 服务连接处理

svc 上下文配置信息

proto proto文件

go.mod model

go.sum

main.go 主函数入口

逻辑代码处理

目前该应用的逻辑只有机器人对话功能,在服务端是通过grpc服务进行数据传输,这里前提是在main函数中需要启动grpc服务,设置proto数据类型。在logic层初始化服务上下文信息,日治配置大模型配置等。

java 复制代码
func NewChatbotLogic(ctx context.Context, svcCtx *svc.ServiceContext) *ChatbotLogic {

	llm, err := chain.New(chain.WithToken(svcCtx.Config.OpenaiClient.Token), chain.WithModel(svcCtx.Config.OpenaiClient.Model), chain.WithBaseURL(svcCtx.Config.OpenaiClient.BaseURL))
	if err != nil {
		logx.Errorf("large model import error: %v", err)
		return nil
	}
	return &ChatbotLogic{
		Logger: logx.WithContext(ctx),
		ctx:    ctx,
		svcCtx: svcCtx,
		model:  llm,
	}
}

在对话逻辑中,设置历史信息的上限,设置对话者角色,从客户端获取用户对话信息。通过langchain框架传递给大模型返回信息,最后将得到最准确的信息返回给用户。

java 复制代码
// 对话逻辑
func (c *ChatbotLogic) Chat(req *pb.ChatRequest) (*pb.ChatResponse, error) {
	//chat role and part
	message := make([]llms.MessageContent, 10)
	var index int = 0
	if index == 9 {
		index = 0
	}
	//create role instance
	message[index].Role = "human"
	//create text instance
	text := llms.TextContent{Text: req.UserInput}
	message[index].Parts = []llms.ContentPart{text}
	//input session
	respose, err := c.model.GenerateContent(c.ctx, message)
	if err != nil {
		logx.Errorf("Session error: %v", err)
		return nil, err

	}
	jsonRespponse, err := json.Marshal(respose)
	if err != nil {
		logx.Errorf("struct parse error: %v", err)
		result := respose.Choices[0].Content
		return &pb.ChatResponse{
			BotResponse: result,
		}, err
	}
	jsonRes := string(jsonRespponse)
	return &pb.ChatResponse{
		BotResponse: jsonRes,
	}, nil
}

下一期敬请期待。

相关推荐
审计侠25 分钟前
Go语言-初学者日记(八):构建、部署与 Docker 化
开发语言·后端·golang
东方珵蕴42 分钟前
Logo语言的区块链
开发语言·后端·golang
奋斗者1号2 小时前
嵌入式AI开源生态指南:从框架到应用的全面解析
人工智能·开源
二狗哈3 小时前
go游戏后端开发24:写完赢三张游戏
python·游戏·golang
OpenTiny社区3 小时前
TinyPro 中后台管理系统使用指南——让页面搭建变得如此简单!
前端·vue.js·开源
chxii3 小时前
19.go日志包log
网络·golang
审计侠3 小时前
Go语言-初学者日记(四):包管理
开发语言·后端·golang
阮瑭雅4 小时前
Java语言的Web安全
开发语言·后端·golang
东方雴翾5 小时前
Dart语言的3D可视化
开发语言·后端·golang