基于ChatGpt,Java,SpringBoot,Vue,Milvus向量数据库的定制化聊天Web demo

customized chat

GitHub - bigcyy/customized-chatgpt: 基于ChatGpt,Java,SpringBoot,Vue,Milvus向量数据库的定制化聊天Web demo

简介

基于ChatGpt,Java,SpringBoot,Vue,Milvus向量数据库的定制化聊天Web demo

  • 可开发成个人知识库
  • 针对某品牌的智能客服
  • 私人助理
  • more

在线体验

TODO

https://github.com/bigcyy/customized-chatgpt/blob/main/pic/chat_demo.png

前端项目地址

GitHub - bigcyy/customized-chatgpt-vue: customized-chatgpt项目的前端,使用Vue搭建

原理

上传PDF,让ChtGpt基于PDF的内容回答问题,原理很简单:将内容分割然后embedding存入向量数据库,当用户询问时将问题embedding,拿embedding结果去向量数据库查询相似度最高的几段话丢给ChatGpt让他组织语言并结合自己丰富的知识进行润色。

本地使用

注意,你需要有OpenAI账号并且创建一个apiKey,由于国内无法使用连接OpenAi服务所以你需要配置代理

  1. 安装Milvus向量数据库

    复制代码
    wget https://github.com/milvus-io/milvus/releases/download/v2.2.2/milvus-standalone-docker-compose.yml -O docker-compose.yml
    sudo docker-compose up -d

克隆后端项目

复制代码
git clone git@github.com:bigcyy/customized-chatgpt.git
  1. 用idea打开项目

  2. 初始化Milvus向量数据库表结构以及配置代理

    • application.yml中配置向量数据库连接地址和端口(本地不需要修改),然后配置你的代理ip和端口

    • 找到项目test文件夹下的CustomizedChatApplicationTests.java,运行prepare函数创建表结构

  3. 找到项目主函数运行后端

  4. 克隆并运行前端项目

    git clone git@github.com:bigcyy/customized-chatgpt-vue.git
    cd customized-chatgpt-vue
    npm install
    npm run serve

  5. 访问控制台输出的地址

  6. 界面左下角配置你的apiKey

  7. 界面左下角上传你需要定制聊天的PDF文件

  8. enjoy it

todo

  • 支持更多的文件格式
  • token计数
  • 优化文本的分割
  • 抽离embedding模型,使其能更优雅的切换为自己训练的模型或者其他公开的模型

参考资料

https://twitter.com/chuangbo/status/1631461656151887873 作者详细的描述了该方案的运行流程,本项目也是参考自该文章

相关项目

相关推荐
Mh5 小时前
我是如何设计品牌站组件库的?
前端·css·设计模式
程序员大阳6 小时前
副队长Vue3教程(2)--Vite 搭建 Vue 项目,认识目录结构
前端·javascript·vue.js·vite·创建项目·目录结构·项目结构
濮水大叔6 小时前
Cabloy/Zova 与 Next.js 的 SSR 水合差异
前端·typescript·next.js
SoaringHeart7 小时前
Flutter最佳实践:用 flutter_html 渲染富文本
前端·flutter
Resean02237 小时前
Spring 源码分析(二)配置类的解析与扫描
java·后端·spring
小毛球.7 小时前
第 3 篇:IDEA 最新版下载与完整安装教程(Mac)
java·macos·intellij-idea·idea
死磕音视频7 小时前
Businesses in ChatGPT 入门:在 Business Hub 认领商家并完成验证
chatgpt·入门教程·business hub·商家资料
Flynt8 小时前
Chrome给AI编程助手塞了203篇前端规范,我拆包实测:检索0.77秒是真快,扫描器有点挑食
前端·chrome·ai编程
泯泷8 小时前
OpenClaw 退潮背后,是 AI 圈“技术自嗨”的终结
人工智能·chatgpt·llm
北城笑笑8 小时前
Vue 110 ,若依SSE流式接口限次空500排查与解决
前端·javascript·vue.js·后端·vue