DB-gpt + one-api + kimi-free-api 真香

复制代码
# 1. 新建文件夹 one-api 和 子目录
mkdir -p /docker/one-api/data

# 运行容器one-api
docker run --name one-api -d --restart always -p 3333:3000 \
-e TZ=Asia/Shanghai -e REDIS_CONN_STRING=redis://192.168.0.3:6379 -e SYNC_FREQUENCY=60 -e SQL_DSN='root:123456@tcp(192.168.0.3:30306)/oneapi' \
 -v /home/admin/docker_data/oneApi/data:/data justsong/one-api


# 2. 运行kimi-free-api
docker run -it -d --init --name kimi-free-api -p 3334:8000 -e TZ=Asia/Shanghai vinlic/kimi-free-api:latest

# 3. 配置one-api
1.进入one-api 新建渠道,配置kimi-free-api,其中的密钥要从https://kimi.moonshot.cn/ 按F12来获取,应用--本地存储空间--域名--refresh token ,而且密钥可以配置多个 ,目前kimi限制普通账号每3小时内只能进行30轮长文本的问答(短文本不限),你可以通过提供多个账号的refresh_token并使用,拼接提供:Authorization: Bearer TOKEN1,TOKEN2,TOKEN3
每次请求服务会从中挑选一个。baseUrl就是kimi-free-api的访问地址。
2.在one-api中,新建令牌,关键的一点,令牌【复制】chatgpt-next-web后,会生成一串字符串,
  其中的key,就是用来访问api接口的,类似sk-xxxxxxxx,之前我用的令牌名称,结果调用接口老是报401的错,url就是one-api的访问地址;


# 4. 通过chatgpt-next-web来验证一下
docker pull yidadaa/chatgpt-next-web

# 5. 运行容器 chatgpt-next-web, -表示要关闭的模型,+表示要使用的模型
docker run -d --restart unless-stopped --name chatgpt-next-web -p 3332:3000 -e OPENAI_API_KEY='sk-bn6M52bOfdxYB3n2Ee717eA2C66b45318f1c95E4D9553d94'  -e BASE_URL=http://192.168.0.3:3333 -e CUSTOM_MODELS='-all,+kimi' yidadaa/chatgpt-next-web:latest

# 6. 新建dbgpt数据目录,Embedding模型可以在国内的 https://hf-mirror.com/ 下载
mkdir -p /home/admin/models/text2vec-large-chinese

# 7. 运行容器dbgpt(采用one-api + kimi-free-api 方案)
docker run -d \
   --restart unless-stopped \
   --name dbgpt \
   -p 5670:5670 \
   -v /home/admin/models/text2vec-large-chinese:/app/models/text2vec-large-chinese \
   -e LOCAL_DB_TYPE=sqlite \
   -e LOCAL_DB_PATH=data/default_sqlite.db \
   -e LLM_MODEL=proxyllm \
   -e PROXY_API_KEY=sk-bn6M52bOfdxYB3n2Ee717eA2C66b45318f1c95E4D9553d94 \ #这个KEY是one-api的令牌生成的key
   -e PROXY_SERVER_URL=http://192.168.0.3:3333/v1/chat/completions  \    #这是one-api的访问地址  
   -e EMBEDDING_MODEL=text2vec \
   -e LANGUAGE=zh \
   eosphorosai/dbgpt:latest   #镜像可能要科学一下,有点大13个G

最后通过DB-gpt 使用自然语言查询出商品价格的走势图

相关推荐
余槐i3 小时前
PostgreSQL 函数索引报错 must be immutable:3种绕法与代价
数据库·后端·sql·postgresql·性能优化
数据库小学妹3 小时前
PostgreSQL表膨胀怎么办?autovacuum清不动的根因与排查命令
数据库·postgresql·表膨胀·mvcc·数据库运维
mister_guo3 小时前
MySQL-1267错误:排序规则冲突的原因与解决方案
数据库·mysql
骇客野人4 小时前
在麒麟操作系统上 分别安装 jdk1.8, 达梦数据库,redis ,memcache 的操作实施方案和步骤
数据库·redis·memcached
slacker-kian4 小时前
[实践]-用LLM对文本结构化:把多段文本描述变成规范的 JSON 知识库
人工智能·llm·prompt·结构化·pydantic·one-shot 提示
死磕音视频4 小时前
让小模型做选择题:限定候选项并读取 logits 概率的入门实践(附 Python 代码)
开发语言·python·大模型·文本分类·transformers
美狐美颜SDK开放平台5 小时前
直播APP如何实现美白滤镜功能?视频美颜SDK技术开发方案详解
前端·数据库·人工智能·音视频·美颜sdk·直播美颜sdk·视频美颜sdk
用户21296835261686 小时前
开源了一个 Java 多智能体 LLM 框架 Baton:一个依赖,把 Agent 循环、工具调用、记忆、编排全配齐
java·llm
花间相见7 小时前
【计算基础|MySQL01】【上手】安装连接、数据类型与建库建表
数据库·后端
花间相见7 小时前
【计算基础|MySQL02】【上手】SQL 增删改查
数据库·后端