DB-gpt + one-api + kimi-free-api 真香

复制代码
# 1. 新建文件夹 one-api 和 子目录
mkdir -p /docker/one-api/data

# 运行容器one-api
docker run --name one-api -d --restart always -p 3333:3000 \
-e TZ=Asia/Shanghai -e REDIS_CONN_STRING=redis://192.168.0.3:6379 -e SYNC_FREQUENCY=60 -e SQL_DSN='root:123456@tcp(192.168.0.3:30306)/oneapi' \
 -v /home/admin/docker_data/oneApi/data:/data justsong/one-api


# 2. 运行kimi-free-api
docker run -it -d --init --name kimi-free-api -p 3334:8000 -e TZ=Asia/Shanghai vinlic/kimi-free-api:latest

# 3. 配置one-api
1.进入one-api 新建渠道,配置kimi-free-api,其中的密钥要从https://kimi.moonshot.cn/ 按F12来获取,应用--本地存储空间--域名--refresh token ,而且密钥可以配置多个 ,目前kimi限制普通账号每3小时内只能进行30轮长文本的问答(短文本不限),你可以通过提供多个账号的refresh_token并使用,拼接提供:Authorization: Bearer TOKEN1,TOKEN2,TOKEN3
每次请求服务会从中挑选一个。baseUrl就是kimi-free-api的访问地址。
2.在one-api中,新建令牌,关键的一点,令牌【复制】chatgpt-next-web后,会生成一串字符串,
  其中的key,就是用来访问api接口的,类似sk-xxxxxxxx,之前我用的令牌名称,结果调用接口老是报401的错,url就是one-api的访问地址;


# 4. 通过chatgpt-next-web来验证一下
docker pull yidadaa/chatgpt-next-web

# 5. 运行容器 chatgpt-next-web, -表示要关闭的模型,+表示要使用的模型
docker run -d --restart unless-stopped --name chatgpt-next-web -p 3332:3000 -e OPENAI_API_KEY='sk-bn6M52bOfdxYB3n2Ee717eA2C66b45318f1c95E4D9553d94'  -e BASE_URL=http://192.168.0.3:3333 -e CUSTOM_MODELS='-all,+kimi' yidadaa/chatgpt-next-web:latest

# 6. 新建dbgpt数据目录,Embedding模型可以在国内的 https://hf-mirror.com/ 下载
mkdir -p /home/admin/models/text2vec-large-chinese

# 7. 运行容器dbgpt(采用one-api + kimi-free-api 方案)
docker run -d \
   --restart unless-stopped \
   --name dbgpt \
   -p 5670:5670 \
   -v /home/admin/models/text2vec-large-chinese:/app/models/text2vec-large-chinese \
   -e LOCAL_DB_TYPE=sqlite \
   -e LOCAL_DB_PATH=data/default_sqlite.db \
   -e LLM_MODEL=proxyllm \
   -e PROXY_API_KEY=sk-bn6M52bOfdxYB3n2Ee717eA2C66b45318f1c95E4D9553d94 \ #这个KEY是one-api的令牌生成的key
   -e PROXY_SERVER_URL=http://192.168.0.3:3333/v1/chat/completions  \    #这是one-api的访问地址  
   -e EMBEDDING_MODEL=text2vec \
   -e LANGUAGE=zh \
   eosphorosai/dbgpt:latest   #镜像可能要科学一下,有点大13个G

最后通过DB-gpt 使用自然语言查询出商品价格的走势图

相关推荐
pixcarp5 小时前
知识库系统的内容资产闭环怎么设计
服务器·数据库·后端·golang
JosieBook5 小时前
【数据库】时序预测能力的分级进化:TimechoAI如何让每一类用户都能精准预见未来
java·开发语言·数据库
吴声子夜歌7 小时前
SQL经典实例——使用多张表
数据库·sql
倔强的石头_8 小时前
《Kingbase护城河》——深度解密数据库行锁冲突与等待事件架构
数据库
IT策士8 小时前
Redis 从入门到精通:性能调优与多语言客户端对比
数据库·redis·缓存
Bert.Cai9 小时前
Oracle INSTR函数详解
数据库·oracle
虎妞050011 小时前
大模型微调实战:LoRA 与 QLoRA 原理精讲
深度学习·lora·大模型·微调·qlora
茉莉玫瑰花茶11 小时前
综合案例 - AI 智能租房助手 [ 5 ]
服务器·数据库·人工智能·python·ai
ywl47081208711 小时前
jwt生产token,简单版helloworld
java·数据库·spring
文艺倾年11 小时前
【强化学习】强化学习基本概念,20W字总结(一)
人工智能·python·语言模型·自然语言处理·面试·职场和发展·大模型