Windows docker 部署MiGPT+ 本地Ollama

  1. 下载 MiGPT

https://github.com/idootop/mi-gpt

https://github.com/idootop/mi-gpt/releases/tag/v4.2.0

  1. 运行 Ollama qwen模型

3.配置Mi GPT

.env

.migpt.js

运行docker

运行 需要上网

复制代码
docker run -d --env-file D:/LLM/mi-gpt-4.2.0/.env -v D:/LLM/mi-gpt-4.2.0/.migpt.js:/app/.migpt.js idootop/mi-gpt:latest

运行需要小米账号授权

报错 可能接口不一致导致

2024-10-13 18:47:07

2024-10-13 18:47:19 2024/10/13 10:47:19 Speaker ✅ 服务已启动...

2024-10-13 18:47:32 2024/10/13 10:47:32 Speaker 🔥 请写一个十个字的小作文

2024-10-13 18:47:34 2024/10/13 10:47:34 Speaker 🔊 让我先想想

2024-10-13 18:47:48 2024/10/13 10:47:48 Open AI ❌ LLM 响应异常 APIConnectionError: Connection error.

2024-10-13 18:47:48 at OpenAI.makeRequest (/app/node_modules/.pnpm/openai@4.56.0/node_modules/openai/core.js:304:19)

2024-10-13 18:47:48 at process.processTicksAndRejections (node:internal/process/task_queues:95:5)

2024-10-13 18:47:48 at async OpenAIClient.chatStream (/app/dist/index.cjs:1253:20) {

2024-10-13 18:47:48 status: undefined,

2024-10-13 18:47:48 headers: undefined,

2024-10-13 18:47:48 request_id: undefined,

2024-10-13 18:47:48 error: undefined,

2024-10-13 18:47:48 code: undefined,

2024-10-13 18:47:48 param: undefined,

2024-10-13 18:47:48 type: undefined,

2024-10-13 18:47:48 cause: FetchError: request to http://192.168.2.101:11435/chat/completions failed, reason: connect ECONNREFUSED 192.168.2.101:11435

2024-10-13 18:47:48 at ClientRequest.<anonymous> (/app/node_modules/.pnpm/node-fetch@2.7.0/node_modules/node-fetch/lib/index.js:1501:11)

2024-10-13 18:47:48 at ClientRequest.emit (node:events:519:28)

2024-10-13 18:47:48 at Socket.socketErrorListener (node:_http_client:500:9)

2024-10-13 18:47:48 at Socket.emit (node:events:519:28)

2024-10-13 18:47:48 at emitErrorNT (node:internal/streams/destroy:169:8)

2024-10-13 18:47:48 at emitErrorCloseNT (node:internal/streams/destroy:128:3)

2024-10-13 18:47:48 at process.processTicksAndRejections (node:internal/process/task_queues:82:21) {

2024-10-13 18:47:48 type: 'system',

2024-10-13 18:47:48 errno: 'ECONNREFUSED',

2024-10-13 18:47:48 code: 'ECONNREFUSED'

2024-10-13 18:47:48 }

2024-10-13 18:47:48 }

2024-10-13 18:47:48 2024/10/13 10:47:48 Speaker 🔊 啊哦,出错了,请稍后再试吧!

相关推荐
iceland99 分钟前
kubeadm方式部署k8s集群
云原生·容器·kubernetes
木易双人青6 小时前
01-Docker-简介、安装与使用
运维·docker·容器
专注API从业者7 小时前
Python + 淘宝 API 开发:自动化采集商品数据的完整流程
大数据·运维·前端·数据挖掘·自动化
Lovyk9 小时前
Linux 正则表达式
linux·运维
ac.char10 小时前
在CentOS系统中查询已删除但仍占用磁盘空间的文件
linux·运维·centos
罗不俷11 小时前
【RH134知识点问答题】第13章:运行容器
容器·rhel
中科米堆12 小时前
中科米堆CASAIM自动化三维测量设备测量汽车壳体直径尺寸
运维·自动化·汽车·视觉检测
缘华工业智维12 小时前
CNN 在故障诊断中的应用:原理、案例与优势
大数据·运维·cnn
开航母的李大14 小时前
软件系统运维常见问题
运维·服务器·系统架构·运维开发
AI大模型14 小时前
基于 Docker 的 LLaMA-Factory 全流程部署指南
docker·llm·llama