Windows docker 部署MiGPT+ 本地Ollama

  1. 下载 MiGPT

https://github.com/idootop/mi-gpt

https://github.com/idootop/mi-gpt/releases/tag/v4.2.0

  1. 运行 Ollama qwen模型

3.配置Mi GPT

.env

.migpt.js

运行docker

运行 需要上网

复制代码
docker run -d --env-file D:/LLM/mi-gpt-4.2.0/.env -v D:/LLM/mi-gpt-4.2.0/.migpt.js:/app/.migpt.js idootop/mi-gpt:latest

运行需要小米账号授权

报错 可能接口不一致导致

2024-10-13 18:47:07

2024-10-13 18:47:19 2024/10/13 10:47:19 Speaker ✅ 服务已启动...

2024-10-13 18:47:32 2024/10/13 10:47:32 Speaker 🔥 请写一个十个字的小作文

2024-10-13 18:47:34 2024/10/13 10:47:34 Speaker 🔊 让我先想想

2024-10-13 18:47:48 2024/10/13 10:47:48 Open AI ❌ LLM 响应异常 APIConnectionError: Connection error.

2024-10-13 18:47:48 at OpenAI.makeRequest (/app/node_modules/.pnpm/openai@4.56.0/node_modules/openai/core.js:304:19)

2024-10-13 18:47:48 at process.processTicksAndRejections (node:internal/process/task_queues:95:5)

2024-10-13 18:47:48 at async OpenAIClient.chatStream (/app/dist/index.cjs:1253:20) {

2024-10-13 18:47:48 status: undefined,

2024-10-13 18:47:48 headers: undefined,

2024-10-13 18:47:48 request_id: undefined,

2024-10-13 18:47:48 error: undefined,

2024-10-13 18:47:48 code: undefined,

2024-10-13 18:47:48 param: undefined,

2024-10-13 18:47:48 type: undefined,

2024-10-13 18:47:48 cause: FetchError: request to http://192.168.2.101:11435/chat/completions failed, reason: connect ECONNREFUSED 192.168.2.101:11435

2024-10-13 18:47:48 at ClientRequest.<anonymous> (/app/node_modules/.pnpm/node-fetch@2.7.0/node_modules/node-fetch/lib/index.js:1501:11)

2024-10-13 18:47:48 at ClientRequest.emit (node:events:519:28)

2024-10-13 18:47:48 at Socket.socketErrorListener (node:_http_client:500:9)

2024-10-13 18:47:48 at Socket.emit (node:events:519:28)

2024-10-13 18:47:48 at emitErrorNT (node:internal/streams/destroy:169:8)

2024-10-13 18:47:48 at emitErrorCloseNT (node:internal/streams/destroy:128:3)

2024-10-13 18:47:48 at process.processTicksAndRejections (node:internal/process/task_queues:82:21) {

2024-10-13 18:47:48 type: 'system',

2024-10-13 18:47:48 errno: 'ECONNREFUSED',

2024-10-13 18:47:48 code: 'ECONNREFUSED'

2024-10-13 18:47:48 }

2024-10-13 18:47:48 }

2024-10-13 18:47:48 2024/10/13 10:47:48 Speaker 🔊 啊哦,出错了,请稍后再试吧!

相关推荐
Jtti11 小时前
新加坡服务器连接速度变慢应该做哪些检查
运维·服务器
huangjiazhi_12 小时前
在Linux上无法访问usb视频设备
linux·运维·服务器
xixingzhe212 小时前
jenkins脚本触发部署
运维·jenkins
TTGGGFF12 小时前
云端服务器使用指南:如何跨机传输较大文件(通过windows自带工具远程桌面连接 非常方便)
运维·服务器
躲在云朵里`13 小时前
ElasticSearch复习指南:从零搭建一个商品搜索案例
运维·jenkins
yyy00020013 小时前
压缩和归档 文件传输
linux·运维·服务器
STCNXPARM13 小时前
深度剖析Linux内核无线子系统架构
linux·运维·系统架构·wifi·无线子系统
烟雨书信14 小时前
LINUX中Docker Swarm的介绍和使用
java·linux·docker
有谁看见我的剑了?15 小时前
k8s-Sidecar容器学习
学习·容器·kubernetes
m0_6948455715 小时前
教你使用服务器如何搭建数据库
linux·运维·服务器·数据库·云计算