Windows docker 部署MiGPT+ 本地Ollama

  1. 下载 MiGPT

https://github.com/idootop/mi-gpt

https://github.com/idootop/mi-gpt/releases/tag/v4.2.0

  1. 运行 Ollama qwen模型

3.配置Mi GPT

.env

.migpt.js

运行docker

运行 需要上网

复制代码
docker run -d --env-file D:/LLM/mi-gpt-4.2.0/.env -v D:/LLM/mi-gpt-4.2.0/.migpt.js:/app/.migpt.js idootop/mi-gpt:latest

运行需要小米账号授权

报错 可能接口不一致导致

2024-10-13 18:47:07

2024-10-13 18:47:19 2024/10/13 10:47:19 Speaker ✅ 服务已启动...

2024-10-13 18:47:32 2024/10/13 10:47:32 Speaker 🔥 请写一个十个字的小作文

2024-10-13 18:47:34 2024/10/13 10:47:34 Speaker 🔊 让我先想想

2024-10-13 18:47:48 2024/10/13 10:47:48 Open AI ❌ LLM 响应异常 APIConnectionError: Connection error.

2024-10-13 18:47:48 at OpenAI.makeRequest (/app/node_modules/.pnpm/openai@4.56.0/node_modules/openai/core.js:304:19)

2024-10-13 18:47:48 at process.processTicksAndRejections (node:internal/process/task_queues:95:5)

2024-10-13 18:47:48 at async OpenAIClient.chatStream (/app/dist/index.cjs:1253:20) {

2024-10-13 18:47:48 status: undefined,

2024-10-13 18:47:48 headers: undefined,

2024-10-13 18:47:48 request_id: undefined,

2024-10-13 18:47:48 error: undefined,

2024-10-13 18:47:48 code: undefined,

2024-10-13 18:47:48 param: undefined,

2024-10-13 18:47:48 type: undefined,

2024-10-13 18:47:48 cause: FetchError: request to http://192.168.2.101:11435/chat/completions failed, reason: connect ECONNREFUSED 192.168.2.101:11435

2024-10-13 18:47:48 at ClientRequest.<anonymous> (/app/node_modules/.pnpm/node-fetch@2.7.0/node_modules/node-fetch/lib/index.js:1501:11)

2024-10-13 18:47:48 at ClientRequest.emit (node:events:519:28)

2024-10-13 18:47:48 at Socket.socketErrorListener (node:_http_client:500:9)

2024-10-13 18:47:48 at Socket.emit (node:events:519:28)

2024-10-13 18:47:48 at emitErrorNT (node:internal/streams/destroy:169:8)

2024-10-13 18:47:48 at emitErrorCloseNT (node:internal/streams/destroy:128:3)

2024-10-13 18:47:48 at process.processTicksAndRejections (node:internal/process/task_queues:82:21) {

2024-10-13 18:47:48 type: 'system',

2024-10-13 18:47:48 errno: 'ECONNREFUSED',

2024-10-13 18:47:48 code: 'ECONNREFUSED'

2024-10-13 18:47:48 }

2024-10-13 18:47:48 }

2024-10-13 18:47:48 2024/10/13 10:47:48 Speaker 🔊 啊哦,出错了,请稍后再试吧!

相关推荐
abigriver6 小时前
打造 Linux 离线大模型级语音输入法:Whisper.cpp + 3090 显卡加速与 Rime 中英混输终极调优指南
linux·运维·whisper
charlie1145141917 小时前
嵌入式Linux驱动开发pinctrl篇(1)——从寄存器到子系统:驱动演进之路
linux·运维·驱动开发
Agent手记7 小时前
异常考勤智能预警与处理与流程优化方案 | 基于企业级Agent的超自动化实战教程
运维·人工智能·ai·自动化
cen__y8 小时前
Linux12(Git01)
linux·运维·服务器·c语言·开发语言·git
dapeng-大鹏10 小时前
KVM+LVM 零停机在线扩容 Ubuntu 根分区:从磁盘添加到逻辑卷扩展完整
linux·运维·ubuntu·磁盘空间扩展
乐维_lwops10 小时前
案例解读|运维监控助力某大型卷烟厂构建高效运维监控体系
运维·运维案例
JiaWen技术圈10 小时前
网站用户注册行为验证码方案
运维·安全
仙柒41510 小时前
Docker存储原理
运维·docker·容器
DolphinDB10 小时前
漫长人工,耗费存储?用 BackupRestore 模块一站式解决跨环境数据同步难题
运维·后端·架构
神奇椰子13 小时前
[特殊字符] 服务器搭建网站完整教程
运维·服务器