【AI】——结合Ollama、Open WebUI和Docker本地部署可视化AI大语言模型

🎼个人主页：【Y小夜】

😎作者简介：一位双非学校的大三学生，编程爱好者，

专注于基础和实战分享，欢迎私信咨询！

🎆入门专栏：🎇【 MySQL，Javaweb，Rust，python】

🎈热门专栏：🎊【 Springboot，Redis，Springsecurity，Docker，AI】

++感谢您的点赞、关注、评论、收藏、是对我最大的认可和支持！❤️++

🎈本地部署模型

🎉安装Ollama

[🎉安装 Open WebUI](#🎉安装 Open WebUI)

🎊安装Docker

[🥞启动 Hyper-v](#🥞启动 Hyper-v)

[🥞 安装 WSL（适用于Linux的Windows的子系统）：](#🥞 安装 WSL（适用于Linux的Windows的子系统）：)

🥞安装Docker

[🎊Docker 部署 Open WebUI](#🎊Docker 部署 Open WebUI)

🎈本地部署模型

🎉安装Ollama

官网：Ollama

然后进行一下下载

安装完成之后是没有提示的，然后我们需要去测试一下。（这里我是以QWen为例子，大家可以尝试其他的模型）

打开一个终端，然后输入一个命令，进行测试

复制代码

ollama run qwen

现在是正在进行下载，默认是保存在（C 盘，C:\Users<username>.ollama\models 如果想更改默认路径，可以通过设置OLLAMA_MODELS进行修改，然后重启终端，重启 ollama 服务。或者在环境变量中修改OLLAMA_MODELS的位置）

复制代码

setx OLLAMA_MODELS "D:"

下载完成后，可以进行测试：

查看都安装了什么模型

复制代码

ollma list命令显示所有安装模型

ollama rm 模型名称 删除指定模型

但这个现在就只可以在终端中使用，那么我问现在就搞一个web页面进行交互，增加体验。

🎉安装 Open WebUI

🎊安装Docker

如果你本地已经有了Docker了，那就可以直接看下面的内容。

🥞启动 Hyper-v

但是如果你这里没有Hyper-V，那么恭喜你，博主也没有，博主已经踩过这个坑了。

我们首先在桌面上建立一个文件，命名为Hyper.cmd，然后填入内容

复制代码

pushd "%~dp0"
dir /b %SystemRoot%\servicing\Packages\*Hyper-V*.mum >hyper-v.txt
for /f %%i in ('findstr /i . hyper-v.txt 2^>nul') do dism /online /norestart /add-package:"%SystemRoot%\servicing\Packages\%%i"
del hyper-v.txt
Dism /online /enable-feature /featurename:Microsoft-Hyper-V-All /LimitAccess /ALL

然后使用管理员身份运行这个文件，运行完毕后，重启电脑，再打开，就可以找到Hyper-V了。