ubuntu 安装配置 ollama ,添加open-webui

ubuntu 安装配置 ollama

- - [下载安装 $https://ollama.com/download$ (https://ollama.com/download)](#下载安装 https://ollama.com/download)
  - - [安装方法 1 命令行下载安装](#安装方法 1 命令行下载安装)
    - [安装方法 2 , 手动下载安装](#安装方法 2 , 手动下载安装)
  - 配置模型下载路径
  - 运行
  - - [1 启动 ollama 服务](#1 启动 ollama 服务)
    - [2 运行大模型](#2 运行大模型)
  - 其它
  - - [关闭 ollama 服务](#关闭 ollama 服务)
    - 配置文件，按需修改
    - 查看模型文件信息路径
  - 添加open-webui
  - - [方法1，docker 拉取现有的镜像，创建容器运行](#方法1，docker 拉取现有的镜像，创建容器运行)
    - 方法2，open-webui源码构建docker镜像

下载安装 https://ollama.com/download

安装方法 1 命令行下载安装

bash 复制代码

curl -fsSL https://ollama.com/install.sh | sh

安装方法 2 , 手动下载安装

1 手动下载 https://ollama.com/install.sh 这个文件

2 注释掉下载部分 curl xxxx 手动下载ollama-linux-{ARCH}

bash 复制代码

status "Downloading ollama..."
#curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama "https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}"

我电脑intel/amd cpu 所以 {ARCH} = amd64

浏览器下载 https://ollama.com/download/ollama-linux-amd64

放在 install.sh 同目录下

3 注释掉 #$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama

改为下面一行：

bash 复制代码

status "Installing ollama to $BINDIR..."
$SUDO install -o0 -g0 -m755 -d $BINDIR
#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
$SUDO install -o0 -g0 -m755 ./ollama-linux-amd64  $BINDIR/ollama

4 运行 install.sh ,安装

bash 复制代码

./install.sh

需要sudo 权限, 安装完毕

配置模型下载路径

bash 复制代码

gedit .bashrc

然后添加一行配置 OLLAMA_MODELS 环境变量自定义路径

bash 复制代码

### ollama model dir 改为自己的路径
export OLLAMA_MODELS=/path/ollama_cache

如果开始没配置OLLAMA_MODELS ，默认路径是

bash 复制代码

/usr/share/ollama/.ollama/models

如果修改了OLLAMA_MODELS环境变量，把之前下载的 OLLAMA_MODELS 目录变量下的两个目录

bash 复制代码

blobs  manifests

复制到新的OLLAMA_MODELS目录变量下，即可

运行

1 启动 ollama 服务

bash 复制代码

ollama serve

2 运行大模型

ollama run <模型名称>

运行千问大模型

复制代码

ollama run  qwen

模型下载到刚才的OLLAMA_MODELS 环境变量下

其它

关闭 ollama 服务

bash 复制代码

 service ollama stop

配置文件，按需修改

复制代码

sudo gedit /etc/systemd/system/ollama.service

查看模型文件信息路径

ollama show <模型> --modelfile

bash 复制代码

ollama show qwen --modelfile

添加open-webui

参考官方文档 https://docs.openwebui.com/getting-started/

以下容器运行之后，需要等一会，再访问 http://127.0.0.1:8080/

方法1，docker 拉取现有的镜像，创建容器运行

OLLAMA_BASE_URL 指定 ollama 服务地址，可以是本地也可以是远端

bash 复制代码

docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

方法2，open-webui源码构建docker镜像

下载open-webui 源码
https://github.com/open-webui/open-webui

编译运行open-webui 的 Docker 镜像

bash 复制代码

./run-compose.sh --enable-gpu --build