ubuntu 安装配置 ollama ,添加open-webui

ubuntu 安装配置 ollama

下载安装 https://ollama.com/download

安装方法 1 命令行下载安装
bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh
安装方法 2 , 手动下载安装

1 手动下载 https://ollama.com/install.sh 这个文件

2 注释掉下载部分 curl xxxx 手动下载ollama-linux-{ARCH}

bash 复制代码
status "Downloading ollama..."
#curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama "https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}"

我电脑intel/amd cpu 所以 {ARCH} = amd64

浏览器下载 https://ollama.com/download/ollama-linux-amd64

放在 install.sh 同目录下

3 注释掉 #$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama

改为下面一行:

bash 复制代码
status "Installing ollama to $BINDIR..."
$SUDO install -o0 -g0 -m755 -d $BINDIR
#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
$SUDO install -o0 -g0 -m755 ./ollama-linux-amd64  $BINDIR/ollama

4 运行 install.sh ,安装

bash 复制代码
./install.sh 

需要sudo 权限, 安装完毕

配置模型下载路径

bash 复制代码
gedit .bashrc

然后添加一行 配置 OLLAMA_MODELS 环境变量自定义路径

bash 复制代码
### ollama model dir 改为自己的路径
export OLLAMA_MODELS=/path/ollama_cache

如果开始没配置OLLAMA_MODELS ,默认路径是

bash 复制代码
/usr/share/ollama/.ollama/models 

如果修改了OLLAMA_MODELS环境变量,把之前下载的 OLLAMA_MODELS 目录变量下的两个目录

bash 复制代码
blobs  manifests

复制到新的OLLAMA_MODELS目录变量下 ,即可

运行

1 启动 ollama 服务
bash 复制代码
ollama serve
2 运行大模型

ollama run <模型名称>

运行 千问 大模型

复制代码
ollama run  qwen

模型下载到刚才的OLLAMA_MODELS 环境变量下

其它

关闭 ollama 服务
bash 复制代码
 service ollama stop
配置文件,按需修改
复制代码
sudo gedit /etc/systemd/system/ollama.service
查看模型文件信息路径

ollama show <模型> --modelfile

bash 复制代码
ollama show qwen --modelfile

添加open-webui

参考 官方文档 https://docs.openwebui.com/getting-started/

以下容器 运行之后,需要等一会,再访问 http://127.0.0.1:8080/

注册 open-webui 账号然后用账号登录,效果如下:

方法1,docker 拉取现有的镜像,创建容器运行

OLLAMA_BASE_URL 指定 ollama 服务地址 ,可以是本地也可以是远端

bash 复制代码
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
方法2,open-webui源码构建docker镜像

下载open-webui 源码
https://github.com/open-webui/open-webui

编译运行open-webui 的 Docker 镜像

bash 复制代码
./run-compose.sh --enable-gpu --build
相关推荐
ai产品老杨7 小时前
打通各大芯片厂商相互间的壁垒,省去繁琐重复的适配流程的智慧工业开源了
人工智能·开源·音视频·能源
小陈phd8 小时前
高级RAG策略学习(五)——llama_index实现上下文窗口增强检索RAG
人工智能
凯禾瑞华养老实训室9 小时前
人才教育导向下:老年生活照护实训室助力提升学生老年照护服务能力
人工智能
湫兮之风10 小时前
Opencv: cv::LUT()深入解析图像块快速查表变换
人工智能·opencv·计算机视觉
Christo311 小时前
TFS-2018《On the convergence of the sparse possibilistic c-means algorithm》
人工智能·算法·机器学习·数据挖掘
qq_5088234011 小时前
金融量化指标--2Alpha 阿尔法
大数据·人工智能
黑金IT11 小时前
`.cursorrules` 与 `.cursorcontext`:Cursor AI 编程助手时代下的“双轨配置”指南
人工智能
dlraba80212 小时前
基于 OpenCV 的信用卡数字识别:从原理到实现
人工智能·opencv·计算机视觉
IMER SIMPLE12 小时前
人工智能-python-深度学习-经典神经网络AlexNet
人工智能·python·深度学习
抠脚学代码12 小时前
Ubuntu Qt x64平台搭建 arm64 编译套件
数据库·qt·ubuntu