ubuntu中ollama设置记录

自己同一台电脑主机安装3080和3090显卡,测试发现ollama只默认跑在3090上;故查看一下设置,成功也把3080也运行起来了。

原因如下:

开始设置记录:

复制代码
Environment Variables:
OLLAMA_DEBUG
作用:显示额外的调试信息。
示例:export OLLAMA_DEBUG=1

OLLAMA_HOST
作用:指定 ollama 服务器的 IP 地址和端口(默认为 127.0.0.1:11434)。
示例:export OLLAMA_HOST=0.0.0.0:8080

OLLAMA_KEEP_ALIVE
作用:设置模型在内存中保持加载的时间(默认为 5m)。
示例:export OLLAMA_KEEP_ALIVE="10m"

OLLAMA_MAX_LOADED_MODELS
作用:指定每个 GPU 上可以同时加载的最大模型数。

OLLAMA_MAX_QUEUE
作用:设置允许排队的最大请求数量。

OLLAMA_MODELS
作用:指定存储模型的目录路径。

OLLAMA_NUM_PARALLEL
作用:设置允许同时处理的最大并行请求数量。

OLLAMA_NOPRUNE
作用:禁用启动时清理模型 blob 文件的功能。

OLLAMA_ORIGINS
作用:指定允许的跨域请求来源(以逗号分隔)。
示例:export OLLAMA_ORIGINS="http://example.com,https://localhost"

OLLAMA_SCHED_SPREAD
作用:强制将模型均匀分配到所有 GPU 上。

OLLAMA_FLASH_ATTENTION
作用:启用 Flash Attention(加速注意力机制)。

OLLAMA_KV_CACHE_TYPE
作用:设置 K/ V 缓存的量化类型(默认为 f16)。
示例:export OLLAMA_KV_CACHE_TYPE="q4_0"

OLLAMA_LLM_LIBRARY
作用:指定 LLM 库以绕过自动检测。

OLLAMA_GPU_OVERHEAD
作用:为每个 GPU 预留一部分 VRAM(以字节为单位)。

OLLAMA_LOAD_TIMEOUT
作用:设置模型加载的最大等待时间(默认为 5m)。
示例:export OLLAMA_LOAD_TIMEOUT="10m"

自己按照自己需求设置

复制代码
(phi) root@cl-System-Product-Name:/home/cl/桌面/临床数据# cat /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_NUM_PARALLEL=4"
Environment="OLLAMA_MAX_LOADED_MODELS=2"
Environment="CUDA_VISIBLE_DEVICES=0,1"
Environment="OLLAMA_SCHED_SPREAD=true"
DeviceAllow=gpu/*
[Install]
WantedBy=default.target

systemctl daemon-reload

systemctl restart ollama.service

确保ollama服务正常运行

systemctl status ollama.service

相关推荐
ZLRRLZ几秒前
【Linux操作系统】进程概念
linux·运维·服务器
带土12 小时前
3. Ubuntu 14.04更换阿里云源,设置系统字体
linux·ubuntu
XUE-52113142 小时前
BGP实验-路由优选
linux·服务器·网络·网络协议
java_logo2 小时前
2025 最新 Docker 镜像源加速列表与使用指南(10月更新)
运维·docker·容器
蛐蛐蛐2 小时前
Win11上VS Code免输密码连接Ubuntu的正确设置方法
linux·运维·ubuntu
YongCheng_Liang2 小时前
锐捷无线控制器基础配置
运维·网络
荣光波比3 小时前
Ansible(三)—— 使用Ansible自动化部署LNMP环境实战指南
运维·自动化·云计算·ansible
七七七七073 小时前
【Linux 系统】理解Linux下一切皆文件
linux·运维·服务器
tjsoft3 小时前
专栏丨华为HN8145XR光猫获取超级管理员密码
运维·服务器·网络
James.TCG4 小时前
Avalonia桌面应用发布到Ubuntu22.04
linux·ubuntu·avalonia