ollama日常使用

日常使用

sh 复制代码
# 安装ollama
curl -fsSL https://ollama.com/install.sh | sh

# 清除模型
ollama list | awk 'NR>1 {print $1}' | xargs -I {} ollama rm {}

# 关闭ollama服务
sudo systemctl stop ollama
sudo systemctl disable ollama.service

# 重启ollama:
sudo systemctl restart ollama.service
# 查看状态:
sudo systemctl status ollama

ollama list

ollama run qwen3-coder:30b

更换路径

  1. 在运行ollama的终端按ctrl+c,停止服务

  2. 默认下的路径:

sh 复制代码
Linux: /usr/share/ollama/.ollama/models
  1. 更改的路径设置root权限

    export new_models_path=/home/yisheng/Documents/ollama/models
    sudo chown -R root:root new_models_path sudo chmod -R 775 new_models_path

new_models_path 是要更改的模型路径

  1. 更改service文件
sh 复制代码
sudo vim /etc/systemd/system/ollama.service
  • 在原来的[Service] Environment后加一行新的Environment

  • 这里注意User和Group都要设成root

    [Unit]
    Description=Ollama Service
    After=network-online.target

    [Service]
    ExecStart=/usr/local/bin/ollama serve
    User=root
    Group=root
    Restart=always
    RestartSec=3
    Environment="PATH=/home/asus/anaconda3/bin:/home/asus/anaconda3/condabin:/home/asus/.local/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin:/snap/bin"
    Environment="OLLAMA_MODELS=/home/yisheng/Documents/ollama/models"

  1. 重载配置并重启ollama
sh 复制代码
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

参考

  1. https://blog.csdn.net/sahye_plinnae/article/details/140207010
相关推荐
bruce_哈哈哈3 小时前
Claude Code--Feishu-Skill-demo
ai
User_芊芊君子3 小时前
HCCL高性能通信库编程指南:构建多卡并行训练系统
人工智能·游戏·ai·agent·测评
慢半拍iii4 小时前
对比源码解读:ops-nn中卷积算子的硬件加速实现原理
人工智能·深度学习·ai·cann
慢半拍iii4 小时前
CANN算子开发实战:手把手教你基于ops-nn仓库编写Broadcast广播算子
人工智能·计算机网络·ai
User_芊芊君子4 小时前
CANN数学计算基石ops-math深度解析:高性能科学计算与AI模型加速的核心引擎
人工智能·深度学习·神经网络·ai
程序员泠零澪回家种桔子5 小时前
Spring AI框架全方位详解
java·人工智能·后端·spring·ai·架构
深鱼~5 小时前
数学计算加速利器:ops-math在昇腾平台的应用详解
ai·开源·cann
kjkdd5 小时前
6.1 核心组件(Agent)
python·ai·语言模型·langchain·ai编程
慢半拍iii8 小时前
从零搭建CNN:如何高效调用ops-nn算子库
人工智能·神经网络·ai·cnn·cann
空白诗9 小时前
CANN ops-nn 算子解读:AIGC 风格迁移中的 BatchNorm 与 InstanceNorm 实现
人工智能·ai