linux部署olloma deespeek

创建下载目录

mkdir -p ~/ollama && cd ~/ollama

下载 Ollama 的最新版本(请根据实际情况替换链接)

wget https://github.com/ollama/ollama/releases/download/v0.1.12/ollama-linux-amd64.tar.gz

#由于下载速度太慢 我在本地电脑下载通过xftp传输到服务器然后解压的

解压文件

tar -xzf ollama-linux-amd64.tar.gz

移动二进制文件到系统路径(没有用到)

sudo mv ollama /usr/local/bin/

创建并编辑服务配置文件

sudo vim /etc/systemd/system/ollama.service

Unit

Description=Ollama Service

After=network-online.target

Service

ExecStart=/opt/ollama/bin/ollama serve

User=root

Group=root

Restart=always

RestartSec=3

Environment=PATH=$PATH

#解决ollama无法访问的问题

Environment=OLLAMA_HOST=0.0.0.0:11434

#指定配置文件路径

Environment=OLLAMA_CONFIG=/etc/ollama/config.yaml

Install

WantedBy=default.target

重新加载 systemd 配置

sudo systemctl daemon-reload

启动 Ollama 服务

sudo systemctl start ollama.service

设置服务开机自启

sudo systemctl enable ollama.service

检查服务状态

sudo systemctl status ollama.service

拉取 DeepSeek 模型

ollama pull deepseek

ollama run deepseek-r1:7b

使用 DeepSeek 模型进行推理

ollama run deepseek "你的问题"

停止服务

sudo systemctl stop ollama.service

重启服务

sudo systemctl restart ollama.service

查看服务日志

sudo journalctl -u ollama.service

相关推荐
拾忆-eleven15 分钟前
NLP学习路线图(二十二): 循环神经网络(RNN)
rnn·自然语言处理·nlp
拾忆-eleven2 天前
NLP学习路线图(二十五):注意力机制
自然语言处理·nlp
拾忆-eleven4 天前
NLP学习路线图(二十):FastText
人工智能·算法·机器学习·nlp
用户302407093524 天前
多跳问答数据难找?试试 HopWeaver:首个基于任意语料库的自动合成框架,质量直逼人工标注
nlp
Elastic开源社区5 天前
Java生态中的NLP框架
java·开发语言·自然语言处理·nlp
拾忆-eleven5 天前
NLP学习路线图(十四):词袋模型(Bag of Words)
人工智能·学习·自然语言处理·nlp
拾忆-eleven5 天前
NLP学习路线图(十五):TF-IDF(词频-逆文档频率)
人工智能·学习·自然语言处理·nlp
拾忆-eleven7 天前
NLP学习路线图(十三):正则表达式
自然语言处理·nlp
LChuck8 天前
【大模型微调】魔搭社区GPU进行LLaMA-Factory微调大模型自我认知
人工智能·语言模型·自然语言处理·nlp·llama·魔搭社区·modelscope
dudly9 天前
Text-to-SQL评估体系:从Spider 1.0数据集到2.0框架的跨越与革新
人工智能·sql·nlp·text2sql