ollama安装(ubuntu20.04)

Ollama是一款开源的自然语言处理工具,它可以帮助开发者快速构建文本处理应用。

ollama官网: https://ollama.ai/

一、ollama 自动安装

linux统一采用sh脚本安装,一个命令行搞定。

bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh

二、ollama 手动安装

ollama自动安装是通过github拉取下载包(现在安装包已经1G以上),在国内经常下载失败,这里我教大家如何手动安装。

1.转到ollama的github仓库下载包

迅雷加速下载,这里用的PJ版本的,下载速度可以到3.5MB/s。

2.上传安装包到linux服务器

用mobaxterm或者支持sftp的工具上传到linux服务器,如/root/ollama-linux-amd64.tgz

进入目录

bash 复制代码
cd /root

执行解压命令安装ollama

bash 复制代码
tar -zxf ollama-linux-amd64.tgz -C /usr/local

3.配置

编辑命令行

bash 复制代码
vim /root/.bashrc

配置ollama主机IP地址:

bash 复制代码
export OLLAMA_HOST=http://[服务器的IP地址]:11434

4.随机启动

  • 创建开机脚本
bash 复制代码
 cat <<EOF | $SUDO tee /etc/systemd/system/ollama.service >/dev/null
[Unit]
 Description=Ollama Service
 After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
 Restart=always
 RestartSec=3
 Environment="PATH=$PATH"
  • 设置开机启动
bash 复制代码
systemctl enable ollama
  • 配置启动环境变量
bash 复制代码
systemctl set-environment OLLAMA_HOST=http://[服务器的IP地址]:11434
  • 启动服务
bash 复制代码
systemctl start ollama

5.检查是否安装成功

  • 查看版本号
bash 复制代码
ollama -v
  • 查看帮助
bash 复制代码
ollama --help
相关推荐
我爱学Python!1 小时前
解决复杂查询难题:如何通过 Self-querying Prompting 提高 RAG 系统效率?
人工智能·程序人生·自然语言处理·大模型·llm·大语言模型·rag
任某某01161 天前
第四期书生大模型实战营 - 基础岛闯关作业3 - 浦语提示词工程实践
llm
知来者逆2 天前
DrugLLM——利用大规模语言模型通过 Few-Shot 生成生物制药小分子
人工智能·语言模型·自然语言处理·llm·大语言模型·生物制药
waiting不是违停2 天前
MetaGPT实现多动作Agent
langchain·llm
HuggingFace3 天前
通用辅助生成: 使用任意辅助模型加速解码
llm
用户3157476081353 天前
带你在前端上玩转机器学习,从零去构建,训练一个模型!!
前端·机器学习·llm
Seal软件3 天前
配置NVIDIA Container Runtime和容器运行GPUStack教程
docker·容器·大模型·llm·gpu集群
GPUStack3 天前
配置NVIDIA Container Runtime和容器运行GPUStack教程
docker·容器·大模型·llm·gpu集群
一 铭4 天前
llamaindex实战-Agent-在Agent中和数据库对话(本地部署)
人工智能·chatgpt·大模型·llm