ollama安装(ubuntu20.04)

Ollama是一款开源的自然语言处理工具,它可以帮助开发者快速构建文本处理应用。

ollama官网: https://ollama.ai/

一、ollama 自动安装

linux统一采用sh脚本安装,一个命令行搞定。

bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh

二、ollama 手动安装

ollama自动安装是通过github拉取下载包(现在安装包已经1G以上),在国内经常下载失败,这里我教大家如何手动安装。

1.转到ollama的github仓库下载包

迅雷加速下载,这里用的PJ版本的,下载速度可以到3.5MB/s。

2.上传安装包到linux服务器

用mobaxterm或者支持sftp的工具上传到linux服务器,如/root/ollama-linux-amd64.tgz

进入目录

bash 复制代码
cd /root

执行解压命令安装ollama

bash 复制代码
tar -zxf ollama-linux-amd64.tgz -C /usr/local

3.配置

编辑命令行

bash 复制代码
vim /root/.bashrc

配置ollama主机IP地址:

bash 复制代码
export OLLAMA_HOST=http://[服务器的IP地址]:11434

4.随机启动

  • 创建开机脚本
bash 复制代码
 cat <<EOF | $SUDO tee /etc/systemd/system/ollama.service >/dev/null
[Unit]
 Description=Ollama Service
 After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
 Restart=always
 RestartSec=3
 Environment="PATH=$PATH"
  • 设置开机启动
bash 复制代码
systemctl enable ollama
  • 配置启动环境变量
bash 复制代码
systemctl set-environment OLLAMA_HOST=http://[服务器的IP地址]:11434
  • 启动服务
bash 复制代码
systemctl start ollama

5.检查是否安装成功

  • 查看版本号
bash 复制代码
ollama -v
  • 查看帮助
bash 复制代码
ollama --help
相关推荐
ariesjzj3 小时前
图说GPT网络结构(参数量与计算量估计)
gpt·llm·flops·参数量·计算量
Linux猿7 小时前
828华为云征文 | 云服务器Flexus X实例:one-api 部署,支持众多大模型
服务器·大模型·llm·华为云·flexus云服务器x实例·华为云服务器·one-api
知来者逆8 小时前
ChemChat——大语言模型与化学的未来,以及整合外部工具和聊天机器人的潜力
人工智能·gpt·语言模型·自然语言处理·机器人·llm·大语言模型
AI领航者8 小时前
大型语言模型的结构性幻觉:不可避免的局限性
人工智能·语言模型·自然语言处理·llm·大语言模型·ai大模型·大模型幻觉
洛阳泰山13 小时前
Llamaindex 使用过程中的常见问题 (FAQ)
java·服务器·数据库·python·llm·rag·llamaindex
AI小白龙*1 天前
大模型团队招人(校招):阿里巴巴智能信息,2025届春招来了!
人工智能·langchain·大模型·llm·transformer
大耳朵爱学习1 天前
掌握Transformer之注意力为什么有效
人工智能·深度学习·自然语言处理·大模型·llm·transformer·大语言模型
洛阳泰山1 天前
如何使用Chainlit让所有网站快速嵌入一个AI聊天助手Copilot
人工智能·ai·llm·copilot·网站·chainlit·copliot
数据智能老司机2 天前
从零开始构建大型语言模型——微调用于分类
深度学习·神经网络·llm