ollama 在 Linux 环境的安装

ollama 在 Linux 环境的安装

介绍

他的存在在我看来跟 docker 的很是相似,他把市面上已经存在的大语言模型集合在一个仓库中,然后通过 ollama 的方式来管理这些大语言模型

下载

bash 复制代码
# 可以直接通过 http 的方式吧对应的 shell 脚本下载下来,然后执行即可
curl -fsSL https://ollama.com/install.sh | sh

配置为 Linux 的服务

把他配置一个服务的时候我们可以很方便的管理,并且允许他在后台运行,也可以允许他可以跟我们的系统一起启动

bash 复制代码
# /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/l/ollama/bin/ollama serve
Restart=always

[Install]
WantedBy=default.target

启动

上面我们配置以后就可以直接使用 systemctl 来启动了 systemctl start ollama.service 启动成功以后,就可以使用 ollama 来管理了。

使用 ollama

他的使用也是和 docker 十分的类似,如果有 docker 的使用经验,那么如果上手使用 ollama 简直十分容易

下载一个模型
bash 复制代码
ollama run granite3-moe:1b
启动一个模型
bash 复制代码
ollama run granite3-moe:1b

启动成功以后就可以直接进去其中了,并且我们可以见到问他一些问题他可以回复我们。

删除一个模型
bash 复制代码
ollama rm qwen2.5:0.5b
查询我们安装的所有模型
bash 复制代码
ollama list
相关推荐
阿里云大数据AI技术9 分钟前
EMR Serverless StarRocks 产品介绍:从统一 OLAP 走向多模态分析与检索
人工智能
戊本菌34 分钟前
进程(三)进程优先级:谁先上 CPU
linux·c语言·硬件架构
Forget the Dream1 小时前
Spring AI 2.0 系列(二):第一个 ChatClient——从注入到一次完整调用
java·人工智能·spring boot·ai·springai
aningx1 小时前
Arch 系用 greetd 实现开机自动进 Plasma Wayland,注销自动回桌面
linux
郝学胜-神的一滴2 小时前
Effective Python 条款35:用类封装替代生成器异常注入
开发语言·人工智能·python·金融·pandas·scikit-learn·matplotlib
火山引擎开发者社区2 小时前
豆包工作,3 个月,800 万,20 亿
人工智能
Chuck.li2 小时前
AI 长篇创作工具选型:工作流对照与自测清单
人工智能·大模型·ai写作·网文作者·ai网文·豆包写作
张小姐的猫2 小时前
【基于 WebSocket 的多用户网页五子棋】—— 整合封装服务器模块设计实现2️⃣
服务器·websocket·网络协议
aleimu2 小时前
Windows 11 右键打开 Cmder 2.0:从找不到菜单到默认使用 Cmder
前端·人工智能·后端
江无行者2 小时前
Linux 服务器 top 命令详解
linux