LLM大模型工具-Ollama简介与安装

1. Ollama是什么

Ollama是一个开源的本地化大型语言模型（LLM）运行框架，旨在简化开源大模型在个人电脑或服务器上的部署与管理。其核心设计理念是让用户无需依赖云端服务，仅需简单操作即可在本地运行各类开源模型（如 Llama、Mistral、Gemma 等），同时保障数据隐私和离线可用性。

Ollama是使用大型语言模型快速上手的最简单方式。添加链接描述

2.下载

官网下载添加链接描述

强烈建议安装在非C盘

3.安装

OllamaSetup.exe /DIR=自定义安装目录

之后点击Install

4.配置环境变量

在安装目录中创建大模型存储目录

配置大模型存储目录环境变量

5.处理models

默认在C:\Users\admin.ollama,将此目录下的models目录完整复制到你的安装目录中进行替换

替换完成后删除C盘中的models

6.验证

ollama --version