LLM大模型工具-Ollama简介与安装

1. Ollama是什么

Ollama是一个开源的本地化大型语言模型(LLM)运行框架,旨在简化开源大模型在个人电脑或服务器上的部署与管理。其核心设计理念是让用户无需依赖云端服务,仅需简单操作即可在本地运行各类开源模型(如 Llama、Mistral、Gemma 等),同时保障数据隐私和离线可用性。

Ollama是使用大型语言模型快速上手的最简单方式。添加链接描述

2.下载

官网下载添加链接描述

强烈建议安装在非C盘

3.安装

bash 复制代码
OllamaSetup.exe /DIR=自定义安装目录

之后点击Install

4.配置环境变量

在安装目录中创建大模型存储目录

配置大模型存储目录环境变量

5.处理models

默认在C:\Users\admin.ollama,将此目录下的models目录完整复制到你的安装目录中进行替换

替换完成后删除C盘中的models

6.验证

bash 复制代码
ollama --version
相关推荐
leikooo4 分钟前
Skills 实战:Unsplash → COS 自动化配图
运维·ai·自动化
企业架构师老王14 分钟前
注册审批申报材料自动校验:如何利用实在Agent构建非侵入式架构并降低数据误报率?
大数据·人工智能·ai·架构
陌殇殇23 分钟前
004 Spring AI Alibaba框架整合百炼大模型平台 — MCP服务
java·spring·ai
零安道长27 分钟前
Claude Code GitHub Actions 使用指南
ai
衣乌安、1 小时前
Agent之ReAct
前端·ai
霁月的小屋2 小时前
不只是压缩:当模型蒸馏开始复制人格
前端·ai
Agent手记2 小时前
文献检索智能体:将人工5-8倍提效落地的技术关键是什么?——2026全链路落地实操与核心架构解析
人工智能·ai·架构
YJlio2 小时前
1 1.2 Windows 账户的分类:管理员 / 标准 / 来宾 + 微软账户 vs 本地账户
人工智能·python·microsoft·ai·chatgpt·openai·agent
Luhui Dev2 小时前
如何画圆的切线?几何作图技巧
人工智能·数学·ai
企业架构师老王2 小时前
药物警戒系统中,智能体录入不良反应如何从根源上规避人为误差?
人工智能·ai