LLM大模型工具-Ollama简介与安装

1. Ollama是什么

Ollama是一个开源的本地化大型语言模型(LLM)运行框架,旨在简化开源大模型在个人电脑或服务器上的部署与管理。其核心设计理念是让用户无需依赖云端服务,仅需简单操作即可在本地运行各类开源模型(如 Llama、Mistral、Gemma 等),同时保障数据隐私和离线可用性。

Ollama是使用大型语言模型快速上手的最简单方式。添加链接描述

2.下载

官网下载添加链接描述

强烈建议安装在非C盘

3.安装

bash 复制代码
OllamaSetup.exe /DIR=自定义安装目录

之后点击Install

4.配置环境变量

在安装目录中创建大模型存储目录

配置大模型存储目录环境变量

5.处理models

默认在C:\Users\admin.ollama,将此目录下的models目录完整复制到你的安装目录中进行替换

替换完成后删除C盘中的models

6.验证

bash 复制代码
ollama --version
相关推荐
武子康1 小时前
调查研究-138 全球机器人产业深度调研报告【01 篇】:市场规模、竞争格局与商业化成熟 2026
服务器·数据库·ai·chatgpt·机器人·具身智能
创世宇图1 小时前
【AI入门知识点】LLM 原理是什么?为什么 ChatGPT 看起来像“会思考”?
人工智能·ai·llm·token
码途漫谈1 小时前
让 AI 编程不断线:9Router 的本地模型路由与 Token 节流术
人工智能·ai·开源·ai编程
周杰伦的稻香2 小时前
Ollama访问限制
nginx·ai
Elastic 中国社区官方博客3 小时前
快 12 倍的 Elasticsearch 向量索引:使用 GPU 和 CPU 分层部署 NVIDIA cuVS
大数据·人工智能·elasticsearch·搜索引擎·ai·全文检索·nvidia
绝知此事3 小时前
2026 AI 技术生态全景指南:从 LLM 到 Agent,从 MCP 到 A2A
人工智能·ai·ai编程
Canicer4 小时前
【国内安装 Claude Code CLI版本纯净完整指南】
ai·agent·claude code
@蔓蔓喜欢你4 小时前
前端性能监控体系建设:从指标到优化
人工智能·ai
ZFSS4 小时前
Midjourney Shorten API 的集成与使用
java·前端·数据库·人工智能·ai·midjourney·ai编程
SEO_juper4 小时前
CDN 地域节点优化:匹配 GEO 信号,提升加载速度
服务器·ai·php·seo·cdn·geo·谷歌优化