windows安装使用Ollama

简介

Ollama是时下最容易部署本地大模型的工具了,可以把Ollama比做成docker,用户管理容器,而它是管理大模型

下载安装

点击访问https://ollama.com/download,下载windows版本,下载好后,不要直接点击安装,默认路径是在c盘,占空间,需要自定义安装,将exe文件复制到自定义路径。

打开终端输入

复制代码
.\OllamaSetup.exe /DIR=D:\Ollama


配置model环境变量

打开C:\Users\用户名.ollama目录,复制models目录到自定义安装的目录里,然后删除掉

新建环境变量OLLAMA_MODELS=D:\Ollama\models

环境变量Path里配置Ollama安装路径D:\Ollama

验证

重启Ollama,打开终端输入ollama list,查看大模型资源包是否正常展示。ollama默认安装端口是11434

安装大模型

安装qwen3:4b试试水,终端里输入ollama run qwen3:4b

打开自定义的models文件夹里的blobs,里面就是安装下载的大模型

模型安装成功

相关推荐
岛雨QA11 小时前
Claude Code接入本地大模型指南
ai编程·claude·ollama
csdn_aspnet3 天前
Copilot能换成本地吗?VSCode接本地大模型本地化接入方案
ide·vscode·ai·ollama
k4m7v2pz13 天前
16GB Mac 本地跑大模型:ollama 局域网 OpenAI 兼容 API 实战(一:需求与配置)
llm·openai·api·mac·ollama·本地·atomcode
元Y亨H14 天前
大模型技术 Ollama 概述
llm·ollama
liwulin050623 天前
【ollama】自定义结构化输出
linux·前端·数据库·ollama
做个文艺程序员23 天前
Linux第27篇:在Linux服务器部署本地大模型:Ollama+开源LLM实战
linux·服务器·开源·大模型·ollama
寒水馨23 天前
Windows下载、安装ollama-v0.32.1(附安装包OllamaSetup.exe)
windows·llm·大语言模型·llama·本地部署·ollama·模型运行
gerrywhu23 天前
【产品研发】基于本地OCR大模型文书自动生成软件开发
ollama·本地部署大模型·离线部署·ocr大模型·paddleocr-vl·glm-ocr·文档自动生成
skywalk816324 天前
用ollama启动duan-translator 小模型
服务器·ollama·段言
行者-全栈开发1 个月前
【码动四季】Spring AI + RAG 电商知识库:AtomCode 如何让 Embedding 对齐从 3 天缩短到 4 小时
embedding·向量检索·ollama·spring ai·pgvector·atomcode·rag电商知识库