windows安装使用Ollama

简介

Ollama是时下最容易部署本地大模型的工具了,可以把Ollama比做成docker,用户管理容器,而它是管理大模型

下载安装

点击访问https://ollama.com/download,下载windows版本,下载好后,不要直接点击安装,默认路径是在c盘,占空间,需要自定义安装,将exe文件复制到自定义路径。

打开终端输入

复制代码
.\OllamaSetup.exe /DIR=D:\Ollama


配置model环境变量

打开C:\Users\用户名.ollama目录,复制models目录到自定义安装的目录里,然后删除掉

新建环境变量OLLAMA_MODELS=D:\Ollama\models

环境变量Path里配置Ollama安装路径D:\Ollama

验证

重启Ollama,打开终端输入ollama list,查看大模型资源包是否正常展示。ollama默认安装端口是11434

安装大模型

安装qwen3:4b试试水,终端里输入ollama run qwen3:4b

打开自定义的models文件夹里的blobs,里面就是安装下载的大模型

模型安装成功

相关推荐
武雄(小星Ai)1 天前
Ollama报llama-server binary not found排坑实录:服务活着引擎没了
人工智能·windows·大模型·ollama·排坑
goehou2 天前
Ollama 的流式接口不是 SSE,客户端要改三处
sse·ollama·流式输出·客户端开发
n112128 天前
Ollama 接 Open WebUI 中文界面:我踩的 4 个坑
云原生·eureka·ollama·本地大模型·open webui·私有部署·中文界面
一枕槐安4879 天前
开源大模型 Llama3 本地部署全过程,Ollama 上手
开源·本地部署·大模型推理·ollama·llama3·modelfile
死磕音视频11 天前
Open WebUI 入门:用 Docker 装上本地对话界面并连接 Ollama
docker·ollama·本地大模型·open webui
xzlAwin13 天前
Win10 安装 Ollama 本地AI
ai·ollama
还卿一钵无情泪15 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比
深度学习·大模型·llama·ollama
读完一本书15 天前
Ollama 跑得慢?我试了 6 个参数,只有 3 个真有用
人工智能·ollama
Flynn Liang15 天前
保姆级|Spring AI 2.0 第一个 Demo:Spring Boot 4 接入大模型(含国内可用方案 + 完整 pom)
人工智能·spring·ollama·springai·deepseek·springai入门·java接入大模型
孙琦Ray15 天前
黑客用一首诗控制3400台服务器挖矿
github·开源安全·ollama·litellm·僵尸网络·加密货币挖矿