windows安装使用Ollama

简介

Ollama是时下最容易部署本地大模型的工具了,可以把Ollama比做成docker,用户管理容器,而它是管理大模型

下载安装

点击访问https://ollama.com/download,下载windows版本,下载好后,不要直接点击安装,默认路径是在c盘,占空间,需要自定义安装,将exe文件复制到自定义路径。

打开终端输入

复制代码
.\OllamaSetup.exe /DIR=D:\Ollama


配置model环境变量

打开C:\Users\用户名.ollama目录,复制models目录到自定义安装的目录里,然后删除掉

新建环境变量OLLAMA_MODELS=D:\Ollama\models

环境变量Path里配置Ollama安装路径D:\Ollama

验证

重启Ollama,打开终端输入ollama list,查看大模型资源包是否正常展示。ollama默认安装端口是11434

安装大模型

安装qwen3:4b试试水,终端里输入ollama run qwen3:4b

打开自定义的models文件夹里的blobs,里面就是安装下载的大模型

模型安装成功

相关推荐
曲幽15 小时前
我用FastAPI接ollama大模型,差点被asyncio整崩溃(附对话窗口实战)
python·fastapi·web·async·httpx·asyncio·ollama
曲幽2 天前
FastAPI + Ollama 实战:搭一个能查天气的AI助手
python·ai·lora·torch·fastapi·web·model·ollama·weatherapi
bwz999@88.com6 天前
CentOS 7安装ollama
linux·centos·ollama
bwz999@88.com6 天前
CentOS 7 docker安装ollama、open-webui
ollama
@SmartSi7 天前
Ollama 实战:从零开始本地运行大语言开源模型
llm·ollama
风笑谷8 天前
openclaw+ollama+企业微信 实操记录
企业微信·ollama·openclaw
CrazyStoneZw12 天前
openclaw配置ollama本地模型
本地化·ollama·openclaw
love530love13 天前
【OpenClaw 本地实战 Ep.2】零代码对接:使用交互式向导快速连接本地 LM Studio 用 CUDA GPU 推理
人工智能·windows·gpu·cuda·ollama·lm studio·openclaw
yyoc9716 天前
Mac基于LLaMA Factory微调模型导入Ollama踩坑记录
大模型·微调·llama·ollama
山塘小鱼儿16 天前
本地Ollama+Agent+LangGraph+LangSmith运行
python·langchain·ollama·langgraph·langsimth