Windows 部署 ollama

1.安装

官方地址:https://ollama.com/

1.1 下载ollama
1.2 安装
1.3 运行 Ollama
1.4 测试ollama运行状态

http://localhost:11434

curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

C:\Users\Administrator>curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

{"error":"model \"qwen2:0.5b\" not found, try pulling it first"}

1.5 拉取qwen2模型

查看可用模型列表

https://ollama.com/library

拉取qwen2

qwen2 的 0.5b1.5b、7b 和 72b 的模型大小分别是 352M、935M、4.4G 和 41G

ollama run qwen2:0.5b

查询当前下载的模型

1.6 测试模型
ollama run qwen2:0.5b
1.7 本机访问
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\"}"
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"
1.8 局域网访问

环境变量 配置 OLLAMA_HOST,0.0.0.0, 然后重启ollama

局域网访问

相关推荐
wanmei00242 分钟前
Dockerfile复制目录进入镜像里
docker
inter_peng44 分钟前
[Docker-显示所有容器IP] 显示docker-compose.yml中所有容器IP的方法
tcp/ip·docker·eureka
Linux运维日记1 小时前
k8s1.31版本最新版本集群使用容器镜像仓库Harbor
linux·docker·云原生·容器·kubernetes
一名路过的小码农3 小时前
ceph 18.2.4二次开发,docker镜像制作
ceph·docker·容器
xiangshangdemayi5 小时前
Windows环境GeoServer打包Docker极速入门
windows·docker·容器·geoserver·打包·数据挂载
程序员JerrySUN6 小时前
熟悉的 Docker,陌生的 Podman
linux·docker·容器·系统架构·podman
gobeyye7 小时前
Docker 用法详解
运维·docker·容器
小灰灰__7 小时前
Linux离线安装Docker命令,简单镜像操作
linux·docker·eureka
雪碧聊技术8 小时前
Docker3:docker基础1
运维·docker·容器·docker常见命令
大虾别跑11 小时前
docker安装zabbix +grafana
docker·zabbix·grafana