Windows 部署 ollama

1.安装

官方地址:https://ollama.com/

1.1 下载ollama
1.2 安装
1.3 运行 Ollama
1.4 测试ollama运行状态

http://localhost:11434

复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

C:\Users\Administrator>curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

{"error":"model \"qwen2:0.5b\" not found, try pulling it first"}

1.5 拉取qwen2模型

查看可用模型列表

https://ollama.com/library

拉取qwen2

qwen2 的 0.5b1.5b、7b 和 72b 的模型大小分别是 352M、935M、4.4G 和 41G

复制代码
ollama run qwen2:0.5b

查询当前下载的模型

1.6 测试模型
复制代码
ollama run qwen2:0.5b
1.7 本机访问
复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\"}"
复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"
1.8 局域网访问

环境变量 配置 OLLAMA_HOST,0.0.0.0, 然后重启ollama

局域网访问

相关推荐
K_i1343 小时前
Docker、容器、虚拟机到底是什么
docker·微服务·云原生·容器·kubernetes
江湖有缘5 小时前
【Docker项目实战】使用Docker部署ShowDoc文档管理工具
java·docker·容器
XYiFfang5 小时前
【Docker】解决Docker中“exec format error”错误:架构不匹配的完整指南
docker·容器·架构
alenliu06217 小时前
在 Ubuntu22.04 进行envoy沙盒实验
docker·envoy·ubuntu22.04
致宏Rex18 小时前
Docker 完整教程(3,4) | 网络与挂载
运维·docker·容器
不语n20 小时前
Windows+Docker+AI开发板打造智能终端助手
python·docker·树莓派·香橙派·dify·ollama·ai开发板
荣光波比21 小时前
Docker(三)—— Docker Compose 编排与 Harbor 私有仓库实战指南
运维·docker·容器·云计算
落日漫游1 天前
DockerCE与cri-docker核心区别解析
运维·docker·kubernetes
努力搬砖的咸鱼1 天前
Docker 三剑客:镜像、容器、仓库
docker·云原生·容器
iHero1 天前
【Jitsi Meet】阿里云Docker安装Jitsi Meet后的调整
阿里云·docker·云计算