Windows 部署 ollama

1.安装

官方地址:https://ollama.com/

1.1 下载ollama
1.2 安装
1.3 运行 Ollama
1.4 测试ollama运行状态

http://localhost:11434

复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

C:\Users\Administrator>curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

{"error":"model \"qwen2:0.5b\" not found, try pulling it first"}

1.5 拉取qwen2模型

查看可用模型列表

https://ollama.com/library

拉取qwen2

qwen2 的 0.5b1.5b、7b 和 72b 的模型大小分别是 352M、935M、4.4G 和 41G

复制代码
ollama run qwen2:0.5b

查询当前下载的模型

1.6 测试模型
复制代码
ollama run qwen2:0.5b
1.7 本机访问
复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\"}"
复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"
1.8 局域网访问

环境变量 配置 OLLAMA_HOST,0.0.0.0, 然后重启ollama

局域网访问

相关推荐
zyk_5205 小时前
Docker desktop如何汉化
运维·docker·容器
韭菜盖饭5 小时前
解决Docker端口映射后外网无法访问的问题
运维·docker·容器
jingjingjing11115 小时前
笔记:docker安装(ubuntu 20.04)
笔记·docker·容器
qq_339282237 小时前
docker之network
运维·docker·容器
愿你天黑有灯下雨有伞8 小时前
Docker 安装 Elasticsearch 教程
运维·elasticsearch·docker
@郭小茶9 小时前
windows部署docker
windows·docker·容器
XAL110 小时前
Docker的备份与恢复
运维·docker·容器
杨浦老苏12 小时前
开源一体化白板工具Drawnix
docker·群晖·图片·白板
geek_super12 小时前
Docker学习--容器的root文件系统(rootfs)命令--docker diff 命令
docker
欧先生^_^12 小时前
docker的文件系统Overlay2
运维·docker·容器