Windows 部署 ollama

1.安装

官方地址:https://ollama.com/

1.1 下载ollama
1.2 安装
1.3 运行 Ollama
1.4 测试ollama运行状态

http://localhost:11434

复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

C:\Users\Administrator>curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"

{"error":"model \"qwen2:0.5b\" not found, try pulling it first"}

1.5 拉取qwen2模型

查看可用模型列表

https://ollama.com/library

拉取qwen2

qwen2 的 0.5b1.5b、7b 和 72b 的模型大小分别是 352M、935M、4.4G 和 41G

复制代码
ollama run qwen2:0.5b

查询当前下载的模型

1.6 测试模型
复制代码
ollama run qwen2:0.5b
1.7 本机访问
复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\"}"
复制代码
curl http://localhost:11434/api/generate -d "{ \"model\": \"qwen2:0.5b\", \"prompt\": \"Who r u?\" ,\"stream\":false}"
1.8 局域网访问

环境变量 配置 OLLAMA_HOST,0.0.0.0, 然后重启ollama

局域网访问

相关推荐
cui_win35 分钟前
Minikube 安装与使用详细指南(Centos7 踩坑版)
docker·kubernetes·minikube·centos7·升级内核
行思理3 小时前
Dockerfile 各指令说明
运维·macos·docker·容器·php
FreeBuf_3 小时前
Docker Compose曝路径遍历漏洞,可致任意覆写文件(CVE-2025-62725)
docker·容器·eureka
dwedwswd4 小时前
亲子娱乐升级!Docker 电视盒子 ADB 安装助手,儿童 APP 一键装满电视
docker·娱乐·电视盒子
半梦半醒*4 小时前
k8s——资源管理
linux·运维·docker·容器·kubernetes·自动化
小Pawn爷4 小时前
构建Django的Web镜像
前端·python·docker·django
梁萌4 小时前
在linux上使用docker搭建ELK日志框架
elk·elasticsearch·docker·kibana·logstash·日志框架
落世繁华5 小时前
Docker快速部署--Mysql一键初始化
运维·mysql·docker·容器·一键部署
胡耀超5 小时前
AI应用开发入门,docker部署 Milvus + GPUStack (Attu+MinIO)的基础入门!
人工智能·docker·ai·大模型·milvus·rag·gpustack
Code-X08 小时前
安装 Docker 时,为什么要装 dnf-utils?
运维·docker·容器