windows系统ollama安装和使用

ollama安装

直接官网安装要6到7小时,用迅雷几分钟

  1. 安装迅雷

  2. 把下面链接复制到迅雷里下载:
    https://github.com/ollama/ollama/releases/latest/download/OllamaSetup.exe

  3. 下载后按提示安装

  4. 验证是否安装成功
    cmd叉掉重新打开,输入

    ollama --version

弹出版本号即可验证安装成功

模型安装

  1. 模型选型号
    我问的kimi,提供操作系统和显存大小让它推荐
    我的是windwos,4G,选了qwen2.5
  2. 模型下载
    以下皆cmd下载

方法一:

直接ollama pull 比较慢:

复制代码
ollama pull qwen2.5:3b

方法二:

用modelscope的地址下载

https://modelscope.cn/models?name=qwen2.5 3b\&page=1\&tabKey=task

选GGUF的(ollama支持),打开

复制代码
ollama pull modelscope.cn/地址

这里地址是图片上的可复制的Qwen/Qwen2.5-3B-Instruct-GGUF

  1. 运行

    ollama run modelscope.cn/地址

    ollama run modelscope.cn/Qwen/Qwen2.5-3B-Instruct-GGUF

模型使用

python 复制代码
import requests

def query_ollama(prompt, model="modelscope.cn/Qwen/Qwen2.5-3B-Instruct-GGUF"):
    url = "http://localhost:11434/api/generate"
    data = {
        "model": model,
        "prompt": prompt,
        "stream": False  # 设置为 True 可以获取流式响应
    }
    
    response = requests.post(url, json=data)
    if response.status_code == 200:
        return response.json()["response"]
    else:
        raise Exception(f"API 请求失败: {response.text}")

# 使用示例
response = query_ollama("你好,请介绍一下你自己")
print(response)

要事先建好环境,环境里得有相关的包才能运行

运行结果:

相关推荐
Solange__4 天前
Blender 3D模型优化:普通复制、共享网格、实例、合并怎么选?
人工智能·3d·ai·自然语言处理·编辑器·blender·材质
2601_967980115 天前
使用gensim处理文本(1)语料库与词向量空间
python·自然语言处理·gensim·词向量·文本分析
Martina_03215 天前
AI生成的3D白模单帧没问题,镜头一移动就被挡?用6步检查遮挡与构图
图像处理·人工智能·数学建模·3d·ai·自然语言处理·游戏策划
2301_790355976 天前
【技术拆解】短视频配音自动化流程:从文案预处理到 SRT 字幕的 9 个环节
自然语言处理·音视频
kaixin_啊啊9 天前
【零基础学AI】第 28 章——大语言模型怎样训练出来
人工智能·语言模型·自然语言处理
yunhuibin10 天前
AI分类任务种类
人工智能·自然语言处理·分类
我登哥MVP10 天前
DeepSeek-Harness-Super-Agent-学习笔记
人工智能·深度学习·神经网络·机器学习·自然语言处理·agent
Martina_032110 天前
AI生成3D场景的霓虹灯一开就糊成光团?用6步检查Emissive、Bloom与曝光
人工智能·3d·ai·自然语言处理·游戏引擎·材质·贴图
Martina_032111 天前
AI生成3D场景从白模换成精模后镜头全偏了?用6步检查单位、枢轴与层级替换
图像处理·人工智能·3d·ai·自然语言处理·材质·1024程序员节
tellmewhoisi12 天前
nlp:知识库检索和dify知识库创建
python·自然语言处理