Ollama的安装以及大模型下载教程

简介

Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型, Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大型语言模型。

Ollama的安装

下载网址:https://ollama.com/

进入官网直接点击Download下载即可

下载完后会得到一个.exe文件,直接运行就会自动安装,会强制安装在C盘,无法更改路径,所以C盘要预留足够的空间。

大模型下载

1、下载完Ollama之后回到网站,点击Models

里面有很多开源模型可以下载

2、模型信息

3、下载指令

打开命令提示符,运行下面指令会自动下载

4、运行

指令

起动Ollama后在命令提示符中运行下面一些指令可以对模型进行操作

相关推荐
寒水馨1 天前
Windows下载、安装ollama-v0.32.1(附安装包OllamaSetup.exe)
windows·llm·大语言模型·llama·本地部署·ollama·模型运行
刘小八1 天前
RAG 文档切分不是越细越好:选择 Chunk Size 与 Overlap
人工智能·python·语言模型
大模型任我行1 天前
阿里:端到端文档解析模型OvisOCR2
人工智能·语言模型·自然语言处理·论文笔记
KAU的云实验台2 天前
【研究分享】大语言模型 × 进化计算新范式? —— 以ReEvo为例拆解
人工智能·语言模型·自然语言处理
老刘说AI2 天前
AI服务核心: 高并发原理与性能监控调优
人工智能·神经网络·langchain·llama·持续部署
硅谷秋水2 天前
PhyGround:生成式世界模型中的物理推理基准测试
人工智能·深度学习·机器学习·计算机视觉·语言模型
许可可可可2 天前
英伟达到昇腾训练迁移:并行配置等问题
语言模型
头茬韭菜3 天前
Kronos 模型推理性能基准测试报告
llama
亮亮在江湖3 天前
# 手写原生Transformers SFT脚本 vs LLaMA Factory 训练 核心完整对比
llama
染指11103 天前
61.RAG-RAG存在的问题
人工智能·llama·rag·llama_index·llamaindex