Ollama的安装以及大模型下载教程

简介

Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型, Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大型语言模型。

Ollama的安装

下载网址:https://ollama.com/

进入官网直接点击Download下载即可

下载完后会得到一个.exe文件,直接运行就会自动安装,会强制安装在C盘,无法更改路径,所以C盘要预留足够的空间。

大模型下载

1、下载完Ollama之后回到网站,点击Models

里面有很多开源模型可以下载

2、模型信息

3、下载指令

打开命令提示符,运行下面指令会自动下载

4、运行

指令

起动Ollama后在命令提示符中运行下面一些指令可以对模型进行操作

相关推荐
测开小菜鸟5 小时前
从AI概念到LLM评估:全面解析大型语言模型的能力与评价
人工智能·语言模型·自然语言处理
苏打水com7 小时前
《让本地Llama拥有企业知识:RAG离线知识库完整实现》
llama
ZJU_统一阿萨姆8 小时前
【推理优化】推理的本质:prefill 与 decode 两阶段
语言模型·系统架构
苏打水com8 小时前
《llama.cpp性能优化实战:从显存、KV Cache到Token/s》
性能优化·llama
还不秃顶的计科生1 天前
具身智能论文学习1:PaLM: Scaling Language Modeling with Pathways
人工智能·语言模型·palm
海天一色y1 天前
GSPO:重新定义大语言模型的强化学习训练范式
人工智能·机器学习·语言模型
DM今天肝到几点?1 天前
英伟达发布 Nemotron 3.5 Lightning:31.6B 参数的“闪电”开源模型,本地智能体的新引擎
人工智能·深度学习·语言模型·开源·知识图谱
赵庆明老师1 天前
RH7.6安装 llama.cpp(普通用户,无sudo权限)
llama
小王不叫小王叭1 天前
Blip2:使用冻结图像编码器和大型语言模型的Bootstrapping图像预训练-2301
人工智能·语言模型·自然语言处理
江畔柳前堤1 天前
LLM 量化与剪枝完全指南:从比特级数学到生产级内核
人工智能·分布式·深度学习·算法·机器学习·目标跟踪·语言模型