Ollama的安装以及大模型下载教程

简介

Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型, Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大型语言模型。

Ollama的安装

下载网址:https://ollama.com/

进入官网直接点击Download下载即可

下载完后会得到一个.exe文件,直接运行就会自动安装,会强制安装在C盘,无法更改路径,所以C盘要预留足够的空间。

大模型下载

1、下载完Ollama之后回到网站,点击Models

里面有很多开源模型可以下载

2、模型信息

3、下载指令

打开命令提示符,运行下面指令会自动下载

4、运行

指令

起动Ollama后在命令提示符中运行下面一些指令可以对模型进行操作

相关推荐
沉下心来学鲁班2 小时前
欺诈文本分类检测(十八):基于llama.cpp+CPU推理
人工智能·语言模型·分类·cpu·llama.cpp
m0_523674213 小时前
技术前沿:从强化学习到Prompt Engineering,业务流程管理的创新之路
人工智能·深度学习·目标检测·机器学习·语言模型·自然语言处理·数据挖掘
小言从不摸鱼5 小时前
【AI大模型】ELMo模型介绍:深度理解语言模型的嵌入艺术
人工智能·深度学习·语言模型·自然语言处理·transformer
衬衫chenshan5 小时前
【论文阅读】(Security) Assertions by Large Language Models
论文阅读·人工智能·语言模型
DisonTangor21 小时前
AMD-OLMo:在 AMD Instinct MI250 GPU 上训练的新一代大型语言模型。
人工智能·语言模型·自然语言处理
Soungkayou1 天前
Safety Assessment of Chinese Large Language Models
人工智能·语言模型·自然语言处理
奔跑的小狗1 天前
Llama架构及代码详解
llama
羽星_s1 天前
Dial-insight:利用高质量特定领域数据微调大型语言模型防止灾难性遗忘
人工智能·深度学习·语言模型·自然语言处理