Ollama的安装以及大模型下载教程

简介

Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型, Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大型语言模型。

Ollama的安装

下载网址:https://ollama.com/

进入官网直接点击Download下载即可

下载完后会得到一个.exe文件,直接运行就会自动安装,会强制安装在C盘,无法更改路径,所以C盘要预留足够的空间。

大模型下载

1、下载完Ollama之后回到网站,点击Models

里面有很多开源模型可以下载

2、模型信息

3、下载指令

打开命令提示符,运行下面指令会自动下载

4、运行

指令

起动Ollama后在命令提示符中运行下面一些指令可以对模型进行操作

相关推荐
武子康5 天前
调查研究-200 llama.cpp b9754:一次很小但很关键的 Agent 工具调用修复
人工智能·agent·llama
大鱼>16 天前
大语言模型+物联网:LLM理解物理世界
物联网·struts·语言模型·多模态·aiot
AndrewHZ16 天前
【LLM技术全景】大模型能力探秘:In-Context Learning与思维链(CoT)
人工智能·语言模型·大模型·llm·cot·思维链·icl
生成论实验室16 天前
机器人:一个自主运动的系统
人工智能·算法·语言模型·机器人·自动驾驶·agi·安全架构
Data-Miner16 天前
大语言模型+智能体AI,122页PPT详解落地应用培训!
人工智能·microsoft·语言模型
AI小百科16 天前
llama.cpp vs vLLM:深度解析与选型指南
llama·vllm
枫叶林FYL16 天前
BRIDGE:多模态查询的强化学习对齐与文本检索重构
人工智能·语言模型
小小工匠16 天前
拆解大语言模型:从词向量到注意力机制的内部运行原理
人工智能·语言模型·自然语言处理
暮云星影16 天前
瑞芯微rk3588利用Rockchip NPU运行大语言模型(LLM)
arm开发·人工智能·语言模型·自然语言处理
生成论实验室16 天前
自动驾驶:一个自主运动的系统
人工智能·算法·机器学习·语言模型·机器人·自动驾驶·安全架构