ollama笔记

哔哩哔哩课程地址

一、安装

1.1 安装

下载地址

1.2 安装模型

简单介绍接口调用

目前机器性能比较低，所以就运行8b，默认端口http://localhost:11434/v1

# 运行
ollama run llama3:8b


# 进入后 /bye就退出 或者 Ctrl + d退出  退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型 
ollama list

可以打开网站选好模型，滑倒底部 models是支持哪些的模型

1.3 拓展

huggingface是类似github一样，属于ai领域的hub，里面有各种训练集，模型等等资源

二、介绍

下载本地部署管理

三、关键词

• b代表模型里参数的数量级 7b代表70亿的数量

内存推荐

四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节

识别图片

更多

还有自定义模型单独写

五、自定义模型

PARAMETER的参数0-1，设置的越大，回复的脑回路越新奇

set the 限制内容，也就是提示词吧大概

Modelfile文件

官网地址介绍

教程例子