一、安装
1.1 安装
1.2 安装模型
目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1
shell
# 运行
ollama run llama3:8b
# 进入后 /bye就退出 或者 Ctrl + d退出 退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型
ollama list
可以打开网站选好模型,滑倒底部 models是支持哪些的模型


1.3 拓展
huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源
二、介绍
下载本地部署管理

三、关键词
- b代表模型里参数的数量级 7b代表70亿的数量

内存推荐
四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节
识别图片

更多
还有自定义模型单独写
五、自定义模型
PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇
set the 限制内容,也就是提示词吧大概
Modelfile
文件

官网地址介绍
教程例子