ollama笔记

哔哩哔哩课程地址

一、安装

1.1 安装

下载地址

1.2 安装模型

简单介绍接口调用

目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1

shell 复制代码
# 运行
ollama run llama3:8b


# 进入后 /bye就退出 或者 Ctrl + d退出  退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型 
ollama list

可以打开网站选好模型,滑倒底部 models是支持哪些的模型

1.3 拓展

huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源

二、介绍

下载本地部署管理

三、关键词

  • b代表模型里参数的数量级 7b代表70亿的数量

内存推荐

四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节



识别图片

更多


还有自定义模型单独写

五、自定义模型

PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇

set the 限制内容,也就是提示词吧大概

Modelfile文件

官网地址介绍

教程例子

相关推荐
IE063 小时前
深度学习系列84:使用kokoros生成tts语音
人工智能·深度学习
欧阳天羲3 小时前
#前端开发未来3年(2026-2028)核心趋势与AI应用实践
人工智能·前端框架
IE063 小时前
深度学习系列83:使用outetts
人工智能·深度学习
水中加点糖4 小时前
源码运行RagFlow并实现AI搜索(文搜文档、文搜图、视频理解)与自定义智能体(一)
人工智能·二次开发·ai搜索·文档解析·ai知识库·ragflow·mineru
imbackneverdie4 小时前
如何用AI工具,把文献综述从“耗时费力”变成“高效产出”?
人工智能·经验分享·考研·自然语言处理·aigc·ai写作
黎燃4 小时前
最强「学业成绩分析压力感知型 AI 心理陪伴」智能体—基于腾讯元器×TextIn大模型加速器×混元大模型的实战构建
人工智能
AKAMAI4 小时前
预先构建的CNCF流水线:从Git到在Kubernetes上运行
人工智能·云计算
风途知识百科4 小时前
数字高精度光伏电站灰尘监测系统
人工智能
学废了wuwu4 小时前
机器学习模型评估指标完全解析:准确率、召回率、F1分数等
人工智能·机器学习
西西o5 小时前
MindSpeed MM多模态模型微调实战指南
人工智能