ollama笔记

哔哩哔哩课程地址

一、安装

1.1 安装

下载地址

1.2 安装模型

简单介绍接口调用

目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1

shell 复制代码
# 运行
ollama run llama3:8b


# 进入后 /bye就退出 或者 Ctrl + d退出  退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型 
ollama list

可以打开网站选好模型,滑倒底部 models是支持哪些的模型

1.3 拓展

huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源

二、介绍

下载本地部署管理

三、关键词

  • b代表模型里参数的数量级 7b代表70亿的数量

内存推荐

四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节



识别图片

更多


还有自定义模型单独写

五、自定义模型

PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇

set the 限制内容,也就是提示词吧大概

Modelfile文件

官网地址介绍

教程例子

相关推荐
2501_945318498 分钟前
CAIE证书是否可查、可验证?
人工智能
weixin_416660079 分钟前
技术分析:豆包生成带公式文案导出Word乱码的底层机理
人工智能·word·豆包
爱吃泡芙的小白白13 分钟前
深入浅出:卷积神经网络(CNN)池化层全解析——从MaxPool到前沿发展
人工智能·神经网络·cnn·池化层·最大值池化·平均值池化
jigsaw_zyx19 分钟前
提示词工程
人工智能·算法
jdyzzy23 分钟前
什么是 JIT 精益生产模式?它与传统的生产管控方式有何不同?
java·大数据·人工智能·jit
LittroInno25 分钟前
TVMS视频管理平台 —— 多种目标跟踪模式
人工智能·计算机视觉·目标跟踪
查无此人byebye30 分钟前
突破性图像分词技术TiTok:32个Token实现高效图像重建与生成
人工智能
Niuguangshuo31 分钟前
DALL-E 2:从CLIP潜变量到高质量图像生成的突破
人工智能·深度学习·transformer
偷吃的耗子31 分钟前
【CNN算法理解】:基于训练好的MNIST CNN模型进行预测
人工智能·算法·cnn
Elastic 中国社区官方博客31 分钟前
跳过 MLOps:通过 Cloud Connect 使用 EIS 为自管理 Elasticsearch 提供托管云推理
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索