ollama笔记

哔哩哔哩课程地址

一、安装

1.1 安装

下载地址

1.2 安装模型

简单介绍接口调用

目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1

shell 复制代码
# 运行
ollama run llama3:8b


# 进入后 /bye就退出 或者 Ctrl + d退出  退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型 
ollama list

可以打开网站选好模型,滑倒底部 models是支持哪些的模型

1.3 拓展

huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源

二、介绍

下载本地部署管理

三、关键词

  • b代表模型里参数的数量级 7b代表70亿的数量

内存推荐

四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节



识别图片

更多


还有自定义模型单独写

五、自定义模型

PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇

set the 限制内容,也就是提示词吧大概

Modelfile文件

官网地址介绍

教程例子

相关推荐
禹凕3 分钟前
深度学习之反向传播与全流程(Deep Learning about Backpropagation and Entire Process)
人工智能·深度学习
康实训6 分钟前
CGA老年综合评估是什么?评估体系、核心维度与行业应用标准解析
大数据·人工智能·实训室·实训室建设
xsd2024111819 分钟前
手机一扫自动读牌:摄像头识别发牌次序、牌面信息与各家牌型
人工智能
符号看象限_Wangerer25 分钟前
端到端模型的主流方案
人工智能
码云之上26 分钟前
Prompt 拦不住 Chatbot 的安全问题:九大风险与分层防护
人工智能·架构·全栈
具身AGI30 分钟前
一个纹理球,让 VLA 操作大面积失败
人工智能
AI 极客38 分钟前
Google AI模式开始主动“盯”价格和库存:当AI搜索从“问一次”变成“持续监控”,企业的GEO打法要跟着调整
人工智能·搜索引擎·geo
项目治理之道40 分钟前
金融科技部主导的“科技一体化管理“革命维普 Visual ALM 如何以 AI Agent 重塑项目管理全链路
人工智能·项目管理工具·项目管理软件·项目管理系统·全生命周期管理
small_wh1te_coder44 分钟前
Anthropic技术总监级拆解大模型 第16讲:GPU 与 CUDA 大模型计算到底是怎么跑起来的?
人工智能
nap-joker1 小时前
多维整合分析揭示了遗传结构、风险因素及脑部衰老的健康后果
人工智能·生物年龄·dense-net·人口统计学·生活方式·常见与罕见遗传变异