ollama笔记

哔哩哔哩课程地址

一、安装

1.1 安装

下载地址

1.2 安装模型

简单介绍接口调用

目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1

shell 复制代码
# 运行
ollama run llama3:8b


# 进入后 /bye就退出 或者 Ctrl + d退出  退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型 
ollama list

可以打开网站选好模型,滑倒底部 models是支持哪些的模型

1.3 拓展

huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源

二、介绍

下载本地部署管理

三、关键词

  • b代表模型里参数的数量级 7b代表70亿的数量

内存推荐

四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节



识别图片

更多


还有自定义模型单独写

五、自定义模型

PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇

set the 限制内容,也就是提示词吧大概

Modelfile文件

官网地址介绍

教程例子

相关推荐
AI_Auto2 小时前
智能制造 - 人工智能、隐私保护、信息安全
人工智能·制造
一只乔哇噻3 小时前
java后端工程师+AI大模型开发进修ing(研一版‖day60)
java·开发语言·人工智能·学习·语言模型
千里码aicood3 小时前
计算机大数据、人工智能与智能系统开发定制开发
大数据·人工智能·深度学习·决策树·机器学习·森林树
币圈菜头3 小时前
【空投速递】GAEA项目解析:首个集成人类情感数据的去中心化AI训练网络
人工智能·web3·去中心化·区块链
Dcs4 小时前
你的 Prompt 都该重写?
人工智能·ai编程
木卫二号Coding4 小时前
第五十三篇-Ollama+V100+Qwen3:4B-性能
人工智能
飞哥数智坊4 小时前
AI 不只是聊天:聊聊我最近在做的新方向
人工智能
学生高德5 小时前
小模型结合大模型的加速方法关键笔记
人工智能·深度学习·机器学习
蓝耘智算5 小时前
GPU算力租赁与算力云平台选型指南:从需求匹配到成本优化的实战思路
大数据·人工智能·ai·gpu算力·蓝耘
liliangcsdn5 小时前
如何用bootstrap模拟估计pass@k
大数据·人工智能·bootstrap