ollama笔记

哔哩哔哩课程地址

一、安装

1.1 安装

下载地址

1.2 安装模型

简单介绍接口调用

目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1

shell 复制代码
# 运行
ollama run llama3:8b


# 进入后 /bye就退出 或者 Ctrl + d退出  退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型 
ollama list

可以打开网站选好模型,滑倒底部 models是支持哪些的模型

1.3 拓展

huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源

二、介绍

下载本地部署管理

三、关键词

  • b代表模型里参数的数量级 7b代表70亿的数量

内存推荐

四、简单基础命令和玩法

以提示词为方式启动模型

模型执行的细节



识别图片

更多


还有自定义模型单独写

五、自定义模型

PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇

set the 限制内容,也就是提示词吧大概

Modelfile文件

官网地址介绍

教程例子

相关推荐
TF男孩9 小时前
重新认识Markdown:它不仅是排版工具,更是写Prompt的最佳结构
人工智能
想打游戏的程序猿10 小时前
AI时代的内容输出
人工智能
小兵张健10 小时前
Playwright MCP 截图标注方案调研:推荐方案 1
人工智能
凌杰12 小时前
AI 学习笔记:Agent 的能力体系
人工智能
IT_陈寒13 小时前
React状态管理终极对决:Redux vs Context API谁更胜一筹?
前端·人工智能·后端
舒一笑14 小时前
如何获取最新的技术趋势和热门技术
人工智能·程序员
聚客AI15 小时前
🎉OpenClaw深度解析:多智能体协同的三种模式、四大必装技能与自动化运维秘籍
人工智能·开源·agent
黄粱梦醒15 小时前
大模型企业级部署方案-vllm
人工智能·llm
IT_陈寒15 小时前
JavaScript代码效率提升50%?这5个优化技巧你必须知道!
前端·人工智能·后端
IT_陈寒15 小时前
Java开发必知的5个性能优化黑科技,提升50%效率不是梦!
前端·人工智能·后端