ollama 导入GGUF模型文件

GGUF模型导入

1 编写Modelfile文件

1:创建一个文本文件,建议改名为模型名,扩展名为Modelfile。 比如你下载的模型文件名是llama-8b.gguf,那这个文件名就叫llama-8b.modelfile

2:用记事本编辑文件添加模型文件地址:FROM ./llama-8b.gguf

3: 在命令行中执行指令转换模型 ollama create llama-8b -f llama-8b.modelfile

完成转换的模型会提示success

  1. 测试一下。命令行输入ollama run llama-8b "hi who are u?"看有没有回复

这啥模型。回复的都是些啥啊。。

打开ui交互界面,看看模型选择,也有了

相关推荐
小胖墩有点瘦16 小时前
【基于深度学习的中草药识别系统】
人工智能·python·深度学习·课程设计·计算机毕业设计·中草药识别
六月的可乐16 小时前
AI助理前端UI组件-悬浮球组件
前端·人工智能
R-G-B16 小时前
OpenCV 实战篇——如何测算出任一副图片中的物体的实际尺寸?传感器尺寸与像元尺寸的关系?
人工智能·opencv·工业相机·传感器尺寸·像元·测算图片中的物体尺寸·像元与物体尺寸
Hello123网站16 小时前
Ferret:苹果发布的多模态大语言模型
人工智能·语言模型·自然语言处理·ai工具
MobotStone16 小时前
比对手快10倍?更强更精准?谷歌"纳米香蕉"到底藏着什么黑科技
人工智能
爱写代码的小朋友16 小时前
STEM背景下人工智能素养框架的研究
人工智能
大学生毕业题目17 小时前
毕业项目推荐:83-基于yolov8/yolov5/yolo11的农作物杂草检测识别系统(Python+卷积神经网络)
人工智能·python·yolo·目标检测·cnn·pyqt·杂草识别
居7然17 小时前
美团大模型“龙猫”登场,能否重塑本地生活新战局?
人工智能·大模型·生活·美团
说私域17 小时前
社交新零售时代本地化微商的发展路径研究——基于开源AI智能名片链动2+1模式S2B2C商城小程序源的创新实践
人工智能·开源·零售
IT_陈寒17 小时前
Python性能优化:5个被低估的魔法方法让你的代码提速50%
前端·人工智能·后端