ollama 导入GGUF模型文件

GGUF模型导入

1 编写Modelfile文件

1:创建一个文本文件,建议改名为模型名,扩展名为Modelfile。 比如你下载的模型文件名是llama-8b.gguf,那这个文件名就叫llama-8b.modelfile

2:用记事本编辑文件添加模型文件地址:FROM ./llama-8b.gguf

3: 在命令行中执行指令转换模型 ollama create llama-8b -f llama-8b.modelfile

完成转换的模型会提示success

  1. 测试一下。命令行输入ollama run llama-8b "hi who are u?"看有没有回复

这啥模型。回复的都是些啥啊。。

打开ui交互界面,看看模型选择,也有了

相关推荐
kngines7 分钟前
【字节跳动】数据挖掘面试题0007:Kmeans原理,何时停止迭代
人工智能·数据挖掘·kmeans
Kali_0710 分钟前
使用 Mathematical_Expression 从零开始实现数学题目的作答小游戏【可复制代码】
java·人工智能·免费
贾全16 分钟前
第十章:HIL-SERL 真实机器人训练实战
人工智能·深度学习·算法·机器学习·机器人
程序员鱼皮21 分钟前
Cursor 网页版来了,这下拉屎时也能工作了
计算机·ai·程序员·开发·项目·编程经验
每日摸鱼大王21 分钟前
互联网摸鱼日报(2025-07-01)
人工智能
GIS小天31 分钟前
AI+预测3D新模型百十个定位预测+胆码预测+去和尾2025年7月4日第128弹
人工智能·算法·机器学习·彩票
我是小哪吒2.042 分钟前
书籍推荐-《对抗机器学习:攻击面、防御机制与人工智能中的学习理论》
人工智能·深度学习·学习·机器学习·ai·语言模型·大模型
慕婉03071 小时前
深度学习前置知识全面解析:从机器学习到深度学习的进阶之路
人工智能·深度学习·机器学习
荔枝吻1 小时前
【AI总结】Git vs GitHub vs GitLab:深度解析三者联系与核心区别
人工智能·git·github
Jamie201901062 小时前
高档宠物食品对宠物的健康益处有哪些?
大数据·人工智能