ollama 导入GGUF模型文件

GGUF模型导入

1 编写Modelfile文件

1:创建一个文本文件,建议改名为模型名,扩展名为Modelfile。 比如你下载的模型文件名是llama-8b.gguf,那这个文件名就叫llama-8b.modelfile

2:用记事本编辑文件添加模型文件地址:FROM ./llama-8b.gguf

3: 在命令行中执行指令转换模型 ollama create llama-8b -f llama-8b.modelfile

完成转换的模型会提示success

  1. 测试一下。命令行输入ollama run llama-8b "hi who are u?"看有没有回复

这啥模型。回复的都是些啥啊。。

打开ui交互界面,看看模型选择,也有了

相关推荐
yourkin66622 分钟前
什么是神经网络?
人工智能·深度学习·神经网络
嘀咕博客1 小时前
Frames:Runway推出的AI图像生成模型,提供前所未有的风格控制和视觉一致性
人工智能·ai工具
isNotNullX1 小时前
ETL详解:从核心流程到典型应用场景
大数据·数据仓库·人工智能·架构·etl
科技峰行者2 小时前
通义万相2.5系列模型发布,可生成音画同步视频
人工智能·阿里云·ai·大模型·agi
Vizio<2 小时前
《面向物理交互任务的触觉传感阵列仿真》2020AIM论文解读
论文阅读·人工智能·机器人·机器人触觉
尤超宇2 小时前
基于卷积神经网络的 CIFAR-10 图像分类实验报告
人工智能·分类·cnn
alex1002 小时前
BeaverTails数据集:大模型安全对齐的关键资源与实战应用
人工智能·算法·安全
大模型真好玩3 小时前
架构大突破! DeepSeek-V3.2发布,五分钟速通DeepSeek-V3.2核心特性
人工智能·python·deepseek
春末的南方城市3 小时前
苏大团队联合阿丘科技发表异常生成新方法:创新双分支训练法,同步攻克异常图像生成、分割及下游模型性能提升难题。
人工智能·科技·深度学习·计算机视觉·aigc
OpenCSG3 小时前
超越颠覆:AI与Web3如何为传统金融的“华兴资本们”提供新生之路
人工智能·金融·web3