llamafactory

为啥全要学6 小时前
llama·大模型微调·llamafactory
LLaMA-Factory 微调 Qwen2-7B-Instruct将训练数据放在 LLaMA-Factory/data/fintech.json 并且修改数据注册文件:LLaMA-Factory/data/dataset_info.json
Silence4Allen4 天前
人工智能·大模型·微调·xtuner·llamafactory
大模型微调终极方案:LoRA、QLoRA原理详解与LLaMA-Factory、Xtuner实战对比微调(Fine-tuning)是深度学习中的一种常见方法,它通常用于在预训练模型的基础上进行进一步的训练,以适应特定的任务。微调的主要目的是利用预训练模型已经学习到的通用知识,从而提高模型在特定任务上的性能。常见的微调框架有 LLaMA-Factory 和 XTuner 等。
joexk10 天前
微调·triton·llamafactory·no module·triton.ops
llamafactory微调模型报错ModuleNotFoundError: No module named ‘triton.ops‘在阿里云Notebook上使用llamafactory微调Meta-Llama-3-8B-Instruct模型报错ModuleNotFoundError: No module named ‘triton.ops’
eihh2333311 天前
fastapi·llamafactory
模型部署与提供服务FastApi (提供接口服务)LLamafactory(模型测试)AutoDL-SSH(隧道工具)FastAPI 是一个用于构建 API 的现代、快速(高性能)的 web 框架,使用 Python 并基于标准的 Python 类型提示。
joexk13 天前
webui·typeerror·llamafactory·nootbook
llamafactory-cli webui启动报错TypeError: argument of type ‘bool‘ is not iterable在阿里云NoteBook上启动llamafactory-cli webui报错TypeError: argument of type ‘bool’ is not iterable
政安晨3 个月前
ai训练·基本概念·llamafactory
政安晨的AI大模型训练实践 九 - 熟悉LLaMA Factory的详细参数含义-基本概念理解一下政安晨的个人主页:政安晨欢迎 👍点赞✍评论⭐收藏希望政安晨的博客能够对您有所裨益,如有不足之处,欢迎在评论区提出指正!
kida_yuan4 个月前
人工智能·指令微调·llamafactory
【从零开始】11. LLaMA-Factory 微调 Qwen 模型(番外篇)书接上回,在完成了 RAGChecker 测试后,离 RAG 应用真正发布还差最后一步 - 基础信息指令微调。考虑到模型还是需要具备一定程度的“自我认知”,因此需要将公司信息“嵌入”到模型里面的。为此,我选择了 LLaMA-Factory(以下简称“lf”)去完成这个事儿。
Nicolas8934 个月前
大模型·全参微调·大模型微调·glm4·llamafactory·chatglm9b
【大模型实战篇】LLaMA Factory微调ChatGLM-4-9B模型虽然现在大模型微调的文章很多,但纸上得来终觉浅,大模型微调的体感还是需要自己亲自上手实操过,才能有一些自己的感悟和直觉。这次我们选择使用llama_factory来微调chatglm-4-9B大模型。
SpikeKing6 个月前
人工智能·llm·大语言模型·llama·环境配置·llamafactory·训练框架
LLM - 使用 LLaMA-Factory 微调大模型 环境配置与训练推理 教程 (1)欢迎关注我的CSDN:https://spike.blog.csdn.net/ 本文地址:https://spike.blog.csdn.net/article/details/143388189
牛右刀薛面7 个月前
llm·sft·llamafactory
launcher.py: error: the following arguments are required: --output_dir记录一个LLaMA-Factroy配置过程。按理说配置好文件应该就可以启动了,但是一直包错说没有output_dir这个参数。百思不得其解,后来我把整个yaml文件的参数都注视掉,竟然还是报了同样的错。我发现可能是其他地方出错,后来发现竟然是我的yaml配置文件是以yml结尾,官方的是以yaml结尾。大乌龙。因此如果官方有例子,尽量复制,再手动改,稍微细节没对上就会报错,这很正常,但是要通过尽可能合理的方式避免bug。