模型微调

【大模型应用开发:基于GPT-4和ChatGPT】(GPT-4和ChatGPT的高级技巧)既然已经熟悉LLM和OpenAI API的基础知识,那么是时候让你的技能更上一层楼了.本文介绍如何通过提示工程、零样本与少样本提示,以及针对特定任务的微调,发挥GPT-4和ChatGPT所代表的语言模型的能力,并把这些方法用于实际应用.零样本和少样本是提示设计方式;微调则通过训练改变模型参数.它们可以组合使用,但作用机制不同.

【模型微调（理论篇）】Fine-turninghuggingface上的 PEFT库（Peft-github）有更多模型微调方法基座模型公司（OpenAI、Google、Meta、阿里、DeepSeek、月之暗面）

GPU实战笔记

L40S 云端任务验证：从推理、微调到生成工作流的边界NVIDIA L40S 有 48GB 显存。对于准备租云端 GPU 的开发者来说，最实际的问题是：这张卡能不能运行自己准备使用的模型、训练代码或生成工作流？

LoRA 微调实战 - 显存、标签掩码与合并部署的踩坑记录（附清单）运营上周提了个需求。客服机器人要能答一批内部产品术语，通用模型答得含糊。想全量微调，一算显存就放弃了，6B 的模型全参训练，优化器状态加梯度缓存，80GB 的卡都紧张。最后用 LoRA 在单卡 24GB 上跑通。从装环境到出第一个 adapter 用了两天，大头全在排错。这篇把配置和三个坑整理出来，照着走能少绕路。

面向启元 Q1 的手势交互：12 组 MobileNetV3 微调实验与 Skill 接入方案版权声明：本文为原创技术实践记录，遵循 CC 4.0 BY-SA 协议。转载请注明出处。给机器人增加一个新交互方式，一定要重新训练昂贵的视觉语言动作模型吗？

微调提速 6 倍：Qwen 27B 从 7 小时 44 分到 1 小时 17 分原文：Databricks Blog - 《Reducing Qwen training time by 6x on AI Runtime》（https://www.databricks.com/blog/reducing-qwen-training-time-6x-ai-runtime）

【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(开源大模型ChatGLM高级定制化应用实战)在前一面我们介绍了ChatGLM的基本内容,并介绍了ChatGLM的一些常用应用,例如使用ChatGLM完成一些基本的场景问答以及特定信息抽取等.除此之外,ChatGLM还可以完成一些更高级的任务和应用,例如通过提供的文档完成基于特定领域文档内容的知识问答等.不同类型的本地知识库可能对应不同的应用场景.例如,在问答系统中,可以使用维基百科或其他在线百科全书作为本地知识库,以便回答用户的常见问题.在客服对话系统中,可以使用公司内部的产品文档或常见问题解答作为本地知识库,以便回答用户关于产品的问题.在聊天机器

RAG 和微调解决的是同一类问题吗？从大模型底层全链路拆解两者的本质与选择逻辑摘要：几乎每个做大模型落地的团队都问过一个问题——"这个需求该用 RAG 还是微调？"但这个问题本身可能就是个错误的问题。微调动的是模型参数，RAG 动的是推理时的输入上下文，二者作用在完全不同的链路上。本文从预训练 → 微调 → 推理的完整链路出发，拆解两种技术各自解决什么问题、知识在模型"脑海"里的两种存在形式，并给出可落地的决策框架。

论文复现现场

金融大模型微调需要几张 RTX 4090？QLoRA 配置、工期估算与断点续训金融领域微调 7B 大模型，可先用单卡 RTX 4090 验证 QLoRA，再根据吞吐和工期决定是否扩到四卡。训练多久取决于数据量、序列长度和优化步耗时，不能只凭卡数承诺“38 小时出结果”。

玩转大模型（一）：参数、token、FLOPs 怎么算，提示词/RAG/微调/续训/Agent 怎么选💡刚入门时最容易犯的毛病，是把大模型当成一个"更聪明的搜索引擎"。问一句答一句，答得不好就换个问法继续问，问到最后开始怀疑模型智商。

长葡萄的叶子

LLaMA-Factory进行模型微调、合并与Ollama部署全流程指南从零开始，手把手教你完成大模型微调、合并、导出GGUF并部署到Ollama最近在学习大模型微调，跟着B站一个微调视频走了一遍，把整个过程从头到尾跑通了。从环境配置到数据准备，从LoRA微调到最终部署到Ollama，踩了不少坑，也积累了一些经验。这篇文章就把完整的流程记录下来，希望对同样在学习模型微调的朋友有所帮助。注意：本文章使用的是非Web页面微调

炒栗子不加糖

NeMo AutoModel继续预训练可以通过hfd.sh脚本下载每次启动预训练，Megatron都需要为庞大的数据集构建一套随机访问的索引（包含文档索引、样本索引和打乱索引），这一过程在TB级数据上可能耗时超过30分钟。

All The Way North-

【完形填空实战】BERT中文MLM微调：数据构造→训练→评估，有完整可运行代码完形填空（MLM）任务的真实值：藏在输入里的标签与文本分类任务（需要独立的 label 字段）不同，完形填空任务不需要额外的人工标注标签。它的真实值（Ground Truth）就是被挖掉的那个词原本的 ID。

学Linux的语莫

LlamaFactory微调框架的使用最好使用NVIDIA CUDA的显卡在终端/命令行里执行，不是在 Python 代码里执行。如果你是 Windows，按这个来：

LLamafactory Qlora微调实战LLamafactory Qlora微调下面是对每个核心参数的简要介绍及其设置原因：量化方法 (bnb)：

从辅助编码到架构重塑：基于 LLM 的智能开发工作流落地实战在人工智能技术爆发的时代，AI 工具、大模型及行业应用正深刻改变开发者的工作模式与各领域的发展格局。从早期的单行代码补全，到如今的复杂逻辑推演、自动化测试生成，再到基于大模型的垂直行业解决方案，AI 已经不再仅仅是一个 “高级玩具”，而是正切实成为提升研发效能、驱动业务创新的核心引擎。

重生之我要成为代码大佬

HuggingFace生态实战：从模型应用到高效微调写在前面：本博客全部基于知乎的大模型课程所做的笔记和整以及和在实操过程中遇到的问题和处理方法，（老师们讲的都很好，解答的也很细致）博主也正在学习中，如果有错误的地方期待和我沟通。大多代码都来自于上课的资料，加入了一些注释和梳理，或者对我没有跑通的代码做了一些修改让他符合我的需求。之前的链接：langchain、AI框架

一招定胜负

LlamaFactory使用教程下面三行命令分别对 Qwen3-4B-Instruct 模型进行 LoRA 微调、推理和合并。https://modelscope.cn/models/Qwen/Qwen3-4B-Instruct-2507

Qwen3.5-4B 微调实战：LLaMA-Factory 打造医疗AI助手最近在帮一个医疗创业团队做技术支持，他们想把通用大模型改造成能回答专业医疗问题的智能助手。今天就把整个过程整理出来，希望对有类似需求的朋友有所帮助。

大模型微调-基于llama-factory详解使用LoRA时，可以将其原理理解为在原有知识基础上有选择性地对特定领域参数进行微调。就像原本掌握数学、语文等知识，现在想学习天文，不必从零开始学习所有知识，而是专注新增领域的学习和调整。