微调

RAGFoundry：面向检索增强生成的模块化增强框架本文由「大千AI助手」原创发布，专注用真话讲AI，回归技术本质。拒绝神话或妖魔化。搜索「大千AI助手」关注我，一起撕掉过度包装，学习真实的AI技术！

爱分享的飘哥

第五十五章：AI模型的“专属定制”：LoRA微调原理与高效合并技巧在之前我们了解到“微调（Fine-tuning）”是让大模型从“通才”变为“专才”的关键。但对一个拥有数十亿参数的LLM（如LLaMA-7B）进行全参数微调（Full Fine-tuning），意味着：

FLAN-T5：大规模指令微调的统一语言模型框架本文由「大千AI助手」原创发布，专注用真话讲AI，回归技术本质。拒绝神话或妖魔化。搜索「大千AI助手」关注我，一起撕掉过度包装，学习真实的AI技术！

华尔街的幻觉

Datawhale AI夏令营——列车信息智能问答——科大讯飞AI大赛（基于结构化数据的用户意图理解和知识问答挑战赛）坐火车的你，遇到过这样的场景吗？我们这次将一起来探索——如何让AI“看懂”列车时刻表！你随口一问（比如“K123在哪检票？”），AI秒回精准答案！告别抓狂！

魔搭官方教程【快速开始】-swift 微调报错：`if v not in ALL_PARALLEL_STYLES`在魔搭社区按照官方教程搭建大模型时，在微调阶段执行【微调脚本】出现了问题：报错最后提示 if v not in ALL_PARALLEL_STYLES

Clip微调系列：《MaPLe: Multi-modal Prompt Learning》论文链接：arxiv.org/pdf/2210.03117参考链接：(28 封私信) CVPR2023 | MaPLe: Multi-modal Prompt Learning - 知乎

西西弗Sisyphus

LLaMA-Factory 单卡后训练微调Qwen3完整脚本flyfish将下面代码保存为 train_single_gpu.sh修改脚本中的以下参数： MODEL_PATH：模型路径 DS_CONFIG_PATH：DeepSpeed配置文件路径 OUTPUT_PATH：输出目录路径 --dataset erfen：替换为实际数据集名称这里是erfen

Qwen-3 微调实战：用 Python 和 Unsloth 打造专属 AI 模型虽然大家都忙着在 DeepSeek 上构建应用，但那些聪明的开发者们却悄悄发现了 Qwen-3 的微调功能，这可是一个隐藏的宝藏，能把通用型 AI 变成你的专属数字专家。

咕噜咕噜day

高效微调方法简述针对成本和性价比选择RAG或微调，那他们适用的范围和区别要提前了解；形象的描述预训练、微调、提示工程、Agents：

SmolVLM2: The Smollest Video Model Ever（七）现在的数据集里面只涉及tool的分类和手术phase的分类，所以编写的评价指标还是那些通用的，但是：predicted_labels:['The current surgical phase is CalotTriangleDissection, Grasper, Hook tool exists.', 'The current surgical phase is GallbladderDissection, Grasper, Hook tool exists.', 'The current surgic

阿丢是丢心心

【从0到1搞懂大模型】chatGPT 中的对齐优化（RLHF）讲解与实战（9）chatgpt系列模型演进的重要节点包含下面几个模型（当然，这两年模型发展太快了，4o这些推理模型我就先不写了） (Transformer) → GPT-1 → GPT-2 → GPT-3 → InstructGPT/ChatGPT(GPT-3.5) → GPT-4 下面介绍一下各个模型之前的重点差异

使用LoRA微调Qwen2.5-VL-7B-Instruct完成电气主接线图识别任务适配需求 Qwen2.5-VL在视觉理解方面表现优异，但电气主接线图识别需要特定领域的结构化输出能力（如设备参数提取、拓扑关系解析）。微调可增强模型对专业符号（如SCB10-1000KVA）和工程图纸布局的理解。

玩电脑的辣条哥

什么是alpaca 或 sharegpt 格式的数据集？LLaMA-Factoryalpaca 或 sharegpt 格式的数据集？“Alpaca”和“ShareGPT”格式的数据集，是近年来在开源大语言模型微调和对话数据构建领域比较流行的两种格式。它们主要用于训练和微调以生成对话或指令驱动的模型。下面我详细介绍两者的特点和示例格式。

《Python星球日记》第72天：问答系统与信息检索名人说：路漫漫其修远兮，吾将上下而求索。—— 屈原《离骚》创作者：Code_流苏(CSDN)（一个喜欢古诗词和编程的Coder😊）

【LLaMA-Factory】使用LoRa微调训练DeepSeek-R1-Distill-Qwen-7B如果不禁用开源驱动，直接安装nvidia-smi，会安装失败，在日志文件/var/log/nvidia-installer.log中会出现以下错误信息 ERROR: Unable to load the kernel module 'nvidia.ko'

AI大模型顾潇

[特殊字符] 本地部署DeepSeek大模型：安全加固与企业级集成方案零信任架构设计：实施要点：建立VPN隧道：wg genkey | tee privatekey | wg pubkey > publickey

大模型微调指南之 LLaMA-Factory 篇：一键启动LLaMA系列模型高效微调LLaMA-Factory 是一个用于训练和微调模型的工具。它支持全参数微调、LoRA 微调、QLoRA 微调、模型评估、模型推理和模型导出等功能。

《Python星球日记》第55天：迁移学习与预训练模型名人说：路漫漫其修远兮，吾将上下而求索。—— 屈原《离骚》创作者：Code_流苏(CSDN)（一个喜欢古诗词和编程的Coder😊）

大模型微调终极方案：LoRA、QLoRA原理详解与LLaMA-Factory、Xtuner实战对比微调（Fine-tuning）是深度学习中的一种常见方法，它通常用于在预训练模型的基础上进行进一步的训练，以适应特定的任务。微调的主要目的是利用预训练模型已经学习到的通用知识，从而提高模型在特定任务上的性能。常见的微调框架有 LLaMA-Factory 和 XTuner 等。

DeepSeek实战--蒸馏知识蒸馏（Knowledge Distillation）最早由Hinton等人在2015年提出，主要用于压缩模型。