lora

板面华仔17 小时前
lora·aigc·cv
针对AIGC汽车造型领域的Lora微调(一)在汽车造型领域,进行Lora的领域微调的核心目的:让模型能够稳定输出某一风格或特征;比如,在我汽车概念设计阶段,我就想要这个汽车能够拥有风云A9的曲线,路虎的前脸;但是,模型可能不知道什么是风云A9,什么是路虎的前脸;那这就需要对生图模型进行领域微调!
iowin8881 天前
lora·语音识别·离线语音·离线语音通断器
离线语音 + 无线控制:“断网可用“的智能家居怎么做?做智能家居方案这些年,被业主问得最多的问题不是"能控制多少设备",而是——"路由器一关,我的灯还能开吗?"
华普微HOPERF2 天前
物联网·lora·智慧水表·智慧电表
远距离、低功耗、大容量,RFM6601如何打造可靠的LoRaWAN网络随着智能表计、智慧消防、智慧农业、智慧城市等物联网应用的快速发展,越来越多的终端设备需在复杂环境下具备远距离、低功耗、高可靠的无线传输能力。
论文复现现场4 天前
lora·sdxl·stablediffusion·diffusers·rtx4090
算家云 RTX 4090 怎么训练 SDXL LoRA?24GB 显存配置、CUDA OOM 排查与断点续训发布时间:2026 年 9 月 14 日单张 24GB RTX 4090 可以作为 SDXL LoRA 训练的起始配置。建议先用 768 分辨率、batch size 1 和 100 步小样本完成显存、出图及断点恢复验收,再决定是否提高到 1024 分辨率和正式训练步数。
Allen.Su6 天前
人工智能·python·lora·大模型微调
大模型 LoRA 微调全流程实战 - 车载问答全流程(跑通 + 参数详解 + 训练日志逐行解读 + 模型合并)运行环境:Windows 11 + Python 3.10 + PyTorch(CPU) + transformers 5.x + peft 基座模型:Qwen1.5-1.8B-Chat | 数据规模:30 条车载问答 | 训练耗时:CPU 约 34 分钟 源码仓库(Gitee):https://gitee.com/allensu0108/llm-fine-tuning | 训练脚本、合并脚本、30 条数据与 README 全在里面,可直接克隆运行: git clone https://gitee.com
weixin_4402132925 天前
lora·大模型·peft·qlora·dora·大模型微调·参数高效微调
大模型参数高效微调:PEFT、LoRA、QLoRA、DoRA原理与对比摘要:大模型全参微调硬件门槛极高,PEFT参数高效微调成为工业界主流方案。本文讲解PEFT核心概念,对比LoRA、QLoRA、DoRA三者原理、优缺点、适用场景,附带代码示例与选型建议,帮助快速落地大模型微调。
孙启超1 个月前
人工智能·lora·llm·微调·sft·token·rlhf
【大模型应用开发】LLM 到底是什么,以及它是怎么训练的你有没有想过一个问题:为什么 ChatGPT 能跟你对话?它不是"搜答案"。如果你问它"1+1 等于几",它不是去百度查,而是"算"出来的。更准确地说,是"生成"出来的——它基于你输入的文字,一个 token 一个 token 地预测下一个字该是什么。
美人胖八分1 个月前
lora·大语言模型·deepspeed·qlora
大模型常见微调框架对比微调框架的价值不只在于启动训练,还要正确处理聊天模板、损失掩码、4-bit 基座加载、LoRA 注入、分布式检查点与权重导出。选型前应分清层级:Transformers 提供模型、Tokenizer 和通用 Trainer;PEFT 实现 LoRA 等参数高效方法;Accelerate 统一设备和任务启动;DeepSpeed ZeRO、PyTorch FSDP 负责切分参数、梯度与优化器状态;Megatron-Core 则提供张量、流水线、上下文和专家并行。LLaMA-Factory、Axolotl 和
laforet1 个月前
stable diffusion·lora·fp8
Stable Diffusion 3.5 FP8模型支持自定义训练数据集接入你有没有遇到过这样的场景:好不容易搭好了 Stable Diffusion 的推理服务,结果一跑高分辨率图,显存直接爆了?😱 或者用户等着生成海报,系统却卡在“去噪中”整整十几秒……这在生产环境里简直没法忍。
张彦峰ZYF2 个月前
人工智能·lora·llm·embedding·rag·few-shot
大模型LLM ACA - ACP认证考试真题冲刺演练二答案参考目录一、大模型LLM ACA - ACP认证考试二、大模型LLM ACA - ACP认证考试真题冲刺演练一
emfuture2 个月前
人工智能·科技·lora·知识图谱·工业大模型·垂类微调·工控ai
中嵌科技“岷山“实验室技术拆解:基于 DeepSeek-7B 的工控垂类模型,怎么把推理压到 50ms 以内?通用 LLM 在工业实时控制场景水土不服(延迟、精度、改造成本三座山)。本文拆解中嵌科技"岷山"工业人工智能实验室的技术路径:基于 DeepSeek-LLM-7B-Base,用 LoRA+MoE 微调 + INT4/8 混合量化 + 30% 结构化剪枝 + 知识蒸馏,把 7B 级模型压到原体积 15%-20%、精度损 <1%、端到端推理 ≤50ms,并能原生对接现有 DCS/PLC 架构不改控制回路。附参数表与白皮书锚点。
troubles maker3 个月前
语言模型·自然语言处理·lora·大模型·peft
LoRA: Low-Rank Adaptation of Large Language Models论文链接:https://arxiv.org/pdf/2106.09685v1/1000大模型下游迁移微调是行业落地的关键环节,传统全参数微调存在参数量大、算力消耗高、权重分发不便、易发生原有知识覆盖等缺陷。Adapter、Prefix Tuning、Prompt Tuning 等一系列参数高效微调(Parameter-Efficient Fine-Tuning,PEFT)方案被陆续提出,其中低秩自适应( Low-Rank Adaptation,LoRA)[1]方案凭借收敛速度快、推理无额外延迟、兼容性强
虎妞05003 个月前
深度学习·lora·大模型·微调·qlora
大模型微调实战:LoRA 与 QLoRA 原理精讲大语言模型(LLM)虽然在通用场景表现优异,但在特定领域任务上往往力不从心。以 GPT-4 为例,它在医学诊断、法律文书、企业私有知识等垂直场景的表现明显不足。**全量微调(Full Fine-tuning)**虽然效果最好,但开销巨大——训练 LLaMA-65B 需要 780GB+ 显存,绝非普通团队所能承受。
zhy295633 个月前
人工智能·lora·dnn·llama·qwen3
【DNN】基于llama.cpp的Qwen3-0.6B量化部署微调3.3 模型转换
行者-全栈开发3 个月前
物联网·网络安全·lora·边缘计算·nb-iot·mqtt 协议·传感器选型
【智慧防洪】水利物联网监测网络设计:从传感器选型到边缘计算的完整实践💡 摘要: 物联网是智慧水利的感知基石。本文深入解析水利物联网监测网络的完整架构,涵盖传感器技术选型(水位、雨量、流速、含沙量)、RTU 终端设计、通信协议对比(MQTT、CoAP、Modbus)、边缘计算策略、网络安全防护等核心技术。通过汉江、长江、黄河的实际部署案例,展示如何构建高可靠、低功耗、易维护的水利 IoT 网络。提供完整的硬件配置清单、代码示例和成本核算,助力水利信息化基础设施建设。
学Linux的语莫3 个月前
ai·lora·模型微调
LlamaFactory微调框架的使用最好使用NVIDIA CUDA的显卡在终端/命令行里执行,不是在 Python 代码里执行。如果你是 Windows,按这个来:
litble4 个月前
人工智能·lora·量化·peft·qlora·高效微调
如何速成LLM以伪装成一个AI研究者(6)——LoRA,Adapter,P-tuning,量化,QLoRA如何速成LLM以伪装成一个AI研究者(1)——循环,卷积,编解码器,注意力,Transformer 如何速成LLM以伪装成一个AI研究者(2)——Pre-LN,KV-Cache优化,MoE 如何速成LLM以伪装成一个AI研究者(3)——预训练,监督微调,强化学习RLHF/DPO 如何速成LLM以伪装成一个AI研究者(4)——PPO,GRPO,DAPO,GSPO 如何速成LLM以伪装成一个AI研究者(5)——显存估算,显卡选择
小何code4 个月前
lora·llama·peft·qlora·大模型微调
人工智能【第53篇】大模型微调实战:LoRA与QLoRA技术详解作者的话:预训练的大语言模型(如GPT、LLaMA)虽然能力强大,但在特定领域任务上往往表现不佳。全量微调成本高昂,且需要大量计算资源。LoRA(低秩适配)和QLoRA(量化LoRA)技术的出现,让我们能够以极低的成本高效微调大模型。本文将深入解析这两种技术的原理,并带你完成完整的微调实战!
SmartRadio4 个月前
javascript·stm32·单片机·嵌入式硬件·lora·自组网·smart tdma
STM32WLE5 LoRa Smart TDMA 完整协议栈实现(工程级可直接编译)-【1】✅ TDMA 周期:70ms ✅ 同步策略:每 32 个周期网关下发同步帧 ✅ 工作频率:915MHz ✅ 最大节点数:256 个(0~255) ✅ Mesh 路由中继(自动中继、多级转发) ✅ 移动节点自适应漫游(信号自动切换网关/父节点) ✅ 宏定义区分网关 / 节点 ✅ 基于 STM32WLE5 原生 SUBGHZ 无阻塞、低功耗运行
SmartRadio4 个月前
stm32·单片机·嵌入式硬件·lora·tdma·自组网·smart tdma
STM32WLE5 LoRa Smart TDMA 完整协议栈工程实现 -【2】本版为可直接编译工程版,补齐:文件清单:✅ 周期 70ms ✅ 每 32 周期 网关同步 ✅ 915MHz ✅ 256 节点 ✅ TDMA 时隙无冲突 ✅ Mesh 路由中继(3级) ✅ 移动节点自适应漫游 ✅ 宏区分网关/节点 ✅ STM32WLE5 SUBGHZ 中断驱动 ✅ 低功耗、可直接编译