LoRA 大模型微调是怎么回事

预训练:通过海量的输入得到输出,然后计算loss值,不断调整参数的过程。

特点:材料的量大。

微调:(监督微调SFT)投入特定的文本进行训练。

用小矩阵乘法,去适配大矩阵参数的一个过程

什么是LoRA 大模型微调是怎么回事_哔哩哔哩_bilibili

相关推荐
LaughingZhu3 分钟前
Product Hunt 每日热榜 | 2026-05-08
人工智能·经验分享·深度学习·神经网络·产品运营
AI袋鼠帝8 分钟前
体验完Trae送的AI硬件,有点上头..
人工智能
冬奇Lab29 分钟前
RAG 系列(十三):查询优化——让问题问得更好
人工智能·llm
上海云盾第一敬业销售32 分钟前
大模型驱动的网络攻击:AI对抗AI,智能WAF的进化之路
人工智能
冬奇Lab33 分钟前
企业引入 AI 之后,为什么提效不明显?
人工智能·aigc
冬奇Lab1 小时前
一天一个开源项目(第98篇):UI-TARS-Desktop - 字节跳动开源的多模态 GUI 代理栈
人工智能·开源·资讯
青岛前景互联信息技术有限公司1 小时前
OpenClaw 重构智慧消防:AI时代的平台融合实践
大数据·人工智能
梦梦代码精1 小时前
BuildingAI 上部署自定义工作流智能体:5 个实用技巧
大数据·人工智能·算法·开源软件
极客老王说Agent2 小时前
2026智造前瞻:实在Agent生产排期智能助理核心功能与使用方法详解
大数据·人工智能·ai·chatgpt