高效微调理解(prompt-tuning,p-tuning v1,p-tuning v2,lora)

高效微调(prompt-tuning,p-tuning v1,p-tuning v2,lora)

1.prompt-tuning:

例子理解;保持原本模型参数不变,通过训练提示词的参数调整prompt,使其与下游任务匹配。

例子:

2.p-tuning:

与prompt-tuning不同的是, prompt 不再是固定的文本,而是通过可学习的向量来表示

例子:

3.p-tuning v2:

与p-tuning不同的是v2在每一层(encoder / decoder)都加入learned prefix

4.lora:

Lora方法指的是在大型语言模型上对指定参数增加额外的低秩矩阵,也就是在原始PLM旁边增加一个旁路,做一个降维再升维的操作。并在模型训练过程中,固定PLM的参数,只训练降维矩阵A与升维矩阵B。而模型的输入输出维度不变,输出时将BA与PLM的参数叠加。用随机高斯分布初始化A,用0矩阵初始化B。

结构图:

相关推荐
人工智能培训17 分钟前
破解数据发展瓶颈 激活数字经济新动能
大数据·数据库·人工智能·深度学习·神经网络·机器学习·生成对抗网络
阿里云大数据AI技术17 分钟前
MaxCompute 多模态检索:原生向量能力开启多模态 AI 大数据处理新范式
人工智能
绝世番茄21 分钟前
鸿蒙 HarmonyOS ArkTS 音乐播放器界面布局深度学习指南
深度学习·华为·list·harmonyos·鸿蒙
CCYe、29 分钟前
生产级 AI 网关落地:鉴权、限流与故障转移的 7 个坑
人工智能
库拉大叔31 分钟前
一站式AI模型聚合平台实测:GPT/Claude/Gemini全系调用,国内直连无需翻墙
人工智能·gpt
happyprince36 分钟前
03_NVIDIA_ModelOpt-量化算法深入
人工智能·深度学习·算法
孤月葬花魂41 分钟前
Token 正在吞掉程序员的钱包:一个月 AI 成本上万元,新时代的“生产资料”已经变了
人工智能
exarunner43 分钟前
KV Cache 驱逐要不要上 Radix Tree?以 Mooncake模拟一下
人工智能
阿牛哥_GX43 分钟前
Angular 页面自动化进阶:Select2 组件与表单提交
人工智能
橘子星1 小时前
🤖 从零造一个AI程序员:30行核心代码拆解Cursor背后的Agent原理
人工智能