chatglm2微调—ptuning

P-Tuning: 在输入的embedding层前,将prompt转换为可学习的额外一层embedding层.

  • P-Tuning,仅对大模型的Embedding加入新的参数。
  • P-Tuning-V2,将大模型的Embedding和每一层前都加上新的参数。
  • 当prefix_projection为True时,为P-Tuning-V2方法,在大模型的Embedding和每一层前都加上新的参数;为False时,为P-Tuning方法,仅在大模型的Embedding上新的参数。
相关推荐
冰西瓜6005 分钟前
深度学习的数学原理(四十)—— Transformer 推理全过程
人工智能·深度学习·transformer
Bingorl7 分钟前
机器学习之集成学习
人工智能·机器学习·集成学习
weixin_4684668514 分钟前
SURF 图像特征提取算法新手实战指南
图像处理·人工智能·算法·机器视觉·surf·sift
盛夏光年爱学习15 分钟前
Agentic RAG 深度解析:让 Agent 自己决定要不要检索、检索几次,这才是 RAG 的正确打开方式
人工智能
weiwin12315 分钟前
MAF入门(3 下):多轮对话进阶——清除历史、注入 System、截断策略
人工智能·agent
Coder小相17 分钟前
LangChain 1.0 第五篇 - Tool与MCP让Agent拥有行动力
人工智能·langchain·ai编程
太华20 分钟前
学习AI Agent编程-第五天-LlamaIndex - 将Nodes生成索引并存储
人工智能
太华22 分钟前
学习AI Agent编程-第三天-LlamaIndex - 如何将PDF文件正确转成Document
人工智能
jiayong2331 分钟前
AI架构师面试问题与解答 - 深度学习架构篇
人工智能·深度学习
unclejet36 分钟前
颠覆传统开发!AI根治软件工程技术债务顽疾
大数据·人工智能·软件工程