chatGPT讲师AIGC讲师叶梓:大模型这么火,我们在使用时应该关注些什么?-5

以下为叶老师讲义分享:

P25-P28

提示工程的模式

  • 9、翻译是一种转化。 由于人类对语言理解的巨大需求,翻译涉及 ChatGPT 翻译和转换不同的语言或术语。
  • 10、推理模式下,可以让 ChatGPT 观察和推断未知的事实或逻辑关系。 它的价值在于提供更全面的解决方案和灵感。
  • 11、感应模式下,ChatGPT 可以从具体的例子或事实中归纳出一般规则或结论,看到一些事物的本质。
  • 12、模拟 模式下,可以让 ChatGPT 模拟一个过程或现象
  • 13、演员 模式下,可以让你与其进行更专注、更专业的对话,提高获取信息的效率。

微调大模型的意义

  1. 节省计算资源:
    1. 在微调过程中,不需要重新训练整个模型,因此可以节省计算资源。
  2. 提高特定任务上的性能:
    1. 通过微调,模型可以适应特定任务的语言特征和模式,从而提高模型的性能。
  3. 保留模型的通用性:
    1. 预训练模型具有较高的通用性能,微调可以帮助模型适应特定任务的语言特征和模式,从而提高模型的通用性。
  4. 减少数据需求:
    1. 预训练模型已经过大量训练,因此在微调过程中可以使用较少的数据。

微调大模型的方法(Adapter-Tuning)

  • 微调时冻结预训练模型的主体,由Adapter模块学习特定下游任务的知识。
  • Adapter调优的参数量大约为LM参数的3.6%。
  • Prefix Tuning只是在每个任务前有少量的prefix的参数,
  • 比如翻译任务,可以在每句话的前面加上"翻译:"来引导模型进行翻译功能。
  • Prefix Tuning参数规模约为LM模型整体规模的0.1%。

未完,下一章继续......

相关推荐
jonyleek1 小时前
如何搭建一套安全的,企业级本地AI专属知识库系统?从安装系统到构建知识体系,全流程!
人工智能·安全
MQ_SOFTWARE2 小时前
AI驱动的金融推理:Fin-R1模型如何重塑行业决策逻辑
人工智能·金融
生医转码,四海为家2 小时前
零基础-动手学深度学习-6.6 卷积神经网络(LeNet)
人工智能·深度学习·cnn
无名工程师2 小时前
AI 学习过程中各阶段的学习重点、时间规划以及不同方向的选择与建议等内容
人工智能·学习
WXX_s3 小时前
【OpenCV篇】OpenCV——03day.图像预处理(2)
人工智能·python·opencv·学习·计算机视觉
有才不一定有德3 小时前
深入剖析 MetaGPT 中的提示词工程:WriteCode 动作的提示词设计
人工智能·aigc·提示词工程
花月mmc3 小时前
CanMV-K230 AI学习笔记系列
人工智能·笔记·学习
s1ckrain4 小时前
【论文阅读】ON THE ROLE OF ATTENTION HEADS IN LARGE LANGUAGE MODEL SAFETY
论文阅读·人工智能·语言模型·大模型安全
Jackilina_Stone4 小时前
【论文|复现】YOLOFuse:面向多模态目标检测的双流融合框架
人工智能·python·目标检测·计算机视觉·融合