书生·浦语 大模型(学习笔记-5)XTuner 微调 LLM:1.8B、多模态、Agent

目录

一:两种微调

二、数据的一生

三、微调方案

四、XTuner

[五、InternLM2 1.8B模型(相关知识)](#五、InternLM2 1.8B模型(相关知识))


一:两种微调

增量与训练和指令微调的区别

二、数据的一生

原始数据转换为标准格式数据

添加对话模板,直接调用即可,会拼接

三、微调方案

三种加载对比

四、XTuner

五、8GB 显存玩转 LLM

五、InternLM2 1.8B模型(相关知识)

适合初学者使用

六、多模态LLM

感觉原理和之前的增量与训练有些相似,具体还没总结出来哪里不太一样

学完感觉对大模型的理解更近一步

相关推荐
yuhouxiyang6 小时前
学习海康VisionMaster之路径提取
学习·计算机视觉
PLUS_WAVE7 小时前
CogCoM: A Visual Language Model with Chain-of-Manipulations Reasoning 学习笔记
学习·语言模型·大模型·cot·vlm·推理模型·reasoning
绵绵细雨中的乡音8 小时前
Linux进程学习【环境变量】&&进程优先级
linux·运维·学习
贺函不是涵8 小时前
【沉浸式求职学习day27】
学习
努力奋斗的小杨8 小时前
学习MySQL的第十二天
数据库·笔记·学习·mysql·navicat
枫叶20008 小时前
OceanBase数据库-学习笔记1-概论
数据库·笔记·学习·oceanbase
一点.点9 小时前
李沐动手深度学习(pycharm中运行笔记)——04.数据预处理
pytorch·笔记·python·深度学习·pycharm·动手深度学习
一点.点9 小时前
李沐动手深度学习(pycharm中运行笔记)——07.自动求导
pytorch·笔记·python·深度学习·pycharm·动手深度学习
你可以叫我仔哥呀9 小时前
k8s学习记录(五):Pod亲和性详解
学习·容器·kubernetes
tcoding9 小时前
《MySQL 技术内幕-innoDB 存储引擎》笔记
数据库·笔记·mysql