书生·浦语 大模型(学习笔记-5)XTuner 微调 LLM:1.8B、多模态、Agent

目录

一:两种微调

二、数据的一生

三、微调方案

四、XTuner

[五、InternLM2 1.8B模型(相关知识)](#五、InternLM2 1.8B模型(相关知识))


一:两种微调

增量与训练和指令微调的区别

二、数据的一生

原始数据转换为标准格式数据

添加对话模板,直接调用即可,会拼接

三、微调方案

三种加载对比

四、XTuner

五、8GB 显存玩转 LLM

五、InternLM2 1.8B模型(相关知识)

适合初学者使用

六、多模态LLM

感觉原理和之前的增量与训练有些相似,具体还没总结出来哪里不太一样

学完感觉对大模型的理解更近一步

相关推荐
南宫生11 分钟前
Java迭代器【设计模式之迭代器模式】
java·学习·设计模式·kotlin·迭代器模式
虾球xz20 分钟前
游戏引擎学习第203天
学习·游戏引擎
WDeLiang1 小时前
Flask学习笔记 - 模板渲染
笔记·学习·flask
明月清了个风1 小时前
数据结构与算法学习笔记----贪心区间问题
笔记·学习·算法·贪心算法
因为奋斗超太帅啦2 小时前
MySQL学习笔记(一)——MySQL下载安装配置
笔记·学习·mysql
aoxiang_ywj2 小时前
【Linux】内核驱动学习笔记(二)
linux·笔记·学习
WhyNot?3 小时前
深度学习入门(三):神经网络的学习
深度学习·神经网络·学习
Moonnnn.3 小时前
运算放大器(五)电压比较器
笔记·学习·硬件工程
KangkangLoveNLP4 小时前
手动实现一个迷你Llama:使用SentencePiece实现自己的tokenizer
人工智能·深度学习·学习·算法·transformer·llama
kfepiza4 小时前
`accept_ra` 和 `autoconf` 和 `forwarding` 的关系 笔记250404
linux·网络·笔记·tcp/ip·智能路由器·ip·tcp