深度学习炼丹炉

调参对象可针对模型本身和参数进行设置。模型本身的内容包括优化器、激活函数、正则化、损失函数等;参数设置包括:GPU数量、批处理大小、Epoch数量、初始化权重、学习率等。

针对权重初始化通常采用预训练模型或者xavier,其中前者为使用训练集得到的参数信息,更一般的为后者,通过设置参数分布来初始化权重。

相关推荐
刘~浪地球1 分钟前
DeepSeek V4 安全性与伦理:AI发展之路的思考
人工智能·deepseek v4
DanCheOo1 分钟前
开源 | ai-memory v2.6.2:不用配 API Key,一行命令把 Cursor 对话变成结构化知识库
人工智能·ai·ai编程
木枷2 分钟前
rl/swe/sft相关论文列表
人工智能·深度学习
A7bert7773 分钟前
【YOLOv8pose部署至RDK X5】模型训练→转换bin→Sunrise 5部署
c++·python·深度学习·yolo·目标检测
爱学习的张大4 分钟前
具身智能论文精度(八):Pi0.6
人工智能·深度学习
析稿AI写作5 分钟前
如何系统整合文献资源,写出有理论根基与深度的学术论文?
人工智能·ai写作·论文笔记
EnCi Zheng9 分钟前
02-序列到序列模型
人工智能·神经网络·transformer
一起学开源12 分钟前
企业级AI应用开发底座应该怎么设计?
人工智能·系统架构·智能体
生成论实验室16 分钟前
《事件关系阴阳博弈动力学:识势应势之道》第二篇:阴阳博弈——认知的动力学基础
数据结构·人工智能·科技·神经网络·算法
guslegend19 分钟前
第3章:快速入门SpringAI Alibaba
人工智能·springai