多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
我是哈哈hh27 分钟前
【Python数据分析】Numpy总结
开发语言·python·数据挖掘·数据分析·numpy·python数据分析
qq_3814549931 分钟前
Python学习技巧
开发语言·python·学习
im_AMBER34 分钟前
算法笔记 18 二分查找
数据结构·笔记·学习·算法
van久1 小时前
.Net Core 学习: Razor Pages -- EF Core简介
学习·.netcore
以孝治家行动2 小时前
学习无止境 行动在进行—以孝治家义工暖心守护独居老人
学习·以孝治家
Radan小哥3 小时前
Docker学习笔记—day011
笔记·学习·docker
星域智链3 小时前
AI加持日常小节日:让每一份心意都精准升温✨
人工智能·科技·学习·生活·节日
xiaoxiaoxiaolll3 小时前
《Light: Science & Applications》基于拓扑能量转移网络的UCNPs,实现65nm超分辨成像与10倍功耗降低
学习
可可苏饼干3 小时前
Ruo-Yi 前后端分离
运维·学习
Slaughter信仰4 小时前
图解大模型_生成式AI原理与实战学习笔记(前三章综合问答)
人工智能·笔记·学习