多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
Wokoo714 分钟前
开发者AI大模型学习与接入指南
java·人工智能·学习·架构
小猪佩奇TONY1 小时前
OpenCL 学习(3)---- OpenCL 第一个程序
学习
守护安静星空1 小时前
live555学习笔记
笔记·学习
航Hang*1 小时前
第1章:初识Linux系统——第13节:总复习②
linux·笔记·学习·centos
YJlio2 小时前
PsPing 学习笔记(14.1):ICMP Ping 进阶——替代系统 ping 的正确姿势
windows·笔记·学习
BMS小旭2 小时前
CubeMx-GPIO学习
单片机·学习
雍凉明月夜3 小时前
深度学习网络笔记Ⅲ(注意力机制)
笔记·深度学习·神经网络·分类
東雪木6 小时前
编程算法学习——数组与排序算法
学习·算法
代码游侠6 小时前
复习—sqlite基础
linux·网络·数据库·学习·sqlite
ASD123asfadxv6 小时前
齿轮端面缺陷检测与分类_DINO-4Scale实现与训练_1
人工智能·分类·数据挖掘