多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
lengxuemo9 小时前
ICC2学习笔记之Placement and Optimization
笔记·学习
温柔只给梦中人9 小时前
NLP学习:注意力机制
人工智能·学习·自然语言处理
逐影者39710 小时前
ch592f学习
学习
小满Autumn10 小时前
MVVM Light 架构笔记:定位器、命令、消息与 IoC 实践
笔记·学习·架构·c#·上位机·mvvm
蓝黑墨水10 小时前
动画角色的整个流程
学习
ZK_H12 小时前
MFC学习——简易计算器以及跨应用通信
学习·5g·mfc
程序员猫哥_12 小时前
AI建站工具选型指南:不同模式对比与核心筛选标准
数据挖掘
V搜xhliang024613 小时前
临床科研新范式:从选题到投稿,AI智能体如何接管全流程?
运维·数据结构·人工智能·算法·microsoft·数据挖掘·自动化
踏着七彩祥云的小丑14 小时前
Go学习第1天:入门
开发语言·学习·golang·go