多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
莫逸雪6 小时前
Nodemo使用学习
学习·编辑器·vim
列星随旋8 小时前
线段树和树状数组的学习
学习·算法
辰海Coding9 小时前
MiniSpring框架学习-整合 IoC 和 MVC(NPC)
学习·spring·mvc
知识分享小能手11 小时前
Flask入门学习教程,从入门到精通,数据库操作 — 知识点详解与案例代码(4)
数据库·学习·flask
wubba lubba dub dub75012 小时前
第四十八周学习周报
学习
生成论实验室12 小时前
用事件关系网络重新理解AI(三):激活函数、微调与元学习
人工智能·学习·算法·语言模型·可信计算技术
辰海Coding13 小时前
MiniSpring框架学习-为什么一个请求访问 /helloworld,最后能调用到某个 Controller 方法?原始 MVC实现
java·学习·程序人生·spring·mvc
凉、介13 小时前
深入理解 ARMv7-A|异常/中断处理
笔记·学习·嵌入式·arm
wxytxdy13 小时前
通过猜数字游戏学习Shell脚本的分支、循环编写
linux·学习
我想我不够好。13 小时前
观察对方打野的动向,预判下一次gank的时机
学习