多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
ysu_0314几秒前
leetcode数据结构与算法5~7:链表双指针与二级指针
数据结构·学习·算法·leetcode·链表
知识分享小能手3 分钟前
Hadoop学习教程,从入门到精通, 初识Hadoop — 知识点详解(1)
大数据·hadoop·学习
JdSnE27zv8 分钟前
EF Code First学习笔记:数据库创建
数据库·笔记·学习
xian_wwq12 分钟前
【学习笔记】「大模型安全:攻击面演化史」第 06 篇-红队方法论
笔记·学习·ai安全
wu_ye_m16 分钟前
学习c语言第34天 用函数每次输出+1,链式访问,int和void
c语言·学习·算法
MartinYeung519 分钟前
[论文学习]LLM 遗忘机制对真实世界扰动资料的稳健性研究
学习
凉、介23 分钟前
深入理解 ARMv8-A|Application Binary Interface (ABI)
c语言·笔记·学习·嵌入式·arm
zhangakirn34 分钟前
Systems Biology Part 1学习笔记
笔记·学习
say_fall39 分钟前
模拟量输入输出技术超详细知识点总结
linux·开发语言·嵌入式硬件·学习·php
armwind44 分钟前
openISP学习7-CCM — Color Correction Matrix(色彩校正矩阵)
python·学习·矩阵