多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
换个昵称26 小时前
大模型学习8下-高性能推理引擎vLLM学习笔记
笔记·学习·vllm
报错小能手7 小时前
OpenTenBase学习——集群编译&部署
学习
渣渣灰飞8 小时前
MySQL 系统学习 第二阶段 第四章:DCL(Data Control Language)第二节:权限管理与角色(Role)
数据库·学习·mysql
霸道流氓气质8 小时前
Java 工程师 AI 智能体(Agent)完整学习路线
java·人工智能·学习
AI科技星8 小时前
特征值与特征向量不是矩阵特殊解,是变换矩阵下不改变生长方向、仅缩放体量的固有主螺旋脉络 -《全域数学vs传统数学:人类文明进阶200讲》第73讲
人工智能·线性代数·矩阵·数据挖掘·回归·乖乖数学·全域数学
想要入门的程序猿8 小时前
摄影测量学习()
数码相机·学习
worilb9 小时前
Spring Cloud 学习与实践(13):使用 Seata 解决分布式事务问题
分布式·学习·spring cloud
渣渣灰飞9 小时前
MySQL 系统学习 第四阶段:MySQL 高级 第一节:索引(Index)
数据库·学习·mysql
星子yu10 小时前
【学习】怎么学好数据结构
数据结构·学习
~kiss~10 小时前
MoE的痛点:离散路由
学习