多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
经济元宇宙3 分钟前
摄影培训行业百科:机构选择与学习路径全解析
大数据·人工智能·学习
じ☆冷颜〃25 分钟前
实分析与测度论、复分析、傅里叶分析、泛函分析、凸分析概述.
笔记·学习·数学建模·拓扑学·傅立叶分析
星夜夏空991 小时前
STM32单片机学习(10)——GPIO输入
stm32·单片机·学习
南境十里·墨染春水2 小时前
linux学习进展 shell编程
linux·运维·学习
xwz小王子3 小时前
机器人学习十年进化史——从强化学习到VLA的范式变迁
大数据·学习·机器人
小新同学^O^4 小时前
简单学习 --> WebSocket
java·websocket·网络协议·学习
z200509306 小时前
【linux学习】linux的基本指令
linux·学习
AOwhisky6 小时前
Docker 学习笔记:镜像分发、容器运行与资源限制
笔记·学习·docker
MediaTea7 小时前
人工智能通识课:机器学习之无监督学习
人工智能·深度学习·学习·机器学习
Daorigin_com7 小时前
道本科技三大系统形成的“合同—合规—法务”智能闭环!
科技·职场和发展·分类·服务发现·边缘计算·集成学习·敏捷流程