多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
lhh_qrsly1 小时前
HTTP / HTTPS / MQTT / MQTTs(嵌入式学习版)
学习·http·https
DeeGLMath18 小时前
optimtool最新版加速训练分类任务
人工智能·分类·数据挖掘
xier_ran18 小时前
【infra之路】AI 编译器学习笔记(十三):AI 编译器全景——TVM、XLA、IREE 与其他
人工智能·笔记·学习
连山齐名18 小时前
ai应用开发的学习笔记
服务器·笔记·学习
tomwang032218 小时前
路径优化建模、优化算法分类及工程化小结
算法·数学建模·分类
注塑机数据采集联网18 小时前
如何解决注塑机数据采集联网对接MES系统数据WiFi传输数据不稳问题
大数据·数据库·物联网·数据挖掘·数据分析
xier_ran19 小时前
【infra之路】AI 编译器学习笔记(十四):为什么要 tiling,以及矩阵计算单元的“固定“
人工智能·笔记·学习
燕落南枝19 小时前
HTML 学习:辅助标签 label 与字符实体
前端·学习·html
hackchen19 小时前
LangChain 学习第 3 课 - 输出解析器(Output Parser)
数据库·学习·langchain
wangguanghou120 小时前
【学习成长】深入解析721学习成长模型:70-20-10法则的实践指南与避坑手册
学习