多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
UIU1149 分钟前
CPU、RAM与外设寄存器
学习
tju新生代魔迷12 分钟前
Verilog HDL 学习笔记(十二)| 第12章 用户自定义原语(UDP)
笔记·学习·udp
天辛大师15 分钟前
天辛大师浅谈AI时代,“学会学习“本身的内涵也需要被重新定义?
人工智能·深度学习·学习·启发式算法·量子计算
是隼人29 分钟前
buuctf-pwn PWN1题解(学习过程持续更新)
c语言·学习·安全·pwn入门·ctf入门
HugoStudio_SWAN33 分钟前
洛谷 P1321 单词覆盖还原——从蜡板上的密信到数字水印
c++·学习·程序人生·算法
春风解人意36 分钟前
从零开始学习嵌入式P33----网络基础之HTTP
网络·学习·http
励志不掉头发的内向程序员41 分钟前
【LibreCAD 2D架构】从鼠标点击到屏幕像素:LibreCAD绘图架构全链路解析之Action与命令系统
linux·开发语言·c++·qt·学习·系统架构
小道士写程序1 小时前
自然语言处理NLP - 第8章 词向量与神经网络:从手工特征到学习表示
神经网络·学习·自然语言处理
m4Rk_2 小时前
【论文阅读】Agent 记忆机制(59):Synapse——让相关记忆沿情景—语义图被逐步激活
论文阅读·人工智能·学习·开源·github
William一直在路上3 小时前
MCP 规范版本对比:2025-11-25 vs 2026-07-28
学习·ai·llm