多分类loss学习记录

这里简单的记录在人脸识别/声纹识别中常用的分类loss。详细原理可以参考其他博客。
扩展资料1
扩展资料2

  • L-softmax A-softmax AM-softmax

    L-softmax :基于softmax加入了margin, Wx 改写为||w|| ||x||cos(角度),将角度变为了m 角度

    A-softmax :a=Angular,归一化||w||为1,b=0,W*x 变成了cos(theta),只优化角度

    AM-softmax : 将A-softmax中的角度乘法,改为了cos角度之后做减法,好像实现等于CosFace,只不过分析角度不同

  • ArcFace CosFace SphereFace

    arcface sphereface cosface都在上面的基础上添加了margin,但是margin添加的位置不同;

    arcface直接作用于角度加法,使得类内角度尽量小;

    sphere直接作用于角度乘法,使得类内角度尽量小;

    cosface直接作用于cos角度计算之后,做减法,使得(cos角度)越大越好;

相关推荐
zhangrelay7 小时前
新版|-|单片机原理与接口技术-2026持续改进优化-从MEGA2560-ESP32与Wokwi到ROS2-Lyrical与具身智能栈
笔记·单片机·嵌入式硬件·学习
叼烟扛炮11 小时前
Linux 学习笔记(三十三):线程互斥——互斥锁(Mutex)与死锁
linux·运维·服务器·笔记·学习·1024程序员节
m4Rk_13 小时前
【论文阅读】Agent 记忆机制(113):Agentic Memory Management——从“检索相关信息”走向“管理 Agent 内部记忆”
论文阅读·人工智能·学习·开源·github
辣知14 小时前
辣知·化智92 《山海经》里的史前密码
学习
鬼手点金14 小时前
KV Cache 未必是一次性的:可编辑、可组合的“笔记”
java·人工智能·笔记·学习·自动化·1024程序员节
kyrie_sakura15 小时前
大模型学习18 大模型学习 - LangChain2_Model I/O
学习·自然语言处理
四季豆3316 小时前
AI时代中小企业如何低成本提升数据和知识质量?
大数据·人工智能·数据挖掘
宝绿特塑业再生科技16 小时前
板材收缩率不稳,户外家具装配尺寸为何对不上:从切割尺寸变化到接缝不一的系统性排查与对策
笔记·科技·学习·生活·户外家具·hdpe再生颗粒·hdpe
admin and root16 小时前
《神农安全.AI漏洞挖掘src赏金》单独开放!
安全·web安全·网络安全·数据挖掘·渗透测试·ai安全·白帽子黑客
~城南花已开~17 小时前
Intel E810 SR-IOV VF Spoofcheck 防伪造测试-KVM3
服务器·网络·笔记·学习·ubuntu·etl工程师