【论文阅读】FedABC: Targeting Fair Competition in Personalized Federated Learning

论文链接(AAAI2023)

文章解决的问题主要是NO-IID问题。

文章的方法包括几个关键的技术和策略,具体如下:

  • 二元分类框架:

    FedABC利用二元分类的训练策略来解决每个类别的个性化问题。这意味着对于每个类别都训练一个独立的二元分类器,从而使得每个类别都能得到足够的关注,即使是那些样本较少的类别。

  • 欠采样和硬采样策略:

    为了处理数据中的类别不平衡问题,FedABC采用了欠采样技术,这可以帮助模型减少对多数类的过分关注,从而提高对少数类的分类性能。

    硬采样(hard sample mining)策略被用来进一步提升模型对于难以分类样本的关注,这有助于模型在处理难题时获得更好的性能。

  • 个性化学习策略:

    文章强调了在极端非独立同分布(Non-IID)情况下,通过个性化模型来适应每个客户端的数据分布,这种策略可以显著提高模型在本地客户端数据上的表现。

主要就是提出了二元分类策略,将多分类变成n个二分类任务,每个二分类任务将本类别内的样本作为正样本,其他所有的类别作为负样本,这样能显著减少NOIID的影响。当然缺点应该是需要同时训练n个模型,计算的代价变高了。

相关推荐
啦啦啦~~~2228 小时前
PC端+安卓端阅读器推荐!开源本地小说阅读器软件,
android·论文阅读·windows·开源软件·福昕阅读器
VL——MOESR8 小时前
【具身智能】TurboVLA阅读随笔
论文阅读·机器学习·turbo·具身智能·vla
m4Rk_12 小时前
【论文阅读】Agent 记忆机制(60):MemInsight——让 LLM 自动为历史记忆生成语义索引
论文阅读·人工智能·学习·开源·github
tangjiawen101791 天前
印度增长的齿轮与隐忧:大体量下的慢与快
论文阅读
m4Rk_1 天前
【论文阅读】Agent 记忆机制(59):Synapse——让相关记忆沿情景—语义图被逐步激活
论文阅读·人工智能·学习·开源·github
扫描电镜1 天前
Nature Communications:SEM-EDS解析高性能海水电解催化电极微观结构
论文阅读·科研·扫描电镜
tangjiawen101792 天前
海外竞争新格局下,中国汽车的真正分水岭
论文阅读
tangjiawen101792 天前
光伏超越煤电:中国能源重组的底层逻辑
论文阅读
柳叶方舟2 天前
Nature:AI 第一次把生物学发现做成“假设—实验—数据分析”闭环?
大数据·论文阅读·人工智能·数据分析·健康医疗
chnyi6_ya2 天前
论文阅读笔记 | Agent0-VL:把工具用进“自我评估“,让视觉语言智能体零外部奖励地自我进化
论文阅读·笔记