阿里巴巴开源联邦学习框架FederatedScope

5月5日,阿里巴巴达摩院发布新型联邦学习框架FederatedScope,声称可以在不共享训练数据的情况下开发机器学习算法,从而保护隐私。,其源代码现已在Apache 2.0许可下发布在GitHub上。

介绍

该平台被描述为一个全面的联邦学习框架,为学术界和工业界的各种机器学习任务提供灵活的定制。它还被声称易于掌握,允许用户集成自己的组件,包括特定应用程序的数据集和模型。

联邦学习,顾名思义,是一种跨多个分布式节点或主机训练模型的机器学习技术。每个节点使用本地训练数据,如果模型参数在节点之间共享,而不是原始数据,这意味着数据本身可以保持私有。

根据阿里巴巴的说法,由于潜在的隐私问题,收集训练数据来构建和进化机器学习模型越来越受到审查,而联邦学习可以帮助解决其中的一些问题

达摩院智能计算实验室隐私保护计算团队负责人丁博麟表示,"数据已成为重要的生产要素,而隐私保护计算是保障这一要素发挥作用的关键技术。通过开源最新联邦学习框架,我们希望促进隐私保护计算在研究和生产中的广泛应用,让医药研发、政务互通、人机交互等数据密集领域更安全、更顺畅地发展。"

流程图

特点

  • 该框架使用事件驱动的编程范式来构建联邦学习,即将联邦学习看成是参与方之间收发消息的过程,通过定义消息类型以及处理消息的行为来描述联邦学习过程。通过这一方式,FederatedScope实现了支持在丰富应用场景中进行大规模、高效率的联邦学习异步训练。

  • 为进一步适应不同应用场景,FederatedScope还集成了多种功能模块,包括自动调参、隐私保护、性能监控、端模型个性化等。FederatedScope支持开发者通过配置文件便捷地调用集成模块,方便快速入门;也允许通过注册的方式添加新的算法实现并调用,支持定制化及深度开发。

这些功能使开发人员能够针对计算机视觉、自然语言处理、语音识别、图形学习和推荐等领域构建和定制特定于任务的联邦学习应用程序。

隐私保护

FederatedScope还通过使用差分隐私和多方计算来满足不同的隐私保护需求,提供隐私保护。

Swarm Learning

阿里巴巴并不是唯一一家提供联合学习框架的公司。上个月,HPE推出了群学习(Swarm Learning),这是它自己针对边缘应用或分布式站点的去中心化机器学习框架。HPE的群学习是作为群学习库的一部分提供的,它是容器化的,可以在Docker、虚拟机或裸机上运行,并使用区块链技术来确保模型参数可以安全地交换

转载于:阿里巴巴开源联邦学习框架FederatedScope - 掘金 (juejin.cn)

相关推荐
山河已无恙10 分钟前
基于 DeepSeek LLM 本地知识库搭建开源方案(AnythingLLM、Cherry、Ragflow、Dify)认知
开源·知识库·deepseek
AI服务老曹2 小时前
运用先进的智能算法和优化模型,进行科学合理调度的智慧园区开源了
运维·人工智能·安全·开源·音视频
gz927cool2 小时前
大模型做导师之开源项目学习(lightRAG)
学习·开源·mfc
Ainnle3 小时前
企业级RAG开源项目分享:Quivr、MaxKB、Dify、FastGPT、RagFlow
人工智能·开源
我们的五年6 小时前
MySQL 架构
数据库·mysql·开源
CCF ODC7 小时前
2025年第一期 | CCF ODC《开源战略动态月报》
开源
從南走到北8 小时前
挪车小程序挪车二维码php+uniapp
微信小程序·小程序·开源·微信公众平台
ObjectX前端实验室11 小时前
个人网站开发记录-引流公众号 & 谷歌分析 & 谷歌广告 & GTM
前端·程序员·开源
silianpan13 小时前
文档检索服务平台
elasticsearch·搜索引擎·开源
uhakadotcom1 天前
如何为开源项目做贡献
前端·开源