检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
本课程是介绍联邦学习业界应用,并指导用户上手一个自己的联邦学习应用。
刚刚大概指出了联邦学习在手机输入法预测和医疗诊断中的应用,这里细致地梳理一下:(1)输入法:Google的Gboard、Apple的QuickTypeGboard是Google 推出一款针对 iOS 设备和Android设备的虚拟键盘,QuickType是Apple在iOS 8中开始采用的全新预测文本功能
International conference on the theory and applications of cryptographic techniques.
本课程由杨强老师(加拿大工程院院士、香港科技大学讲席教授)介绍迁移学习和联邦学习的最新进展,包括横向联邦、纵向联邦、联邦标准、异构联邦学习、迁移学习以及联邦学习的应用案例。
下载tensorflow_federated模块,此处使用较稳定的0.13.1版本,可根据实际情况选择版本 pip3 install --upgrade tensorflow_federated==0.13.1 -i http://pypi.douban.com/simple
一、初心:联邦学习拟解决的问题1.联邦学习的广义定义:解决联合建模的问题或需求随着人工智能等技术应用的发展与普及,基于机器学习的智能营销及风控等应用迅速兴起。
可以预见的是,微众AI团队针对的情景,要比Google的情景更加具有普适性,也更符合未来大数据、多企业的应用需求。下图展示了FTL的应用情景。解释:假设我们现有的A和B两个企业的数据,它们的服从上图的特征和样本维度。
联邦学习有三大构成要素:数据源、联邦学习系统、用户。三者间关系如图所示,在联邦学习系统下,各个数据源方进行数据预处理,共同建立及其学习模型,并将输出结果反馈给用户。联邦学习的分类根据参与各方数据源分布的情况不同,联邦学习可以被分为三类:横向联邦学习、纵向联邦学习、联邦迁移学习。
联邦学习最早在 2016 年由谷歌提出,原本用于解决安卓手机终端用户在本地更新模型的问题,根据多参与方之间数据分布的不同,把联邦学习分为三类:横向联邦学习、纵向联邦学习和联邦迁移学习。
TEE为授权安全软件,也称为“可信应用”提供一个安全的执行环境,通过实施保护、保密性、完整性和数据访问权限确保端到端的安全。 2.MPC MPC(安全多方计算),是一个复杂的密码协议,最早是由姚教授在82年通过百万富翁问题提出来的。
联邦学习本质上试一种分布式机器学习技术,或机器学习框架。其目标是在保证数据隐私安全及合法合规的基础上,实现共同建模,提升AI模型的效果。
一般而言训练人工智能应用所需要的数据量都是非常庞大的。
联邦学习本质上试一种分布式机器学习技术,或机器学习框架。其目标是在保证数据隐私安全及合法合规的基础上,实现共同建模,提升AI模型的效果。详情请点击博文链接:https://bbs.huaweicloud.com/blogs/159107
每一个客户方部署联邦学习框架后,其主要工作包括:对本地数据进行预处理;发起联邦学习训练任务;参与联邦学习任务;部署联邦学习模型在本地进行预测和推断。服务端主要工作包括:实时监控客户端参与方的连接情况;对上传的客户端模型进行聚合;挑选客户端参与客户端本地训练;上传全局模型。
这些改进为联邦学习对金融、医疗等场景中的应用带来了极大的便利。 但是联邦迁移学习在实际使用中遭遇了严重的性能不足问题。 联邦迁移学习的基本原理 需要 3 个不同的参与者:Guest、Host 和 Arbiter。
联邦数据库系统对单元数据库往往采用分布式存储的方式,并且在实际中各个单元数据库中的数据是异构的,因此,它和联邦学习在数据的类型与存储方式上有很多相似之处。
但这种模型安全性较低,一旦有一个参与者与中心服务器共谋,系统的安全性就下降到了 vanilla 联邦学习。
但这种模型安全性较低,一旦有一个参与者与中心服务器共谋,系统的安全性就下降到了 vanilla 联邦学习。
相较而言,联邦学习对用户数据隐私保护更为有用。
迁移学习与联邦学习在人工智能中的应用价值 迁移学习和联邦学习在人工智能的各个领域都有着广泛的应用。在自然语言处理中,迁移学习可以帮助模型快速适应不同的语言和任务。例如,将在英语文本上训练的模型迁移到其他语言的文本处理中,提高模型的效率和准确性。