先了解 google 联邦学习最早提出时的 motivation 和基本定义,对这个范式的基本逻辑掌握清楚,顺带了解最基本的 FedAvg 的逻辑方法。
开山之作: Communication-Efficient Learning of Deep Networks from Decentralized Data.
Privacy-Preserving Deep Learning
Google GBoard 介绍报道: Federated Learning: Collaborative Machine Learning without Centralized Training Data
Google GBoard 视频讲解: Making every phone smarter with Federated Learning
再去阅读一些综述性的文章,全面认识一下联邦学习的应用场景和技术路线。
杨强老师的综述: Federated Machine Learning: Concept and Applications
将联邦学习按业务逻辑分为了横向联邦学习、纵向联邦学习 和 联邦迁移学习。
联邦学习前沿问题大集合: Advances and Open Problems in Federated Learning
区分了 cross-silo 和 cross-device 的联邦学习模式,按照 Application、Efficiency、Privacy、Attack Robustness、Fairness 将问题进行了分类。
联邦学习综述: Federated Learning: Challenges, Methods, and Future Directions
将问题和研究方向分为了 Communication Efficient、System Heterogeneity、Statistical Heterogeneity 和 Privacy Protection.
A Survey on Federated Learning Systems: Vision, Hype and Reality for Data Privacy and Protection
这篇综述归纳了从 数据划分、研究方向、隐私保护策略、通信结构 等的划分和归纳,还附带了一些常用的 Benchmarks 的介绍.
FedProx / SCAFFOLD / FedPD / FedBN
模拟 FedAvg 算法实现: FedAvg 代码详解
工业领域 FATE API介绍:FederatedAI/FATE
TensorFlow TFF 介绍: Introducing TensorFlow Federated
FedML: FedML 开源代码 / FedML视频教学 / 作者主页
推荐参考这个回答里推荐的博主的相关论文
和这些专栏的内容:
lokinko: 联邦学习论文分享
六三: 隐私计算、格密码理论与应用实践、同态加密的理论和实现
李天天: 零知识证明介绍 / 同态加密介绍 / 密钥分享介绍 / 混淆电路介绍 / 差分隐私介绍
差分隐私(DP) / 多方安全计算(MPC) / 同态加密(HE)
Practical Secure Aggregation for Privacy-Preserving Machine Learning
算法优化 / 收敛性证明
Non-IID data / Domain-adaptation
lokinko/Federated-Learning 按照不同子问题对联邦学习前沿论文做出了归纳整理。
我们刚刚发布的FedML开源框架非常适合新手入门,官方网站是https://fedml.ai
我特地在知乎上录制了几期视频方便大家理解FedML,希望对你有帮助。
我曾经看到过一句话,说的是:2.6亿老年人,至今没能进入互联网时代,而2021年上半年,我朋友圈子里议论最凶的不是明星八卦,而是第七次全国人口普查结果何时出炉。到了5月11日,靴子落地了。
千百条数据中,一行字尤为瞩目:60岁及以上人口占18.7%,65岁及以上人口占13.5%。
与中国发展速度一同狂飙猛进的,是人口年龄。60岁及以上人口26402万人,这个群体在网络和纸媒没有太多声量。低调,安稳,是老年人平安度过余生的底色。
信息化和老龄化,长期并存交织。《中国互联网络发展状况统计报告》指出:截至2020年3月,网民数量发展至9.04亿人,互联网普及率达64.5%,然而,60岁及以上网民占比却只有6.7%。
他们当中的绝大多数,甚至不懂得怎么用手机扫码买下一块豆腐。
几个关键词可以概括,脱节,失速,加剧。互联网世界是割裂再缝合的。在虚拟的一侧,我们已经在月球上规划城市天际线;在现实的一端,我们仍需要在流动摊点排队购买煎饼果子。一定程度上说,当今社会早已步入文明和繁华,而在暮色四合之际,回望身后,也有一些人被数字的洪流裹挟着踽踽前行。
生活中并不鲜见这些场景:老人站在公交的投币口,颤巍巍地数着手中的硬币;站在地铁口的自动售票机前,圆瞪双眼辨识密密麻麻的站点信息;向收银员递过去几张边缘磨得发毛的票子,却被一句彬彬有礼而拒人千里的“对不起,不设找零”将现金挡了回来;要去大城市探望儿孙,却不懂得如何用智能地图导航……
似乎有一个不成文的规定:电子设备和软件是专门设计给80后、90后甚至00后的。任何新生事物,只要他们会使,就等于所有人都会使了。
这个“规定”对于老年人来说,有点像是站在一台倾角在25°以上、时速10公里的跑步机。他们虽然已经在努力前行,然而自己还在不断后退。
有时候,我们也会畅想未来,二十年后,是否就能实现人机交互的大发展?水银泻地一般的VR、AR和脑机接口,哪怕是走在旷野和荒漠里,也像是在小区中散步一般,处处可以歇坐休息,时时都有清凉饮料供应,永远不会担心迷路,一个彻底消除电量焦虑的梦境。
然而,真有那么一天,你我还能跟得上趟吗?
后之视今,亦犹今之视昔。
想要解决这个问题,不仅需要政府牵头,更需要科技厂商们参与。
与年轻人相比,老年人的学习能力显然无法应付科技的迅猛更迭。为了少犯错,少损失,他们宁可一成不变。
2020年11月24日,《国务院办公厅印发关于切实解决老年人运用智能技术困难实施方案的通知》公开发布。
工信部印发《互联网应用适老化及无障碍改造专项行动方案》,方案决定自2021年1月起,在全国范围内组织开展为期一年的互联网应用适老化及无障碍改造专项行动。
助老、适老这件事,不能再拖了。
而想让老年人一同分享科技进步带来的便利,援手由科技厂商伸出,是解题的关键。
工信部公布的首批“适老化”和“无障碍”名单中,就网罗了115家热力值极高的主流网站和43个高频使用的app,涉及媒体、交通、社交通讯、电商购物、搜索引擎、金融、医疗等领域,堪称网络时代的“引水入户”工程。
互联网出行平台火速响应,上线“一键叫车”、“老年人电话叫车”功能,针对视力障碍人群推出的“无障碍出行”则覆盖主要城市74座,使携带导盲犬的乘客不再有被拒载的苦楚。
到了医院开门的时间节点,也正是早高峰期间,老年人去医院取药,也能靠网约车顺心直达医院药房。
而各大通讯交互平台,也都推出“屏幕共享”和“远程协助”功能,将老年人与子女千里连携。子女只需要抽空和父母连线,就能通过手指轻触直连老人的电脑,消除“病灶”,避免了叫人上门维修的不必要花销。
国产智能手机品牌随之跟进,在手机中搭载“简易模式”、“屏幕共享”和“远程守护”功能,大大降低了老年人掌握新机核心用法的学习成本。
适老化与无障碍改造专项行动春蕾初绽,却已满山红遍。
对于老年人来说,行走在互联网时代,也如同在冰窖中前行,处处是黑暗和冰冷。在这黑暗与冰冷中的微弱光辉,是由智能手机照亮的。离开家门后,地铁长廊里、医院药房外、银行柜台门口、郊野公园候车处,它可能是唯一的、指引回家方向的光。
学会用智能手机,就等于学会上网。
除了在产品层面做适老化改造,大公司中,贝壳找房还在公益层面做了许多工作。
贝壳找房从2019年起开始发力“我来教您用手机”公益行动,通过定期开展的培训和实操课程,逐个社区地扫除盲点。培训课堂和到店咨询双管齐下,帮助老年人掌握手机基础用法——尤其是与生活相关的功能。公益教学持续开展,已遍及全国14个城市的352个社区,累计开展手机学习课程超过3500节,参与量多达11万人次。
贝壳教给老年人的操作方法是更为本源的模式与套路,是一种标准制式,而非专门与特例。大量的重复教学,对贝壳员工的耐心提出严苛的挑战。这场教学,既是泛读,也是精讲。
可以想象,在未来,一键报警、亲友代支付、老年人健康档案管理等更多适老化服务的提供和接入,也将逐步建立。科技绝不仅是算法与机械,它还是进步的思维与心怀弱者的温情。有人说,技术的进步是在黑暗中踩在坚冰上前行。正因如此,才要向黑暗和冰冷回敬以冷冰冰的代码。然而科技的内在应该是温暖的,因为不讲人情的科技是速朽的。
现在,真正通向科技新纪元的道路,也许正在搭建中了。