人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
你认为生物界中互惠利他和纯粹利他的行为是否有可能会出现，并且也确实存在这个生物学悖论是真的吗，为什么？怎样看出一个人有数学天赋？
女性比男性从意识上更高级吗？
从零开始学数学，有谁知道从何处入手，谢谢？
印度数学家拉马努金于 2020 年 4 月 26 日逝世一百周年，如何评价他一生的经历与贡献?
世界上存在周长为整数，半径也是整数的圆吗？
如何看待字节跳动进军AI芯片领域？
为什么知乎不看好生物学科，而新浪网新评的年薪100万行业中生物科技人才排名第三？
自然常数 e 从小数点后第二位开始的两个 1828 是巧合吗？
如何看待Meta（恺明）最新论文ViTDet：只用ViT做backbone（不使用FPN）的检测模型？
前一个讨论
消融实验是什么？
相关的话题
如何看待诺奖得主「DNA 之父」James Watson频繁发表关于种族智商差异言论而被剥夺荣誉头衔？为什么实系数多项式方程的虚数解总是成对出现？
晾一件刚洗的衣服，有可能计算出每滴水落地的时间间隔吗？
如何看待石正丽团队研究称新冠病毒可能起源东南亚地区?
从当下的法律意义上讲，接受冰冻休眠的人属于活人还是死人？
有什么深度学习数学基础书推荐？
如何评价一些数学大佬在推导过程中的「我们不难发现…」、「显然有…」、「易得…」等语言?
AlphaGo 与李世石的第四局比赛中有哪些值得关注之处？
人工智能领域有哪些精妙的数学原理？
为什么人眼选择了 390nm~700nm 作为自己的感光范围？
未来强人工智能会是人类意识的继承者么？
整个宇宙是不是都比不上一个葛立恒数？
有哪些值得推荐的人工智能领域的优质科普平台或渠道？
数学可以直观想象么？
冰山里有大型动物尸体吗？
在你科研工作的生涯中，背过最大的锅/挖过最大的坑是什么样的？
如何看待人工智能领域的很多专家认为「人工智能将对人类存亡造成威胁」的观点？
高中的生物课本说「动物没有语言，语言是人类独有的高级功能」。这句话正确吗，动物到底有没有语言？
怎么逐步学习 PDE？
有没有比较有诗意的昆虫名字？
为什么有的数学定理看起来很显然，证明起来却很复杂？
如何证明这道不等式？
如果 1+1 等于 3，其他不变，比如 1+2 还是等于 3，那世界会是什么样的？
苦瓜这个物种为什么没有被大自然淘汰？
请问怎么证明一个实对称矩阵为零矩阵（如题）？
乘法分配律是公理吗，是能证明的吗？
如果区分物种看生殖隔离，那六倍体与二倍体理论上也不会有生殖隔离，是不是同一物种？
如何评价《Science》封面文章《通过概率规划归纳的人类层次概念学习》?
黎曼猜想有哪些等价命题？
曾经学生物竞赛的现在都过得如何？