人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
数学书上这种是什么字体，以及应该如何手写？如何评价建行的「无人银行」？
如何评价最近火热的对比学习，会引领预训练模型新的范式嘛?
如何评价字节跳动 AI 副总裁马维英离职，将加入清华大学张亚勤团队？
穿刺有可能会造成肿瘤转移扩散吗？
能否彻底从代数角度定义微分和积分？
用人工智能辅助法官判案可行么？
如何全面理解工程师红利？
新冠病毒主蛋白酶为什么保守，它存在变异吗，变异基础是什么？
如何看待「普通医生迟早被计算机替代」的观点？
前一个讨论
消融实验是什么？
相关的话题
如何看待 Facebook 首席 AI 科学家 Yann LeCun 被群骂？数学类课程定理的复杂证明有必要掌握吗？
如何评价 CVPR 2020的论文接收结果？有哪些亮点论文？
今天的柯洁对战前ai时代的柯洁（比如他拿第一个世界冠军的时候），胜率能有多少，能让先吗？
人的眼睛在动物界算是什么水平，若是做一个排名，人类能进前一半么？
法国公立数学计算机毕业后怎么选择?
在美国读生物学博士的人，近况如何？
现在AI是不是不行？
如果把蟑螂扔进马桶里冲走， 它会有什么样的遭遇?
一个空间中勾股定理不存在，而变成了 c^4=a^4+b^4，甚至有更高的指数，那么这是一种什么空间？
为什么人会怕鬼，为什么我们会怕死去的东西而不是活着的呢？
转基因技术可人为改变内嵌基因，会不会成为某些出口国攻击他国的武器？
如何评价 DeepMind 公司？
为什么鼠妇是用鳃呼吸的，却不能在水中存活？
零测集的子集是否可测？
人工智能技术会不会最终赶上微积分的历史地位？
这个不等式题目怎么做？
为何乘法比加法具有运算优先权？或者说加减乘除的本质是什么？
为什么化学上喜欢用 lg，而数学上喜欢用 ln？
「腥」是什么东西？
为什么人与人之间五官差别那么大？
用 TensorFlow 可以做什么有意思的事情？
目前为止，中国科技发展可提速的方向有哪些？
余数有哪些应用场合？
如何推导如下积分列极限?
是否可以根据薛定谔的平行宇宙理论推翻概率学？
有没有根据一张人物的立绘正面像，自动生成同风格各侧面角度像并自动衍生表情的软件啊？
生物元素的概念是什么？
两数列合并后有什么性质？
数轴上的点为什么是连续的？