人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
美国顶级传染病专家福奇称「不确信新冠病毒来自大自然，应该继续调查中国」，他为何突然改口？从生物学角度来说，由于不能生育，雄性是不是没有雌性重要？
这个猜实数的游戏有没有必胜策略?
如何看待上海一城管为全球数学竞赛出题？你身边有哪些隐藏的「数学大神」？
在你的研究领域(物理)里，有哪些数学课是应该在读本科的时候学的？
生物的基因组有没有可能是被“神明”设计出来的东西？
在进化论被提出之前，难道没有人觉得猴子和猩猩长得像人类吗？他们是如何解释的？
怎么证明一条线是凸函数?
BERT模型可以使用无监督的方法做文本相似度任务吗？
使用强化学习解决实际问题时常常避不开环境模拟或者使用离线强化学习算法，两者分别有什么优缺点？
前一个讨论
消融实验是什么？
相关的话题
AI 芯片和传统芯片有何区别？一道概率问题，求病毒不会全部灭绝的概率？
人类不是生物学成功的物种，而是文化上成功的生物，如何看待这一观点？
如何求级数和1/（3^n-2^n）？
设f(n)=lcm(1, 2, …, n)，如何证明∑1/f(n) (n取1到∞) 是一个无理数？
朊病毒为什么经常发生在同类相食的现象中？是造物主的有意安排吗？
人类的渴觉中枢在哪里？如果是在丘脑或者大脑，那么为何一喝水立马就不渴了？
如何证明 2 的平方根不是有理数？
有没有根据一张人物的立绘正面像，自动生成同风格各侧面角度像并自动衍生表情的软件啊？
生物演化到今天，DNA发生了什么变化？
生物科学为啥远远落后物理科学？
物理或化学方程为什么往往是偏微分方程？
请问0除0是无解还是无限个解?
如何直观地理解阿贝尔变换恒等式？
求好一点的近世代数的教材。？
构建进化树的意义是什么？除了看亲缘关系之外。
有哪些有趣的数学史？
这道求极限的题怎么做？
人类能研究透水熊虫吗？
如何看待知乎用户「赵泠」和「刘镇锐」的争辩？
为什么中国人数学这么牛，却几乎没有中国人发现的数学定理？
数学竞赛和物理竞赛的强度差距有多大？
智力正常的普通人如何扮演或揣摩理解智力超高的角色？
有哪些逆天的微生物？
如何证明这个Tauber定理？
欧洲有哪些统计机器学习比较强的大学或者研究院的？？
在你的科研领域里，做得不错的年轻人都有哪些特征？
mxnet的并行计算为什么这么牛，是什么原理？
广义反函数的定义及该定义的相关说明(问题描述)？
如何看待华大基因董事长汪建称「未来 5-10 年就可以化学合成任何生命，进展可能比人工智能还快」？