人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
如何评价谷歌提出的 Pix2Seq：将目标检测看成语言建模，效果超过 DETR？如何向人类同伴证明自己不是一个人工智能？
CNN（卷积神经网络）、RNN（循环神经网络）、DNN（深度神经网络）的内部网络结构有什么区别？
同性恋符合生物学规律吗？
葛军的高考数学卷子到底难在哪里？
一个天资平平，数学基础非常差的高一学生，打算日后进行纯数研究，是否应该对其进行劝退？
怎么做，求解?
康托尔著名的对角线证明？
如何判定荧光定量结果的真实性？
生活中有哪些像「胡萝卜是萝卜，睡莲是莲花」这样容易产生惯性错误的常识？
前一个讨论
消融实验是什么？
相关的话题
如果地球上除了人类，所有的生物扩大 100 倍体积，会发生什么？数学究竟是真实存在的，亦或是人类精神的产物？
炼钢厂常年5000多度的钢水里面会不会滋生耐5000多度的细菌？
2021年，作为算法工程师的你们会在CV业务落地上用Transformer吗？
DeepMind 团队中有哪些厉害的人物和技术积累？
圆周率 π 是否隐藏了本个宇宙的设计者留给这个宇宙的智慧文明的某种信息？
科技失控到底意味着什么？
如何看待中国数学竞赛落败引网民狂欢？
如果我的将来梦想是取消数学这门学科，我该怎么做，或者谁可以帮忙实现它？
试以「Siri 已失去控制」为开头写一个故事？
如何证明π^π^π^π(π的四次迭代幂次)是个有理数?
数学这门学科有多有趣？
《数学分析》212 页定理可不可以这样用：因为可积且有界，所以有有限个间断点？
训练过程中loss震荡特别严重，可能是什么问题？
如何评价 On Unifying Deep Generative Models 这篇 paper?
什么时候你感叹过黑人的种族天赋吗？
数学中，远小于符号 ≪ 有没有明确的定义？
矩阵A和矩阵B相乘，AxB为什么不等于BxA？
面对飞速发展的人工智能，我们应该如何调整对孩子的教育？
俄罗斯“物理数学中学”的教学模式是什么样的？
如何看待科学网博文「同学，你在辛苦地浪费生命吗？」以及中科院 PI 的回应文章？
如何看待朱松纯受聘北大人工智能研究院院长？
自然界有哪些长相可怕的动物？
大家推荐一下，哪些学校的导师有在做量化交易、股票预测的？
如何证明1的pi次方等于1？
波是什么？什么是波？
有机体的结构与功能是相互统一的，试以瓣鳃纲的生活方式为例说明两者是如何达到这种统一的？
水蛭有天敌吗？
数学上是否存在 X，使 X=X+1，且 X=X^X？即：是否存在一些情况，使方程中的 X 不能移项？
专家认为高温灭活处理使 RNA 降解是造成新冠核酸检测假阴性的原因，是这样吗？