人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
国内有哪些基础数学好的大学？请问《数字情种》是否可能翻拍成电影？
这个9题不等式右边怎么证明呢？
如何进行图像模糊与清晰的分类？
正项级数∑xn收敛，数列xn单调减少，如何证明limnXn＝0？
有没有可能让计算机去理解代码，从而写代码？
化学类专业真的就这么这么坑？
如何评价微软的人工智能部门成立仅 1 年，现在有 8000 多员工？
数学大佬，这个怎么做？
科技失控到底意味着什么？
前一个讨论
消融实验是什么？
相关的话题
如何看待中科院研究员徐华强称国内实验室硬件堪比世界顶尖，甚至有所反超？数学证明题可以这样做吗？
从当下的法律意义上讲，接受冰冻休眠的人属于活人还是死人？
有什么与数学名词有关的趣事?
AI 算法在芯片设计方法学和 EDA 工具中有哪些应用和潜力？
为什么灭霸清除宇宙一半生命后，地球没有欣欣向荣？
如果智能机器人真的大批量取代人工，那真的会失业么？
日麻规则下 13 张配牌的向听数期望是多少？
若 a=0.248163264128256...，请问 a 是否为有理数？理由是什么？
为什么Bert中的CLS在未fine tune时作为sentence embedding性能非常糟糕？
为什么有的青蛙生下来不直接是青蛙的样子？
如何评价澳洲Venetoclax治疗癌症的消息？
知乎现在都有哪些值得关注的严肃输出？
数学物理定理是道家的道么?
如何评价 On Unifying Deep Generative Models 这篇 paper?
假如人类女性生完后代就死亡，人类社会会怎样？
如何评价马斯克称激光雷达是一个诱人的局部最大值？
nlp有哪些值得完整实现一遍的算法?
如何看待上海交大建成全国最强超算，碾压哈佛、剑桥等名校？
为什么有理数 1/49 看起来这么像是个无限不循环小数？循环节在哪里？
如何理解空洞卷积（dilated convolution）？
真的不喜欢数学怎么办？
如果一个人从出生就生活在太空失重环境，他的身体会发生什么变化？
2022 年初，你认为哪项成果代表了现在人工智能的最高水平？
救救娃吧！?这个数学题咋解?
圆周率 π 应该如何用极限或其它的微积分语言表示？是否可用极限或其它的微积分语言定义圆周率 π ？
如何评价「棋圣」聂卫平称荣耀Magic3的AI能力达到围棋选手职业水平？
这个青蛙眼睛长在嘴里的图是真实的吗？
OpenAI 发布文字生成图像工具 DALL·E 2，它的画作水平如何？从技术角度如何评价它的能力？
为什么多项式的根是系数的连续函数？