人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
为什么老鼠和蟑螂让人产生恶心和恐惧感，松鼠和螳螂不会？这样是不是就可以把人类的所有图像内容穷举出来了?
如何看待 Richard Sutton 说的「人工智能中利用算力才是王道」？
为什么要公理化实数，而不是从自然数导出？
为什么说「章鱼不像地球生物」？
为什么大量采用牛奶，而不是骆驼、山羊或其他动物的奶呢？
如果人类自身的智慧水平最后被人工智能（AI）超过，算是进化么？
一些癌症为何难以根治？
请问如何理解极限的精确定义？
人类假设不穿衣服，呆在零下四十度的环境，能依靠自身热量存活吗？
前一个讨论
消融实验是什么？
相关的话题
请问爬行纲动物没有会厌软骨，食道和气管离得也很近，那么它们是如何防止喝水时水进入气管的？海洋里到底有什么可怕的东西？
为什么「函数」叫做「函数」？
如何选购显微镜？
CVPR 2015 有什么值得关注的亮点？
人最多可以在水里泡多久？
将自然界的生物划分为原核、古核和真核生物，有哪些意义？
这个代数题怎么解？
现代数学里有哪些本质的结论?
为什么交叉熵（cross-entropy）可以用于计算代价？
为什么有理数 1/49 看起来这么像是个无限不循环小数？循环节在哪里？
如果人类对身体的控制达到 100% 会怎么样？
学术论文被抢发了应该怎么处理？
哪些数学命题曾经长期被误认为是正确的，但之后被严格证明是错的？
NIPS 2018 有什么值得关注的亮点？
什么是「亨廷顿舞蹈症」，它的病因和症状表现是什么？
学数学学到什么程度怎样才算学好了？
进化论是循环论证（同义重复）么？
乘法分配律是公理吗，是能证明的吗？
如何评价 On Unifying Deep Generative Models 这篇 paper?
人工智能会是泡沫吗？
两种食人鱼一种只会说假话，一种只会说真话，提出一个问题判别两种？
计算机视觉中video understanding领域有什么研究方向和比较重要的成果？
这样的AI是真的吗？
若有一天机器人可以代替人类进行大部分工作，《资本论》是否还有意义?
智力很高，且只喜欢探索真理，不想做作题家，怎么去大学里蹭课？
如何通俗易懂地解释遗传算法？有什么例子？
为什么蛇颈龙、鱼龙和翼手龙不算是恐龙？
0.0……1中0的个数是无穷尽的，也就是说永远都不会出现1，那么0.0…1存在的意义是什么？
蚂蚁为什么要用腿捋触角？