人是如何做黑盒优化的？ 第1页
1
lokinko 网友的相关建议:
简单介绍一篇最近看过的通过梯度盗取用户训练数据的文章吧
《Deep Leakage from Gradient》
在联邦学习中，每个用户在本地上传梯度或者模型参数，通过一个 Server 端对模型进行更新，那么就有人研究能不能通过人工智能模型这个黑盒以及梯度信息，从中盗用可用的用户数据呢？
通过本地不断生成样本，比较本地梯度和他人梯度的差距作为loss，将loss最小化使得生成的数据越来越靠近他人用户的数据，最终实现数据的窃取。
神奇的事情发生了，即使大家无法理解这个黑盒里是在做什么，只要能控制输入和输出，就能透过黑盒消除其他影响，论文结果如下
论文高保真的从梯度中还原了原始数据。
无论是图像数据还是文本数据，都被轻易地识破并还原。
这种基于神经网络黑盒来进行攻击的方式应该也属于黑盒优化的一种思路吧~仅供参考。
论文链接：https://papers.nips.cc/paper/2019/file/60a6c4002cc7b29142def8871531281a-Paper.pdf
1
相关话题
如何看待两名数学家在家隔离期间，成功破解 109 年前的数学证明难题？具有怎样的价值？Google 的神经网络生成图像 (Inceptionism) 是怎么做到的？
如何评价《罗辑思维》第 115 期对谢熊猫君翻译的关于人工智能的文章的重新演绎？
为什么很多研究生导师40岁以后就不亲自干活了?（不要再说“拉项目更重要”云云，看完描述再回答）？
AI 20年内将会给我们的生活带来什么改变？
「绝艺」成为中国国家围棋队指定训练 AI 后会有哪些影响？
是否存在这种审稿人思维：因为完全看懂了论文更增加了将之拒掉的几率？
大脑是如何进行“联想”的？
Transformer在工业界的应用瓶颈如何突破？
如何看待关于“数据结构与算法基础”的重要性？
前一个讨论
消融实验是什么？
相关的话题
如果不按套路下棋是不是就能赢 Alpha Go 了？先进的图像识别怎样改变 AV 产业？
是不是对于任意 n×n 大小的围棋棋盘，人类都赢不了 AlphaGo Zero 了？
人工智能时代，孩子需要培养哪些超越机器人的能力？
支持向量机（SVM）是什么意思？
如何评价支付宝在IEEE成功立项“生物特征识别多模态融合”国际标准？有什么长远意义？
没有顶会的CV/NLP方向的博士生毕业出路在哪里？
古时将人斩首的难度有多大？
一道初等数论作业题，请问怎么解决？
如何评价高晓松对 Master (AlphaGo) 战胜人类顶尖高手看法？
你在「生物化学」领域有哪些不错的教材推荐？
如何判断社科研究中的数学公式是否具有合法性？
为什么现在有这么多人工智能无用论？
不侵入蚂蚁大脑就可以操纵「丧尸蚂蚁」的寄生真菌是怎么做到的？
语义网所谓的“本体”的具体例子是什么？
数学这门学科有多有趣？
什么是勾股定理？
动物有情绪吗？
人类可探索的数学会不会因为证明长过人类脑容量而穷尽？
高中生大学想学量子物理，也想学基础数学，大学专业应该怎么报呢？
一个人要长到多高才可以让全世界的人们都可以看到他？
翻译水平调控什么意思（名词解释）？
人工智能在生活中的应用都有哪些？
如果高考允许以一百万人民币一分的价格无限量购买分数（收入归大学所有），那对社会会有怎样的影响？
深度学习有哪些好玩的案例？
海洋生态系统，其中有突出作用的是哪些生物？
新研究表明恐龙也会感冒，你还知道哪些古生物的疾病？
如果被基因编辑的露露和娜娜将来变成了“神童”，社会舆论会有什么样的反应？
1²+2²+…+n²求和公式的推导有哪些方法?
饶毅会不会出事？