Apple 在设备端对儿童色情图片检测，你怎么看这项功能？ 第1页

借机合法地查看你的文件呢。

neural network这玩意，完全可以在训练的时候，就把”某些特定领域的学术文献“和”儿童色情图片“放到一个category里面，让模型把他们embed到同一个特征。哪怕我把NN开源出来，这种后门也很难被detect到。更何况苹果公司的后台模型是个黑盒。

然后如果你的”某些特定领域的学术文献“超过一个阈值，也会通报FBI，进行人工审核。当然，这么人工审核，显然你不是儿童色情，误会解除，但你是某些特定领域的研究者这个事实，FBI已经知道了，他们还看到了你看的文件。他们要的就是这个。

技术暴政。

先看一下这个新隐私政策是怎么回事。首先当你有任何一张图片进入你的苹果设备时，哪怕不传上云（比如你的云满了之类的）*更正：是将要上传icloud的图片* 会通过neuralhash生成一个hash值，随后和csam提供的hash库比对是否是已确认的儿童色情/虐待材料。如果你保存的疑似儿童色情/虐待材料数量超过一个阈值（这个阈值也是秘密），就会触发警报引入苹果人工介入、报警乃至作为证据提交给警方。

为什么说是技术暴政呢？

一、首先，在有的国家比如加拿大，虚拟儿童色情是算成儿童色情的。一个著名的例子是有个美国人入境时候携带了奈叶同人漫画被判刑了。聪明的你可能会问，那像设定年龄495岁的萝莉也是儿童吗？答案是算的，因为反儿童色情被解释为保护的不仅仅是某个具体儿童的人格权利（显然纸片人没有人权），还包括了“社会风气”这类的价值，而观赏一个除了年龄设定其他都和萝莉没有区别的纸片人同样有悖于某些局部社会的风气。除此之外，众所周知在米国人眼里东亚人普遍长得幼态，二十多三十岁都看着跟白人未成年似的——并且没有证据表明csam的库里“长得幼态但实际年龄已成年的”不算做儿童（理由同上）。实际csam已经直截了当地宣布了他们不会公开数据集，很合理也很令人不安。

这意味着从定义上，csam完全可以合理合法地把保护面从具体存在的某一些*人类儿童*，扩展到由苹果自行决定的各种人和虚拟角色，并且用户（在我看来就是受审者）完全不得而知。

第二、除了定义问题，neuralhash这个技术本身也是有后门的。对一般的hash算法，裁剪、调整色相、灰度等都会改变一张图片的hash值，也就是“离散的”；但neuralhash十分稳健，只要图片特征相同则hash值相同，可以说是“局部连续的”，按理说这已经完全不是hash了。这意味着如果你的任何一张图片不慎和csam库撞了特征，你就可能被列入怀疑名单。而算法的光滑程度——是给每张图片单独的hash（十分不光滑），还是只要特征相同就赋予相同hash（十分光滑）——的尺度完完全全掌握在苹果工程师手中。

第三、在客户端预扫描更是火上浇油——你可能会说啊那我们现在存在云上的照片也被扫描过了。但新政策后，无论是你主动拍摄的、网上下载的还是某些软件后台下载的图片，只要将要上传云都在苹果的扫描范围里，而整个过程对你是隐形的。

结果是什么呢？你的qq群友的女朋友长得像一个你没听说的十八线马来西亚青少年pornstar，或者他的孩子跟美国某个老挝裔失踪儿童长得很像。他把二十张照片发进群里，于是qq在后台预缓存了所有群聊图片，而你忘记关闭云备份，于是这些图片一进入手机就被悄悄匹配并触发警报，随后成了苹果人工介入甚至fbi调查你的证据，在苹果的新政策下是完全可以实现、甚至是自然而然实现的。

你以为你不出格就不会受害，但现在打击面已经大到没边了，你的正常生活已经处在需要被矫正的范围里了。

不要计算机，不开计算机，不用计算机。

被举报人身攻击叻，哈哈 。

坚决反对。

实名反对高赞“图片匹配而非图片识别所以不影响个人隐私”观点。

本人在某以地质为招牌的不入流高校读硕，研究方向就是测绘无人机回传影像处理，冈萨雷斯倒背如流，周志华信手拈来，不需要你教我什么叫图像匹配什么叫图像识别。

就此事，我不谈论任何技术相关话题，只从政治角度分析。

第一，这项决定经过消费者同意了吗？没有，那好。我一个从未有过相关犯罪记录的人，为什么把我当成潜在犯罪对象处理？我管你侵犯不侵犯隐私，这个功能存在一天，我就认为这就是对正常人的人格侮辱。

第二，禁止儿童色情是现代社会的公约数，对此我个人亦表示同意。但是，我同样认为利维坦不应深入私人生活。

展开来说，为了防止性交易，可以对一些场所、可疑住宅进行突击搜查。但绝不应该以“防止性交易”为理由在住宅安装摄像头。尽管你保证且确实做到只用摄像头监控性交易，绝不滥用，但这种行为仍然侵犯了公民隐私。

同样的，如果在手机内被他人发现相关图片或者举报，作为证据对机主进行处罚是可行的，而为了防止“潜在的儿童色情”，对所有用户手机进行扫描，尽管苹果保证不将数据用作任何他用，但实际仍然侵犯了个人隐私。

第三，滑坡效应。今天检测的是儿童色情，大家都可以接受。但是呢？明天，它连成人色情都开始检测。后天，开始检测涉正治敏感话题。大后天，根据你的相册跟你推送广告。

少给我拍着胸脯说什么不可能发生，你又懂完了？

这种例子少了？

叔叔每年送9个月大会员的承诺忘啦？

百度云保证不干涉网盘个人数据忘啦？

互联网公司的承诺如同吸冰者的话一样没有丝毫可信度。

事实上，我个人根本不相信高赞答主所谓绝对不会侵犯个人隐私的说法。

你把苹果想得太老实了。

君子不立于危墙之下，绝对不应该对资本无条件信任。

他说不涉及就不涉及？他说你就信？那我说你怎么不信呢？

我觉得不能开这个口。

第一次以这样的理由让你设备无时不刻消耗性能和流量去干一件被强迫的事情

这确实是法律要强迫你遵守的法律，但是并不应该你来干啊苹果。你和家人吵架，突然从被窝里钻出一个人制止你，我想这谁也接受不了，而且钻出来那个人要天天呆在你被窝里，赶也赶不走。

接下来是不是就要全盘检测你的数据，以预防可能发生的犯罪？

那隐私何在？口口声声说着保护用户隐私？

要是真的有这个必要，为什么国家不去强制植入一个软件？

安卓的犯罪就不是犯罪？用苹果就必须要被监控？

要是功能上线，我这个手机就停留在iOS14，下一个换安卓

越俎代庖。

---

  chi-ban-zan-san-lang 网友的相关建议: 
      

这种技术在中国将被用来检测成人色情内容。

---

  davidtsang 网友的相关建议: 
      

这个功能很危险，美国的反儿童色情法律非常严格，存储图片即是重罪。许多在亚洲流行的萝莉风二次元图片在美国也属于儿童色情图片。保不住哪位使用iPhone的二次元宅男在美利坚一下飞机，就给带上银手镯去捡肥皂去了。

---