如何看待脸书删除苏军在柏林城头插旗彩色照片：违反社区规定? 第2页

好难得我会同意 @勃呆萌 答案的部分观点！大部分回答这个答案的人，既不理解一家科技公司的运作方式，也不理解美国私企和美国政府之间的关系，然后引来一大波小粉红自 high。

我在 Facebook 工作的最后一年，负责的就是 Facebook 内容审查系统中的人工审查平台，我还算是了解这种系统是如何运作的。

内容要进入审查，首先要有举报，无举报不审查，这是 Facebook 的法则。在曾经很长的一段时间里，举报意味着用户举报，所以你可以悄悄开个私密的小群组，发些本质上违规但群组成员看着爽的内容。只要群组成员不举报，自然就不会有审查，也就不会有审查可能带来的任何行动。

无举报不审查这个原则，是 Facebook 对「言论自由」这一价值观的实践。这是 Facebook 非常自以为豪的地方，也是导致 Facebook 跟某些国家无缘的绊脚石。

Facebook 在 2017 年陷入了内容审查的危机。视频直播快速增长，然后有人直播杀人、自杀等等严重违规内容。Facebook 于是增加对内容审查的投入，相关的产品和工程团队且人数扩张了不少，此外实际负责人工审查的工作人员数量也翻倍了。

在提升内容审查工作的过程中，Facebook 确定了一个全局的内容审查目标，也就是有害内容曝光次数。做广告行业的人应该很容易理解内容曝光次数的概念，一个广告显示在用户眼前一次就算一次的曝光。当然，应用往往会提前加载很多内容，方便用户刷刷刷，但只要一个广告还没滚动进屏幕内，那就不算一次曝光。有害内容的曝光次数用的是类似的统计方式，不过统计的时间起点不是内容的发布时间，而是第一次被举报的时间。内容审查的产品与工程部门有几百人，大家的目标都是把有害内容曝光次数降下来。

当然这里面还有一个问题尚未解决好，那就是有害内容不被举报怎么办？

用户是很有意思的。首先，他们肯定不会尝试去学习 Facebook 制定下来的规则－－什么是有害内容、什么是无害内容－－然后根据规则进行判断和举报。用户会根据自己的喜好进行举报，看到他们不爽的内容就会举报。例如说，小粉红冲上 Facebook 就对着某些港台媒体大量举报，只是因为对其内容看着不爽。

Facebook 为了解决这个问题，引入了机器举报。这就是我们通常所说的人工智能当中的机器学习，机器根据训练数据生成模型，然后用模型判断内容是否可能违规，如果违规的可能性超过了一定的阀值就进行举报。内容被举报了，它就会进入等待被审查的队列。

那肯定有人要问，Facebook 为什么不能学习其它国家其它公司的先进经验「先审后发」呢？我再强调一遍，「言论自由」既不是个产品问题也不是个工程问题，这是个价值观问题，而且是来自 Mark Zuckerberg 的价值观。

Facebook 雇佣了上万的工作人员进行人工内容审查，这里面绝大部分来源自外包公司，但也有部分是 Facebook 的全职员工或合同工。然而内容被举报之后，并不会立即送去给人工审核，因为先要做机器审核。

机器审核跟机器举报类似，只是阀值要求高很多而已。内容看起来像是违规就会被机器举报，但内容必须非常确定是违规或者非常确定不是违规才会由机器审核敲定结果。如果是中间状态，有点像是违规，也有点像是不违规，那就送给人工审核。

那机器学习的准确性如何呢？这是要看具体哪个垂直领域了。一般来说，信息量丰富且一看就懂的，机器学习都比较容易做，例如说裸露某些部位的色情内容；需要用到联想和比喻才能懂的内容，机器学习就非常难搞，例如说带有性暗示但又不暴露的内容。这是因为人能够联想画面以外的内容，而机器只能根据画面上的信息进行判断。

我们作为产品和工程团队，时不时就会去人工审核的外包公司看看，了解一下实际工作是如何进行的，有时候确实会看到一些非常难判别的内容。例如说，我有一次看到一条被审查的英文文本内容，最简单的翻译就是「你是猪」，但作者没有用那么粗浅的方式来写。作者写的是，「你的手是肘子，你的肚腩是五花，……」，总之就是把人的一系列部位描述为猪对应的部位，而且使用不带「猪」字的食材名字。明眼人一眼就看出作者在骂「你是猪」，但这交给机器审查的话显然是无解的，因为机器不具备这样的联想能力。

所以说，机器审查其实非常看垂直领域，有些垂直领域是机器能做很好，但另外一些垂直领域还非常难找到突破口。能够做好的领域，机器审查一般能做到 80% 或以上的准确率，但继续往上优化就可能非常的难，幸好判断不出来的可以要交给人工审查。

在这里我可以插入一段，反驳 @勃呆萌 答案中引用的项目数据。机器学习在实际问题中的落地是跟学术研究很不一样的，因为实际问题非常复杂。

在内容审查这个领域，最复杂的问题其实是内容审查规则的制定和执行。这跟立法和执法是一样的，一方面立法过程要反映立法者所代表的选民利益和价值观，另一方面又要保证是法律最终能得意执行而不是停留在纸面。

如果你去看看 Facebook 内部「立法者」的背景，你会发现他们很多真的来自于美国的司法界，例如说有法官、检察官经历的，或者是曾经帮助议员编撰新法律的。这些人脱离了美国的司法界，尝试在 Facebook 按照自己的价值观建立一个新的理想国。由于 Facebook 不是一个民主社会，所以他们在编撰新法律时不需要考虑选民利益，可以非常纯粹地从法理的角度进行辩论。

这个过程导致了一些问题，就是 Facebook 内部的「法律」跟真实的美国法律一样充满了补丁，当一条法律出现缺陷时大家就想办法添加细则去调整它，最后法律复杂到难以执行。举个例子，在色情这个大类下面有一条关于乳头的规则：

女人露乳头属于违规，男人露乳头不属于违规。

这看起来很简单，也很容易做判断，对吧？但其实不是的。如果一张图片只看到乳头和附近一片相对平坦的皮肤，无法获得图片以外的任何信息判断性别，那这张图片是否算是违规呢？这时候就存在执法问题了，也就是说从立法的角度来说法理是没错的，只是无法执法而已。

为了解决这个问题，这条规则引入了一个补丁：

如果无法判别是男还是女，则既可以被看作男，也可以被看作女，只要其中一种情况是被允许的，那就是被允许的。

事情到此结束了吗？然而并没有。有女性和医学组织发现，宣传母乳喂养的照片在 Facebook 会因为暴露乳头而被删除，于是要求 Facebook 对此作出特殊处理。在经过一番辩论后，Facebook 决定再加上一个补丁：

母乳喂养的照片不算是违规。

这也可以？这也可以！于是另外一些女性和医学组织就开始推进符合自己价值观的观点了：女性做了乳房切除手术后暴露乳头也不应该算是违规。一方面，女性组织认为乳房切除后这个性征就不存在了，那就应该享受跟男性一样的权利，可以暴露乳头；另一方面，医学组织认为这跟粉丝带宣传一样，有助于提高人们防范乳腺癌的意识，是社会公益行为。Facebook 内部又进行了一番辩论，倾向于支持后面一个论点，然后再打个补丁：

乳房切除后的照片不算违规。

学术界解决「图片上是否存在裸露乳头」这个问题应该是游刃有余的，但工业界要落地就要处理上述复杂的规则，这就是个非常头痛的问题。有时候拿学术界的成果来判断工业界能不能做某件事情是很不靠谱的。

如果内容机器无法进行审查，那人工审查的准确率有多高呢？

Facebook 的人工审查遍布世界各地，一方面是为了 24 小时不间断运作，另外一方面也是为了招不同文化背景的人来审查不同的内容。Facebook 最大的两个人工审核外包地点在印度和菲律宾，他们能做到 98% 的准确率。

那这个准确率是如何定义的呢？内容审查就像是判决案件一样：有些案例是很容易判的；有些案例是非常含糊不清的，这样解读有道理，那样解读也有道理。美国有总有些案件要上到最高法院，然后大法官们一件还不一致，最后胜出的一方只是多一票胜出。这种事情也可以发生在内容审查上，那怎么办呢？

一线审查人员在作出判断后，部分判断结果会被抽查。被抽查的方式是，让更专业的二线审查人员在不知道其他人的判断之前独立做出自己的判断，然后再比对结果。（二线审查人员的判断也会被抽查，然后由 Facebook 内部的专家做判断。）所以这里所说的正确率是指一线审查人员的判断跟二线审查人员的判断一致，当然还是有小概率两者都做出了错误的判断。

虽然 98% 看起来是个很高的数字，但是考虑一下需要被审查的内容有多少，你就知道出错的 2% 其实有多庞大了。审查不同类型的内容所需要花的时间不一样，有些内容是非常快的，例如一个审查人员看一张 Instagram 照片或短视频的时间往往不超过 10 秒。

这就跟高考阅卷差不多，量大了就必须要快，快起来就会有时候判错。（其实再慢也做不到 100% 正确率。）高考阅卷的错误是可以影响一个人的一生的，内容审查至少没那么严重。

所以判错是一定会发生的，而且引起广泛媒体注意的判错也不是第一次了，这种事情肯定还会继续发生。把这种错误上纲上线为政治问题来讨论是毫无意义的，或者说其唯一意义在于自娱自乐。