如何看待上海交大研发人工智能：通过脸部识别技术辨别罪犯？ 第1页

有不少答案从技术上讨论了识别率和技术的局限性，我看了之后觉得很有启发。但事实上，即便有一种机器学习技术，能够不从证据逻辑，而从外在特征上99.99%的识别出罪犯或者嫌疑犯，这依然是一种不应该被采用的技术，因为其造成的潜在后果是严重的，远远大于成功鉴别出少数罪犯所带来的收益。

首先，分辨罪犯和嫌犯，是一种基于事后的分析，也就是说给定这个人可能已经犯下事情了，我们用某种技术来增加自己判定的准确性。以谋杀罪为例子，么每十万人中谋杀犯罪的概率，中国大概是2.2个人左右。如果机器学习可以准确的扫描出嫌疑人中谁到底是真的凶手，而凶手也知道如此高的鉴别率的话，那么凶手的犯罪策略就会发生变化——以前可能会留下来冒充无辜，但是现在更多的人会选择逃跑。那么破案率虽然会提高，但是因为凶手犯罪策略变化所造成的对冲，所以并无法显著的降低犯罪的动机——毕竟现在谋杀的概率已经很小了。

其次，为了从这十万人中揪出这两三个人凶手，机器学习必然会有一套识别的算法，那么久而久之，大众大概就能根据结果，推测出机器学习给这些“特征”，比如眼睛、鼻梁、耳朵形状等所分配的权重是正是负，那么就自然而然的会形成基于上述特征的歧视——也就是我们平常说的“统计歧视”。

一旦存在这种统计歧视，那么也就意味着，具有上述特征的人和不具有上述特征的人，付出同样的努力，被社会所接受的程度是不同的，那么被歧视的人会从出生开始，面对周围怀疑和谨慎的目光，要远远比其他人更难以融入社会，从而他们很可能会更加的倾向选择其他的方式，比如犯罪的方式来解决，从而他们的犯罪率，会因为被歧视而显著提高，从而被更加显著的歧视……这样进入了一个恶性的循环，从事后看，机器学习准确无比，几乎是百分之百的定位了罪犯，但是从事前看，因为这种依据外生变量而非本人行为证据逻辑链而判断的行为，诱导了更多人犯罪，整个社会的治安都会恶化。

事实上，无论具有什么外在特征的人群，真正犯罪的人按比例来说都是很少的一部分；那么为了提高一点事后破案的效率，让人群中一个显著比例的人都因为其特征而受到歧视，从而诱导出更高的犯罪率，这是不可取的。这和伦理和道德都无关——只是社会福利最大化的一个事前和事后的权衡。

用机器去识别人，和用机器去识别图片是完全不同的，用机器学习去识别图片是没有副作用的，因为图片没有意识，不能“努力”让自己变成A种图片或者B种图片，所以没有这种事前和事后的权衡；但是人是有意识的，是可以决定自己的努力的方向的；一旦人类外表的特征可以用来作为犯罪与否的旁证，那么必然就会诱导那些本身就具有“高犯罪倾向”物理特征的人真的去犯罪，因为无论如何社会已经很难容下他们了。

这个也不算是特别新的吧。

最主要估计是对一些低智商特征的识别，低智商导致犯罪的概率高。