谢邀，昨天刚看完。

同时想起去年我看了一部纪录片片叫《隐私大盗》，打算放在一起说。两者虽然主题并不完全相同，但都传达了一个共同点：科技不可作恶。作为Data Scientist，每天都需要接触海量数据，这两部片对我在自己职业观上面有一定的塑造作用，都提醒着我：如果你掌握了数据，就是掌握权力，切不可拿权力作恶。

首先从《监视资本主义：智能陷阱》这部纪录片说起。

《监视资本主义》确实是一部很好的纪录片，表现手法也很好，把每个用户背后的无形的推荐系统都具象化成一个个有形的人，让人看起来就很有代入感。

然后整个推荐系统具象化为一个一个格子间，这些格子间密密麻麻的分布在服务器上。

当然，有的人会觉得这种表现形式会有点唬人，但我认为，这种表现形式对于那些对推荐算法不了解的人来说，确实是一个很好理解的比喻。总体来说，虽然讲得内容我们可能早已有所听闻，但还是能给人更深一层的思考。整个纪录片非常值得一看。

这部纪录片的主题是科技的进步，社交媒体的兴起，算法的精准推送，对于社会进步和生活便利确实有推动作用，但由于监管跟不上，其副作用也是逐渐暴露。片里主要概括了其两个副作用。

第一个是对个人方面。尤其是年轻人。

社交媒体造成个人专注力透支与空虚感。这些年信息科技进步是万亿级别的，是爆炸级的，而我们人类大脑这些年的进步几乎为0，我们人类大脑并不能完全适应这个时代。很多人每几分钟就要拿起手机看看，刷一刷。这里还不完全是推荐算法的锅，更多的是讲运营策略就是为了吸引人注意而给用户频繁推送。

所以在信息洪流冲击下，人的多巴胺分泌得前所未有的快，人可以从手上一个小机器就获得持续的快感，更容易获得及时满足，但也同时情绪化，更脆弱。例如下图里显示的美国少女自残与自杀率率大大提升，尤其z-generation，他们生在数码时代，任由着算法操控他们成长。

这个数据很出乎我意料。作为科技行业从业者，我很自然的觉得，科技应该是造福人类才是啊，为啥对于有的人来说，并没有被造福到，反而受到了祸害呢？但数据摆在面前，我不得不承认，社交媒体副作用超乎我想象。

即使是在这些算法背后的工程师，自己很清醒，很了解这些算法怎么工作的，也是无法摆脱被算法操控的命运。他们创造了这些算法，还得额外写个程序来帮自己戒网瘾。

这让我想起小说《美丽新世界》。这本书出版于1932年，那里的人生活无忧无虑，如果遇到什么烦恼，就靠一种”唆麻“的药物解决。而现在很多人离开手机十分钟就空虚，也和小说里无异，都是用唾手可得的方式来刺激多巴胺。

第二个是对社会方面。尤其是造成意识形态分化且对立。

由于西方那种"自由主义”，对科技与媒体公司的监管会被大家认为是“操纵”，所以目前其实是每个公司在“自我管理”的。我在推特、Facebook可以看到，大家割裂很严重。推荐算法社会割裂，两级分化。

可以看到，20年前的美国政治环境并没有今日这么恶劣。今日我们能看到的美国种种笑话，很多是社会分化结果。之所以特朗普不靠谱，很大一部分是环境选择使然。这个迹象不仅仅在美国出现，在欧洲也是一样。

当然，虽然这个影片可能给人一种“科技公司与算法都是邪恶”的感觉，但是指出问题的这些人也并不认为全是坏的。“科技可以同时是乌托邦与毁灭"。

我们确实享受着科技带来的便利，例如打车更方便等等。这个影片虽然给人触目惊心的感觉，但并没有否认科技，更多的是在呼吁监督，不能让其监守自盗。

对于监管，这些科技从业者提出了几点，我也同意，例如收取数据收集税等等。除此之外，对于如何监管，我个人补充几点看法。前面提到副作用包括个人和社会两方面。

• 对于个人来说，我认为需要对不同年龄段的用户负责，推荐算法不能对方喜欢什么就推什么，对于青少年，也需要一定的防沉迷机制。
• 对于社会来说，限制不实信息和煽动性的信息，减少社会分化。例如新加坡专门立法来打击假新闻这个做法就挺好的。同时，社交平台需要营造一个良性的键政环境，这个在我国还好，在西方国家恐怕执行起来有点难度，对于美国，最坏的结果可能是：

事实上越来越多人意识到自己被科技操控，但很难摆脱。包括我自己，我也感受过那种刷一会手机一晚就过去了的罪恶感。对于我来说，我这两年一直在执行以下这些方法。

• 电脑端不登录任何社交平台，除了微信，但微信也是处于关闭消息通知状态。手机端，关闭了所有社交app的推送。
• 设定app使用时间。例如微博，知乎，设定为15分钟。对于微信，倒没有直接限制时间，但所有群聊都静音了，以免给自己造成未读信息的焦虑。
• 不安装成瘾性特别强的App，例如抖音。倒也不是完全没用过，但不会把这个App保留在手机里，用完就删。所以虽然我是个科技从业者，但对于抖音的玩法我可能还没我爸懂。
• 对于隐私保护，尽量不用自己号码和邮箱。有时候某些网站非要我注册才让我看内容，那么我就会去搜“临时邮箱”和“临时号码”。

说到利用隐私，算法与数据，想起了我去年在自己朋友圈推荐过的《隐私大盗》，这里截图上来，就懒得再打一次字了。《隐私大盗》讲的是Cambridge Analytica如何利用fb的数据操纵美国大选。两个一起看，震撼力更佳。

恰好，这两部片子都提到了一个公司：Facebook。

最近Facebook确实不再像以前一样。之前不仅多次泄露了用户的数据，今年也各种栽赃tiktok，也确实让我们看到，某些科技公司把利益放在道德之上。

最后总结一下。

科技发展是一个浪潮，即使你不去拥抱它，这个浪潮也会拍向你。我认为要让全民都保持理性中立和识别谣言的能力是一个奢望，可能要几千年的发展，但更可能永远都能不达到。但就我们这一代来说，也能做一些力所能及的事情来抵抗科技的反噬。个人要做的，一方面是保护个人隐私，同时通过一些手段帮助自己减少分心。监管方面，保护隐私、防范假新闻相关的法规必须跟上；社会各方，如公司，个人，政府也要多合作，多沟通减少隔阂，这样才能减少分化，让大家更多的享受科技带来的便利，更少的被科技操纵。

非常好的一部片子，基本上和现代心理学研究结果基本完全一致，全新的matrix已经诞生。我一直叫mark suckerberg，就是因为这原因。国内00后的心理类疾病也在飙升。

脑神经学的各种最新应用都被用在了深度学习领域。人类大脑和身体进化过慢是几乎现代所有疾病的根源。而算法则最大限度地在利用我们大脑的各种缺陷。商业算法本质就是卖成瘾的毒品，人类一直最赚钱的商业模式。

就连知乎都有被算法牺牲的案例

https://www. zhihu.com/answer/139504 3919

色彩刺激，社会比较，幸福边际效益递减等，这些心理学研究结果都被大量应用于机器学习。如果没有相关监管和道德规范，人类健康大面积出问题是迟早的。

人类最宝贵的就是生命，而很多人都在不知不觉中出卖了生命中每一个宝贵的时刻，给算法做养料，自己变成了商品的同时也成为了人肉螺丝。教育水平越低、心智越不成熟的人越容易成为算法的完美猎物，字节、快手、微博这系列产品我是坚决不装。

有问题，多看google scholar ，中文网络基本已经沦陷，大多是观点没有事实。wikipedia错误也很多，只能作为概念入门了解，需要进一步找资料。自己的照片还是买个nas存起来的好。能够断网的人才是健康的人，自我数据安全也很重要。

我一个从小一起长大的好基友，在2014年给我说他断网一年的时候，我还很诧异。他做文创，当时他就发现自己被各种网络噪音打乱了，他当时微信备注就是一年后再联系，要找他请打座机线下見。后来是越来越佩服他，断网一年，我都做不到。

人类还没有准备好面对传播学+心理学+人工智能的降维打击。
任何一项足够先进的技术初看都与魔法无异。—— “克拉克三定律”

人类在使用新技术时，先发现其促进生产力的作用，而往往很久以后才能发现它带来的伤害。

百草枯

1919年，国外发明百草枯 —— 1984年，百草枯引入中国。
1996年，李德军(山东农药科学研究院) 开始研究百草枯 —— 2004年，掌握百草枯合成技术^[1]
2015年7月10日，百草枯被定义为剧毒。
2020年9月25日，对百草枯母药生产企业的生产资质和条件进行核查，无生产许可证的不再保留其百草枯母药和制剂的仅供境外使用农药登记证。百草枯母药生产企业生产的百草枯产品只能用于出口，不得在境内销售。^[2]

百草枯——技术本身虽然没有错，但是不同的使用的目的会改变技术的性质。

基因编辑技术

1996年，第一代基因编辑技术ZFN出现，用于动物基因的研究是从2002年ZFN成功用于果蝇基因组编辑时开始的，并在2003年开始了对人类细胞的基因编辑。该技术靶向结合效率高，但是蛋白设计复杂，费时费力，并且无法实现对任意靶基因的结合，也无法实现高通量的基因编辑。
2010年，第二代基因编辑技术TALEN出现，理论上可以使TALEN被用于几乎任何的序列。
2012年，CRISPR/Cas9的体外重构 —— 2013年实现对人类细胞的基因编辑。
第三代基因编辑技术CRISPR/Cas9开启了基因编辑技术领域的新篇章

基因编辑技术 ^[3] ——我们并非对滥用的技术了若指掌，甚至未知其后果就大行其道，未来藏在迷雾中。

人工智能

1956 年“人工智能”首次在达特茅斯会议中被提出。
1973 年，以《莱特希尔报告》的推出为代表，象征着人工智能正式进入寒冬。这篇报告宣称”AI 领域的任何一部分都没有能产出人们当初承诺的有主要影响力进步“。
1980s，由于专家系统的崛起人工智能再次迎来一次久旱之后的甘霖期，也是一次新的高潮。
1987 年基于通用计算的 Lisp 机器在商业上的失败，人工智能再次滑入了低迷期。
1990s，由于计算机计算能力的不断提高，人工智能再次卷土重来。以数据挖掘和商业诊断为主要代表的应用非常成功，使人工智能重回人们的视野。
2006年，以 Geoffrey Hinton 为代表的研究人员发现了训练高层神经网络的有效算法。
至此，基于人工智能理念的技术开始逐渐席卷全行业，波动到每个人能感知的范围。

人工智能(Artificial Intelligence, AI) 现如今带给我们极大地便利：移动支付、社交娱乐、自动驾驶、无人汽车、人脸识别、外卖配送系统、推荐系统等技术。

我们能够感知的是受益的一面，正如今日头条的 Slogan 一样：信息创造价值。

在辩证的唯物观中，凡事都充满了两面性，在对立统一中发展上升，只看事物的一面而忽视另一面都是偏颇的。

“那代价是什么呢？”

信息创造价值的同时也会暴露隐私，而个人的隐私数据正好能反应个人偏好，个人经历以及社交中未曾暴露的秘密。

目前，大多数企业只享受信息收集带来的增益，而忽视数据保护的责任，信息数据监管势在必行。

除开隐私数据保护的问题，另一个问题是企业对数据的滥用。

“如果你没有花钱买产品，那么你就是被卖的产品”——《监视资本主义：智能陷阱》

环境能够影响个体，是因为环境潜移默化地“喂”给你信息，例如在电脑前熬夜打游戏的室友、在给女友煲电话粥的朋友，某种程度上会让你也想着熬夜，想着找一个女朋友。

同理，APP 更强硬地“喂”给你信息，甚至你没有选择的余地，你获得信息的途径上，都是经过筛选的痕迹，如果你讨厌特朗普，它就会每天给你推送特朗普的黑料，如果你是偏向极端的潜在犯罪者，它甚至会推荐给你极端分子的视频......

它不在乎你会做什么，它的目的只有三个：

1. 让你沉迷，让你参与。
2. 让更多的人沉迷和参与。
3. 让广告商（企业真正的客户）赚钱。

一个数据被“滥”用的典型例子是“推荐系统”。推荐系统考虑的并不是自己推送的内容对用户是否有利，而是注重能否从中获益，而我们每个人就像小白鼠一样被淹没在推送内容构筑的世界里，被“信息茧房”困住。

另一个被滥用的例子是“搜索引擎”。相较于被动地推荐，主动的信息搜索本应该是更加无偏的行为，如果我们的搜索词相同，那我们本应该指向同样的内容，可现实中差异化的搜索算法让每个人站在同一个网络世界里，只能看到世界的部分样貌。

每个人看到的可能都是事实，但不一定是真相。我们接受了当前世界就是真实的事实。基于不同的推荐内容，看到的完全不一样的世界，会觉得对方不可理解。

弊端：

个人的极端化：当技术超过人类弱点的阈值后，它将会击溃我们的防线，能在某种程度上改变人的想法，改变社交行为。软件潜移默化地成瘾性吸引你沉迷其中，与你的现实生活竞争着创造价值的时间。

以我为例，我在吃饭的时候会逛知乎，仅仅是因为知乎的信息量远超微博，将我自己淹没在海量信息中打发吃饭的无聊时间。

集体的情绪化：情绪基于社交网络进行传播和放大，危险的模仿变得容易复制，在美国的 tiktok 能很轻易地聚集起一群同样目的、同样行为的人。让我们很容易地假设一下某极端组织掌握类似 twitter 或 tiktok 的庞大社交产品......

情绪的输出远比理智的输出更容易，这导致着社会逐渐极端化、极左极右党派逐渐在政治舞台上登场。过去的粉丝追星远非如今这么疯狂，粉丝的聚集效应打破了个人的理智，造成群体性愚昧。（推荐这本书，在微信读书上也能直接看）

以上，希望大家能够在网络世界保持一丝理智。

参考

1. ^中国百草枯之父:也自豪, 也很惭愧 - 今日农药 https://kns.cnki.net/KXReader/Detail?TIMESTAMP=637375931042187500&DBCODE=CJFD&TABLEName=CJFDLAST2017&FileName=NHXS201612009&RESULT=1&SIGN=H1tpcA6PwFyRVlDErTQmN7lo8H4%3d
2. ^农业农村部办公厅关于切实加强百草枯专项整治工作的通知 http://www.moa.gov.cn/govpublic/ZZYGLS/202009/P020200925336387449808.pdf
3. ^基因编辑技术的发展与挑战 https://kns.cnki.net/KXReader/Detail?TIMESTAMP=637375943797343750&DBCODE=CJFD&TABLEName=CJFDLAST2019&FileName=SHWU201908006&RESULT=1&SIGN=YWwKuAF96HHY2e3bTI7MxEJbs7c%3d