如何看待诈骗分子 PS 环球影城票务门面上传地图被 AI 发现？AI 技术在反诈骗上有哪些应用和进展？ 第1页

谢邀。

作为新时代四大发明之一的P图技术，已经越来越炉火纯青了。

用在自拍上，被大家戏称为“照骗”，虽然无伤大雅，但是“骗”字仍然揭示了这项技术的本质，即欺骗人们的视觉。

当这项技术被黑产用来诈骗的时候，被别有用心的人用来编造谣言和假新闻的时候，就无法一笑置之了，必须做点什么，来识别出这些“骗术”。

在安全领域，攻防双方就像矛与盾，总是面临着魔高一尺道高一丈的较量，如何能够引起大家关注，吸引优秀人才，同时还能探索最新的相关技术呢？

举办挑战赛就是一个不错的方法。

去年阿里安全就和清华联合举办过安全AI对抗比赛，主动挖掘AI识别P图技术的安全漏洞，今年，大赛又开始了。

这个具体是怎么挑战的呢？

解释一下，AI其实就是一种或集中机器学习算法，为了便于理解，我们用最简单的线性回归来举例，其实就是一个关于x和y的多项式，比如y=f(x)。

在初赛阶段，主办方会给到参赛选手们一组训练集和一组测试集，其中，训练集是用来给大家训练算法的，里面原始图片，又有标识这些图片哪里被篡改的结果图片，也就是说既有x，又有y，而测试集只有x，即只有原始图片。

通过训练集的x1和y1，参赛选手们可以训练出自己的公式（更准确叫法：模型），y1=f(x1)。然后，将这个公式（训练好的模型），运用在测试集上，算出它们哪里被篡改了，也就是说y2=f(x2)，把y2提交给主办方，主办方来对比y2和已经知道的y2`有多大的差距，量化的来评判，哪组选手识别得更精准。

这么说还是比较抽象，我们看图就容易理解了。

大家看上图，肉眼细看也能看出123是P过的，选手们就是要识别出右图那样的结果，告诉大家123所在的位置是被篡改过的。

区别于以往的图像取证比赛专注于自然内容图像，今年的比赛采用的数据为大量伪造的日常APP截图、聊天截图、证书文档类图像，包含了更多的真实业务场景和更多真实的攻击手段，以及更大的篡改数据集。

光是看这些数据集，就能感受到，如果P图技术被滥用在篡改各类文书材料，资质证明，转账记录、聊天截图和其他信息时，会造成多么严重的后果。

随着大赛的举办，越来越多优秀的篡改识别算法会被发掘，或许很快就能为大家所用。

今后，在各种证件识别，资质核查，材料审核，甚至社交媒体上，都可以快捷的识别图片是否经过篡改，让篡改痕迹无处循形。

当然，攻防还会不断升级，造假技术也会不断迭代。不过，只要能够不断的提高造假难度及门槛，让造假获得的收益难以超过造假成本，就能让造假者知难而退，还给大家一个更加真实的互联网。

2017年，年轻女子丁某在居民家门口吵闹。当民警前来劝阻时，谎称遭殴打导致流产，并伪造B超结果，提供虚假证据诬陷民警执法时殴打她导致流产；

2018年，万某在网上发布贷款信息，违规获取借款人个人信息、照片等资料，通过向借款人亲友发送经PS的淫秽图片等相要挟，强行向借款人索取钱财。

何以为真？古话常说：耳听为虚，眼见为实。在互联网时代这条准则也不再适用，PS的滥用导致我们对所有网上流传的图像变得不再信任。

“这个自拍照片真好看，不会是PS的吧？”
“XX明星聊天记录泄密！竟与多位知名演员有染！”— 伪造的聊天记录谣言影响明星事业。
“年入百万，清华博士毕业证书在此，找良配。”— 伪造、盗取证书获取他人信任，走向杀猪盘。

绕过人类的常识和思维惯性欺骗一个人其实非常简单，骗子通过视觉引导、图像伪造、身份欺诈等方式获取受害者信任，就能引导其走向精心设计的圈套中。

在该事件中，用户试图提交伪造的环球独家旅游咨询点线下门脸图像，被AI技术迅速自动识别该图像的篡改痕迹，通过上传虚假的信息蒙骗监管，获取专业认证后行使危害行为。

问题的难点在于：发现虚拟数据层面的欺骗远比物理上的伪造要更难。归根到底，P图能力足以欺骗人眼以假乱真，而往往大多数审核机制都是通过人眼确认，这就导致“看走眼”的事情发生，造成惨痛的损失。因此，如何解决这类篡改图像欺骗审核机制的问题成为了亟待解决的开放性问题。

在看走眼这件事上，再给大家分享一个有趣的小知识：人和人工智能看到的世界是不一样的。左图能骗过人眼，看到双方互相摸对方的胯骨，右图能够骗过机器，在加入肉眼几乎不可见的更改后将雪山识别为狗，并言之凿凿地给出99.99%的可能性。

此处不过多深究背后的技术原理，就这个例子而言，仅靠人眼的检测被证实存在相当大的风险，引进AI技术进行识别成为一种可行解，通过AI预警+人工审核的双重确认能更有效打击这类欺诈行为。

回到这个事件中，地图工作人员收到AI预警反馈后，经线下核实确认实际区域并无该咨询点，且该“票务咨询”电话为诈骗电话，于是拦截了这一申请。通过AI检验“预审”后再进行人工核验的方式现如今已成为行业应用范式，聊天信息、资质证明、物流风控、转账记录、媒体内容等领域的真实性检测都通过这一套流程确保安全性。

技术是在对抗中螺旋上升的，伪造和检测伪造技术也如此。起初，拙劣的P图技巧仅凭肉眼即可识别，扭曲的门框和地板成为新手P图用户最常见的细节失误；随后，字迹伪造、证书P图等事件则需要专业人士的鉴定才能判断真伪，鉴伪逐渐成为一项专业技能；如今，高端的伪造技术如DeepFake则可以欺骗所有肉眼，实现真假难辨的效果，检测这些伪造技术成为科技最前沿的挑战之一。

针对这个问题，阿里天池正在举办一个针对真实场景中大量出现的篡改图像的检测比赛，提供一个接近真实经济生活场景的篡改图像数据集，包括资质类、文档类、截图类等手工篡改图像，让篡改检测领域更加关注此类高风险篡改图像，通过比赛促进此方向的技术进步。

我在浏览到这个比赛时，发现去年也举办过该项比赛，这类大赛的意义在于一方面推进相关篡改检测技术的进步，助力解决网络诈骗的社会问题，另一方面也给行业培养更多安全技术人才。

事实上，近年大量诈骗违法人员引入伪造各类证件、转账记录等技术手段骗取用户信任、伪造个人身份实施诈骗，识别破解难度大幅增加。对于普通人而言，无法确定对方晒出的身份信息、生活信息是否为真，甚至无法确定跟你聊天语音视频的好友性别，以至于网恋奔现发现对方是同性的事件层出不穷，“有图有真相”的时代也一去不复返。

魔高一尺，道高一丈，正如加密和破解密码的关系一样，伪造和鉴伪自古就是相爱相杀的技术应用。现如今为了检测和鉴别篡改图像，各路安全人员也是挠破了头，若篡改检测技术能得到推广普及应用，会很大程度遏制网络诈骗。安全问题与每个人息息相关，希望经由这个事件、这场比赛能够推动该领域的技术进展，从源头以科技创新解决社会生产、生活的安全问题。