这种「AI换脸」诈骗案，竟然骗走了2亿巨款

从去年开始，有一个词儿开始频繁出现在我们的日常生活，它就是「AI」。

小伙伴们别不信，仔细想想日常的衣食住行，是不是多少都有点 AI 的身影了？

就拿小雷来说，看外语视频会用手机 AI 字幕，去哪玩有 AI 推荐地点和规划路线。

在外吃饭写评语直接用 AI 生成，网购买衣服可以用 AI 进行试穿瞅瞅效果怎么样。

可以这么说，AI 的出现能帮助我们做到更多的事儿，从而实现省时省力的效果。

图源：小雷手机截图

但是，小雷又要说但是了嚯。

AI 在带给我们工作生活便利的同时，也诞生了一系列围绕 AI 的投机或者犯罪行为。

这不昨天才曝光出来的热乎新闻，香港发生了一起当地史上最大的「AI 诈骗案」。

此案涉及金额高达 2 亿元港币（约合当前 1.84 亿元人民币），这可不是一笔小数目！

那么问题来了，骗子是怎么通过 AI 实施骗术的？这类骗术有没有什么破解办法呢？

据港媒报道，这起 AI 诈骗案发生在一所跨国公司，报案人为该公司的香港分公司的员工。

喏，这名员工在上个月收到了来自英国总部首席财务官的邮件，对方称要进行「机密交易」。

虽说该员工最初依然抱有警惕性，但经不住对方多次邮件的轰炸和软磨硬泡麻醉，最终他还是答应和对方进行视频电话。

这时候骗局进入下一环节，该员工在视频电话里看到所谓的首席财务官，甚至还看到了其他几个相识的财务职员。

首席财务官要求该员工尽快转账，随后便中断视频电话，该员工已经完全相信了这场「机密交易」。

So，他前后 15 次分别向 5 个香港本地账户转账合计 2 亿港元。

直到骗局发生几天后，该员工觉得不太对劲，在向英国总部求证后，他才发现自己上当受骗了。

据香港警方介绍，骗子通过公司在 YouTube 和其他公开渠道的媒体素材，合成伪造英国总部首席财务官的外貌和声音。

接着利用 Deepfake（深度伪造）技术，为其他出席视频通话的其他人换上高管和同事的外貌及声音，也就是我们常说的「AI 换脸」。

而且会议主要是上级向下级下达转账命令的形式，事实上整个视频通话他就只做了一次自我介绍就闭麦了，没有机会和其他脸熟的员工交流。

目前香港警方表示，这个案件还在进一步调查 ing，现在还没有逮捕任何嫌疑人。

警方之所以要在案件告破前率先把案情公布，是想提醒更多公司和个人，避免这类 AI 骗局再次得逞。

图源：yahoo！新闻 @鉅亨網新聞中心

So，Deepfake 技术真有那么神奇？人一换上别人的「脸」真的很难分辨吗？

喏，所谓的 Deepfake，其实是 Deep learning 深度学习和 Fake（伪造）的合成词。

中文译为「深度伪造」，指使用深度学习技术生成合成图片、视频或音频的技术。

图源：网络

Deepfake 技术最常见、也是我们最熟知的应用，就是用来进行「AI 换脸」。

一开始是采用基于图形学的3D 模型重建追踪技术，后面又加入了深度学习技术。

如今为了减少深度学习的训练难度和提升生成质量，又加入了生成对抗网络技术。

这些名词要意义解释起来，小雷写一篇文章肯定是不够的，咱们就往简单了说嗷。

小伙伴可以这么理解：Deepfake 模型通过大量面部图像数据的训练，就可以学习到人脸特征之间的隐藏关系，从而生成和真实人脸特征十分相似的虚假人脸。

而且嚯，换脸技术通常伴随着声音伪造技术一起使用，俩 Buff 叠加能达到更加逼真的效果。

结合今天说的这个 AI 诈骗案，将视频分成数量足够多的图片，再将图片中的人脸替换，就可以得到另一张人脸的视频。

So，这个案件中其实除了被骗员工外，视频通话中出席的其他人都是利用 Deepfake 套上「假脸」的诈骗团伙成员。

目前，Deepfake 技术主要应用在影视制作、虚拟游戏等领域，这些还是比较正面的应用。

都说「科技是把双刃剑」，Deepfake 技术也逃不过这个定律。

emmm，目前 Deepfake 还被用于伪造名人、明星以及素人的不雅视频。

比如上个月，由 AI 生成的美国流行歌星泰勒 · 斯威夫特不雅照，就在网上广为流传。

这事儿甚至还让 X 平台采取紧急措施。

平台应阻止用户搜索和泰勒 · 斯威夫特英文名「Taylor Swift」的相关内容，以打击 Deepfake 行为。

图源：微博 @环球网

问题又来了，Deepfake 效果这么以假乱真，普通人难道只有上当受骗的份吗？

非也非也，从上面说到的 Deepfake 原理出发，小雷给大伙总结了几招实用小技巧。

首先「AI 换脸」想要效果逼真的，Deepfake 必须经过大量的人脸图像数据来训练。

而大多数人像训练模型需要寻找人脸上足够多的对齐点支持，才能正确对齐换脸。

So，我们普通人一来并没有那么多的公开照片，二来照片绝大多数又是正面拍的。

这时只要让 AI 换脸的人侧面，脸上对齐点变少 侧脸数据训练不足就非常容易露馅。

还有一招，在视频通话时要求对方用手在脸上来回晃动。

如果是 AI 换脸的人脸，因为手和人脸图像重叠，可能会导致 Deepfake 实现出现混乱。

而且手在面前摆动，也会让伪造的人脸出现覆盖延迟，这样的纰漏我们一眼就能看出来。

总之，AI 技术的出现确实是件好事。

但随之带来的诸如 Deepfake 技术被滥用等问题，也是一件令人十分头疼的事了。

小雷希望有关组织或部门，能够尽快制定出台相应的管理政策，让 AI 重回正轨吧。

封面图源：CNBC 网