用深度学习技术造假巨星短视频，狂揽几十万粉丝

三天前，一个名为@deeptomcruise的TikTok帐号开始发布好莱坞巨星汤姆-克鲁斯的视频片断，从打高尔夫到在乎大利的一家男装店里被绊倒后讲笑话，再到用硬币表演魔术。在这三段视频中，克鲁斯每一段都会发出他标志性的狂笑，不过虽然全部这些视频中的人看起来都和汤姆-克鲁斯如此相像，但这些都不是克鲁斯，而是用深度伪造视频技术「deepfake」制做的假视频。

若是仔细观察就能够发现一些疑点，首先视频里的汤姆-克鲁斯看起来要比58岁年轻不少，

并且也要比真人高出不少。此外，他的声音也有明显的不一样。

不过大多数网友并无注意到这些，这个名为@deeptomcruise帐号已经积累了23.6万名粉丝，而且粉丝数还在不断增长中。目前TikTok官方没有发表上传使用「deepfakes」技术的视频是否违反了服务条款，但有很多用户已经感受事情的严重性，而且有人建议：每一个公众人物都应该在那里注册一个通过验证的帐号，即便他们不发布内容，这样更容易让用户识别假冒的帐号。

---

麻省理工学院的研究人员对这项技术进行了详细的解释，@deeptomcruise 正在使用 「deepfakes」技术，这是一个结合了 「深度学习 」和 「假货 」的术语，一种特殊的合成媒体，在这种媒体中，图像或视频中的一我的与另外一我的的肖像进行了交换。

为了制做一个深度伪造视频，制做者使用面部识别算法和一个称为变异自动编码器[VAE]的深度学习计算机网络，将一我的的脸换成另外一我的的脸。VAE被训练成将图像编码成低维表示，而后将这些表示解码回图像。例如，若是你想将任何视频转化为影星尼古拉斯-凯奇的「深度伪造」，你须要两个自动编码器，一个是在演员脸部的图像上训练的，另外一个是在多种脸部的图像上训练的。

这两个训练集所使用的人脸图像能够经过对视频帧应用面部识别算法来策划，以捕捉天然发生的不一样姿式和照明条件。一旦完成这种训练，你就能够将在多样化的人脸上训练的编码器与在尼古拉斯-凯奇的脸上训练的解码器结合起来，从而在别人的身体上造成演员的脸。

---

这项技术早在2017年就出现公众视野中，那时有不少美国前总统特朗普的追随者发布了大量假新闻，在2019年的电影《爱尔兰人》中这项技术也被大量使用，人们对这项技术的评价很是两极化，喜欢的人以为这将开启一个电影新时代，讨厌的人以为会有人用它来进行「犯罪」。

目前来讲@deeptomcruise帐号里发布的视频并无任何危害，但仍是但愿视频平台加速制定「deepfakes」制做视频发布规则，避免有用户上当受骗。