Deepfake 不一定是问题,不知道才是大问题!关於 Deepfake,你需要知道的是⋯⋯?

编按:你的理智知道「眼见不为凭」,但你的眼睛还是会背叛你的理智,不自觉得被眼前的影像所吸引,尽管你真的、真的知道他是假的。Youtuber 小玉於2021年底涉嫌利用 Deepfake 技术,伪造多位名人的色情影音内容并贩售的事件,既不是第一起、也不是唯一、更不会是最後一个利用「深伪技术」进行科技犯罪的事件。

当科技在走,社会和法律该如何跟上甚至超前部署呢?本次 Deepfake 专题,由泛科学和法律白话文合作,从Deepfake 技术与辨伪技术、到法律如何因应,让我们一起全方位解析Deepfake!

第一篇,让我们就 Deepfake 技术做一基础的介绍,那我们就开始罗!

什麽是 Deepfake?

深伪技术 Deepfake 於 2017 年陆续开始进入大众的目光中。原文 Deepfake 源自於英文「deep learning」(深度学习)和「fake」(伪造)组合,主要意指应用人工智慧深度学习的技术,合成某个(不一定存在的)人的图像或影片、甚至声音。最常见的应用,就是将影片中的人脸替换为另一张脸(常是名人),让指定的脸在影片中做出自己从未说过或做过的事情。

现今谈到 Deepfake,大多数人想到的可能是伪造的成人影片,就如前述 Youtuber 小玉的事件,Deepfake 一开始受到关注,主要与名人或明星的脸部影像被合成到成人影片有关,然而,Deepfake 的功能远不仅於此,相关的技术使用还包括了替换表情、合成一整张脸、合成语音等等。

除了像是让过去或现在的名人在影片中「栩栩如生」做出使用者想要的表情与动作,之前在社群媒体上曾有好几款 APP一度风靡,包括上传一张照片就可以看看「变老」「变性」自己的 FaceApp,甚至於让自己的脸在经典电影中讲上一段台词的「去演」APP,这类的功能也是应用前述 Deepfake 的技术。

虽然有些线索显示这类 APP 常有潜在的资安疑虑[注],但好歹技术的成果多属搏君一灿自娱娱人,尚可视为无伤大雅。

而过往电影的影音产业要仿造人脸需要应用许多复杂、耗时、昂贵的电脑模拟,有了 Deepfake 相关的技术,也使得许多只能抱憾放弃的事情出现了弥补的空间。最有名的应用应是好莱坞电影《玩命关头7》与《星际大战》系列。《玩命关头7》拍摄期间主角保罗・沃克(Paul William Walker IV)意外身亡,剩下的戏份後来由弟弟担纲演出,剧组再以 Deepfake 的技术让哥哥弟弟连戏,整部电影才得以杀青上映。

Deepfake 让「变脸」变得太容易了?

想想过去的电影如《魔戒》中的咕噜、或是 2008 年布莱德・彼特主演的《班杰明的奇幻旅程》,将影片或照片中人物「换脸」「变老」的修图或 CG 技术,在 Deepfake 出世之前就已经存在了。Deepfake 受到关注的核心关键在於,应用 AI 的深度学习的演算法,加上越来越强大的电脑与手机运算能力,让「影片换脸」这件事情变得越来越随手可得、并且天衣无缝。

过往电影中采用的 CG 技术要花好几个月由专业人士进行後制,才能取得难辨真伪的影像效果,而应用了 AI 演算法,只需要一台桌上型电脑甚或是手机,上网就可以取得软体、有机会获得差强人意的结果了。

进一步,传统软体演算法主要依靠工程师的持续修改调整,而如 Deepfake 这类技术,内部的演算法会经过训练持续进化。有许多技术被应用於提高 Deepfake 的伪造效果,其中最常见的一个作法被称为「生成对抗网路(Generative Adversarial Network, GAN)」,这里面包含了两组神经网路「生成器(Generator)」和「辨识器(Discriminator)」。

在投入训练资料之後,这两组神经网路会相互学习训练,有点像是坐在主人头上的小天使与小恶魔会互相吐槽、口才越来越好、想出更好的点子;在练习的过程中,「生成器」会持续生成伪造的影像,而「辨识器」则负责评分,反覆训练下来,伪造生成的技术进步,辨识伪造的技术也得以进步。

举例来说,This Person Does Not Exist 这个网站就充满了使用 GAN 架构建构的人脸,这个网站中的人脸看上去非常真实,实际上都是 AI 制造出来的「假脸」。

Deepfake 影片不一定是问题,不知道是 Deepfake 才是问题

现今的 Deepfake 技术得以持续进步、骗过人眼是许多人努力的成果,也不见得都是坏事。像是《星际大战:侠盗一号》片尾,年轻的莱娅公主出面惊鸿一瞥,就带给许多老粉丝惊喜。这项技术应用症结在於,相关演算法轻易就能取得,除了让有心人可以藉以产制色情影片(这类影片占了Deepfake滥用的半数以上),Deepfake 制造的影片在人们不知情的情况下,很有可能成为虚假讯息的载体、心理战的武器,甚至於影响选战与舆情。

因此,Deepfake 弄假似真不是问题,阅听者因此「不辨真假」才将是最大的问题所在。

相关的研究人员归纳了几个这类「变脸」影片常见的特徵,可以用来初步辨识眼前的影片是不是伪造的。

首先,由於 AI 尚无法非常细致的处理一些动作细节,因此其眨眼、视线变化或脸部抽蓄的动作会较不自然。其次,通常在边缘处,如发丝、脸的边缘线、耳环等区域会出现不连贯的状况。最後,在一些结构细节会出现不合理的阴影瑕疵,像是嘴角的角度位置等。

由於现阶段的 Deepfake 通常需要大量的训练资料(影像或影片)才能达到理想的伪造成果,因此会遭到「换脸」的受害者,主要集中在影像资源丰富的名人,如电影明星、Youtuber、政治人物等。需要注意的是,如果有人意图使用 Deepfake 技术制造假消息,其所制造的影片不见得需要非常完美,有可能反而降低解析度、非常粗糙,一般人如用手机浏览往往难辨真假。

人眼已经难辨真假,那麽以子之矛攻彼之盾,以 AI 技术辨识找出 Deepfake 的成品,有没有机会呢?随着 Deepfake 逐渐成为热门的议题,有许多团队也开始试图藉由深度学习技术,辨识伪造影像。2020 年脸书与微软开始举办的「换脸侦测大赛」(Deepfake Detection Challenge)就提供高额奖金,徵求能够辨识造假影片的技术。然而成果只能说是差强人意,面对从未接触过的影片,第一名辨识的准确率仅为 65.18%。

对於 Deepfake 可能遭到的滥用,某部分我们可以寄望技术的发展未来终将「道高一尺」,让社群平台上的影像不致於毫无遮拦、照单全收;然而技术持续「魔高一丈」让防范的科技追着跑,也是显而易见的。

社群网路 FB 在 2020 年宣布全面禁止 Deepfake 产生的影片,一旦有确认者立即删除,twitter 则强制注记影片为造假影片。Deepfake 仅仅是未来面对 AI 浪潮,科技社会所需要应对的其中一项议题,法律、社会规范如何跟上?如何解决个中的着作权与伦理问题?这些都将是需要经过层层讨论与验证的重要课题。

至少大家应该心知肚明,过往的网路流行语:「有图有真相」已经过去,接下来即将面临的,是一个「有影片也难有真相」的网路世界了。

  • 注解:推出 FaceApp 与「去演」的两家公司其软体皆要求注册,且对於上传资料之後续处理交代不清,被认为有侵犯使用者隐私权之疑虑。

参考资料

  1. Deepfakes and the New AI-Generated Fake Media Creation-Detection Arms Race – Scientific American
  2. What To Do About Deepfakes | March 2021 | Communications of the ACM
  3. Tolosana, R., Vera-Rodriguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). Deepfakes and beyond: A survey of face manipulation and fake detection. Information Fusion, 64, 131-148.
  4. Deepfake 深伪技术的技术滥用与道德困境,大众正要开始面对 | TechNews 科技新报
  5. 台湾团队研究辨识Deep Fake影片 深伪技术的正邪之战开打 | 台湾事实查核中心 (tfc-taiwan.org.tw)
  • 水熊虫真的能跟量子位元「量子纠缠」吗?
  • 逼近 50% 的癌症研究实验无法被重现?RPCB 耗时 8 年点出「再现性危机」
  • 大资讯时代也是大骇客时代!——你该认识的骇客新兴手法
  • Omicron 变种病毒从哪来?打疫苗有用吗?Omicron 相关研究汇整
  • 推理系动画毒杀利器!——认识致命的「河魨毒」

 

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
Back to top
0
希望看到您的想法,请您发表评论x