换脸 App 相信不少人都曾玩过,可以将自己的脸换到明星身上。但你想过「被换脸」到小片片上吗?只要有心、有钱、有工具,深度造假技术(Deepfake)就能使这一切成真。在国外,不少知名女星都曾被挖面合成“女主角”,甚至在网络贩卖,这个「换脸生产链」仅数月便可不法获利数百万元。人脸是如何被挖掉、又是如何以假乱真地被接上他人的身体?科技始终来自于人性,但人性里的欲望会膨胀,在这个眼见不一定为凭的年代,科技制裁得了人性吗?Deepfake 一词于 2017 年问世,被译作深度造假,原理是利用人工智能(AI)技术,模拟出状似真人的影像。事实上,换脸“片片/图片”已成为新型态的数位性暴力犯罪,遍及世界各地。截止到 2020 年,全球前四大深度造假颜色网站的浏览次数已超过一亿三千四百万次。而据荷兰网络安全新创公司 Sensity AI 于 2019 年的研究报告来看,全世界深假影片有 1 万 4678 部,此数字在 7 个月内翻了一倍,甚至语言将持续大幅成长。这些深假影片不仅观看量惊人,触目惊心的是 9 成以上受害者为女性。曾有相关学者指出,若想要攻击一位女性,最直接也最快速的方法就是对她进行「杏羞辱」。虽然目前性犯罪受害人男性越来越多,但深假犯罪仍以女性为主要受害者,这也成为报复女性公众人物、前女友的一种非法手段。受害人因影片外流、遭杏勒索,受创程度超乎想像,却又难以证实影片为假,并感受真实暴力与羞辱。大部分时候我们都说不是真的,可是那个伤害、恐惧,是很真实的,恐惧就可以禁声一个人。而我们每一个人都可以防止这样的事情发生,不再当旁观的加害者。深假技术让过去只能发生在脑中的意淫成「真」,但伴随而来的,却是穿过虚拟世界,对当事人的真实暴力。从过去私密影像泄露,到如今以假乱真的 Deepfake,受害者的身体一次又一次被视作无关紧要的物品,可以随意议论、评判、骚扰、操控、意淫,而无须对谁负责。当点击量持续上涨,想像有无数只眼睛不怀好意地观看自己,便窒息得难以呼吸。“要怎么证明那不是我?走在路上、坐地铁上,可能有一些陌生人交头接耳的时候,都可能觉得,是不是他们看过那个影片?觉得我是那样的女生?觉得我是很糟糕的人?”联合国妇女署发表《针对妇女与女孩网络暴力》报告中,将网络暴力形式分成六大类:而在调查中,许多受害者都知道自己被「换脸」至涩情片盈利,但因担心遭受报复,多数人仅能装作没这一回事。或许可以幻想,甚至脑补画面,但请不要把它做出来、上网拿去卖,这对女生一定有伤害。关于新兴性犯罪 Deepfake,让我们看看国外是怎么个状况。美国加利福尼亚州设有相关法律,Deepfake 受害者能对加害者一纸诉状,然而,万一加害者未身处于该州管辖范围内,则无济于事。而人尽皆知的韩国 N 号房事件后,首次通过了《杏暴力犯罪处罚特别法部份修订法律案》。该法案规定,制作或散布 Deepfake 影片将被处以五年以下有期徒刑或五千万韩元以下的罚款,如涉及盈利目的,最多可判处七年有期徒刑。可最严重的问题,刑事侦查手段远远跟不上网络犯罪的发展速度。以 DeepNude 犯罪为例,其多发于 Facebook、IG、Telegram 等通讯或社交平台,甚至境外网站。我国刑事侦查单位与各大跨国网络服务提供者之间,难以或根本无法要求或调取加害人的个人资料。换言之,即便被害人勇敢地搜证后报警,相关单位最终往往也难以追查,致使案件不了了之。或许,只有用魔法打败魔法,以 AI 对抗 AI,开发一套侦测工具更为可靠。当人们匿名躲在屏幕和键盘后,暗箭四射,被刺伤的受害者往往无力反击。这个道德不是多么崇高的理想典范,而是对于这些深受其害的人,一份最基本尊重与同理。无论是个人,或对杏犯罪、性别暴力的识读,都需要各界共同参与![1] Brandon, John. Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise. Fox News. 2018-02-16 [2018-02-20].[2]Roettgers, Janko. Porn Producers Offer to Help Hollywood Take Down Deepfake Videos. Variety. 2018-02-21 [2018-02-28]. [3] I’m using AI to face-swap Elon Musk and Jeff Bezos, and I’m really bad at it. The Verge. [2018-03-24].
|