分享

FB壕掷千万办换脸视频检测挑战赛,网友:这是帮Deepfake训练鉴别器吗?

 2016xing 2019-09-06

换脸AI Deepfake制造的视频,让女明星们蒙受不白之冤,让吃瓜群众误以为有视频有真相。

现在,科学家们终于决定以AI制AI了。

由Facebook领衔的一群学校和公司,决定共同创建Deepfake检测挑战赛,Deepfake Detection Challenge,简称DFDC

就像ImageNet挑战赛推动图像识别的进展一样,他们决定以此为基准,推进Deepfake检测任务的成绩,而且,Facebook自己准备花1000万美元干好这件事。

不过,先别急着赞美,已经有人发现了bug所在……

比赛详情

Facebook为这项比赛投入了1000万美元,折合7147万人民币。

除了主导者Facebook之外,微软也是参与主办者之一,MIT、牛津大学、UC伯克利、马里兰大学、纽约州立大学奥尔巴尼分校、康奈尔大学与以色列理工学院合建的学校Cornell Tech六所学校也参与了进来。另外,马里兰州的城市科利奇帕克(College Park)也参与到了这项比赛的筹备中。

正如ImageNet挑战赛有自己的数据集,Deepfake检测挑战赛也会专门做一个数据集出来,可以供参与者无限制免费试用。

不过,虽然手握重要社交平台,Facebook承诺不会使用Facebook平台上用户的数据,而是选择付费找演员来制作视频。

最终的数据集将会在10月的ICCV上测试,完整数据集会在12月的NeurIPS上发布。

整个DFDC比赛将会在年底开始,明年3月份截止提交,需要参赛者提交代码进行黑盒验证集测试。

结束后也会有比赛结果排行榜,并提供一定的奖励。Facebook作为主办方自己也会参赛,不过他们表示自己不会拿奖金。

现成的参赛选手

不过,虽然针对Deepfake的检测比赛是头一次出现,但检测Deepfake视频的AI可是早就有了。

今年2月,动图表情包网站Gfycat就训练了两个AI模型,用来找出那些被换了脸的视频。

一个模型叫Project Angora,名字来源于安哥拉猫;另一个叫Project Maru,Maru是日本的一只网红猫。

Angora负责在这个表情包网站上找到换脸视频的原版,而Maru负责标注出图像的哪个部分是被篡改过的,在视频中找到人脸,对比明星的脸,看是不是被P上去的。

这不是军备竞赛吗?

Facebook的这项行动,也获得了不少学术界人士的赞扬。UC伯克利EECS教授Hany Farid评价说:

为了从信息时代走向知识时代,我们必须更好的辨明真伪,奖真惩假,教育下一代成为更好的数字公民。这需要全面的投资,需要工业界、学界、非政府组织一同努力研究,发展和实施能快速精准辨别真伪的技术。

也有人觉得,ZAO都这么火了,必须得有技术让我们分辨出真假:

但是,也有人发现了问题所在:这个Deepfake检测挑战赛,好像哪里不对啊?

在Yann LeCun转发这条消息的推特下,不少吃瓜研究者看乐了:

我想知道,创造出一个好的Deepfake检测算法,是不是在催生更好的Deepfake算法,这是对抗学习框架的一半啊……

还有人深入解释了这个问题:

笑哭……所以他们是要训练一个鉴别器,比Deepfake的GAN中用的鉴别器更好?然后就会有人用这个更好的鉴别器,用它来创造更好的Deepfake GAN。这就是一场GAN的军备竞赛。

如果前来吃瓜的朋友看不懂,那量子位在这里小小解释一下这几位评论区网友的笑点。

Deepfake这种换脸AI,背后用到的是GAN(生成对抗网络)技术来生成画面。

GAN本身就是一个画师、一个裁判双方对抗,画师负责画出换脸之后的图像,裁判负责把画得不像的扔掉,筛选出画得像的,拿出去交作业。

而Facebook这个挑战赛,是要鼓励人们训练出更好的针对Deepfake的AI检测工具,这个检测工具,本身也是看哪些视频画得不像,把画得不像的、和真实视频(不可能画得不像,因为压根就没画过)区分开来。

也就是说,这个AI检测工具,就是给Deepfake背后的那个GAN提供水平更高的裁判,相当于给竞争对手培养教练,给友商培养测试人员,这是资敌啊!

因此,Deepfake们获得了更好的裁判,可以创造出更逼真的换脸假视频,也给Facebook的这个挑战赛创建了难度更高的数据集,倒逼挑战赛的参与者训练更高水平的裁判,然后更高水平的裁判再被新一代Deepfake们使用……

魔高一寸,道高一尺;道高一尺,魔高一丈;魔高一丈,道高一里……往往复复无穷日,此恨绵绵无绝期,最终双方都燃尽了GPU,换脸AI也达到了巧夺天工的水准。

比赛传送门

https:///

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多