大家好,我是田静。 前两天很多人都迷上了一个新玩具,就是朋友圈刷屏的换脸app「ZAO」。 △ ZAO在苹果商店的下载页面 大家把自己的脸,换到了紫霞仙子、张柏芝、小李子、冠希哥脸上……AI科技的门槛从来没有这么低过。 而紧跟着一起刷屏的,是很多科技类自媒体的质疑,这个app存在用户隐私风险、侵权风险。因为大家从它的用户协议里面「揪出」了很多潜在问题。 由此引发一阵恐慌。 大家主要质疑以下四个问题: 1. 当你打开app注册账号的时候,它能获取你的手机号,同时它又有你的面部照片,和AI面部合成技术。如果这些东西被人盗用,去支付宝刷脸付款,可能会非常容易。 2. 你的照片还可能被人利用,合成为色情片的主角。 3. 如果你默认同意它最初版的用户协议,那根据协议条款,你就是同意了:它可以永久、不可撤销、免费使用你的肖像权;它还可以「转授权」,也就是可以授权给其它公司使用。 4. 同样是根据最初版的用户协议,假如陈冠希去告ZAO侵犯了自己的肖像权,那ZAO可以直接甩锅给你,说是你侵犯的,找你赔钱——ZAO似乎过分的「撇清责任」了。 这到底都是怎么回事?你会被盗刷支付宝吗?你的照片会被这个软件利用,变成色情女主角吗?你有可能被告侵权吗? 今天的文章跟你聊聊这些问题。 内容经授权转载自:差评 ID:chaping321 8月31号中午,我刚一睡醒,就发现自己手机里的朋友圈和讨论组被一件事情刷屏了…… △ 热闹的票圈截图 可能有一些差友还不知道怎么回事,所以我还是简单介绍一下,带大家凑凑热闹~
我特地找愿意的小伙伴借了张照片,给大家演示一下。 △ 陈冠希原版片段 △ 换脸后片段 这个效果,大家感觉如何?
△ 我曾经试过用 Deepfake 技术,把石原里美的脸合成到了小短片里 之前换脸哥把杨幂的脸换给朱茵,也是用的这个技术。 △ 电影原图 △ 换脸后 但,不同于之前需要钻研技术、训练素材。使用 ZAO 你仅仅只需上传一张照片就能整出非常叼的效果。
△ 网络上的质疑 因为 AI 换脸技术之前也被用在情色视频黑色产业链中,被用于制作小视频也是完全有可能的。 △ 网络上的质疑 其实 ZAO 的功能目前来说还是很克制的,用户不能通过它提供的技术自己整小视频,只能使用它给的模板,在模板的基础上进行换脸。 ZAO 并没有给大家提供技术让大家制作小电影。只要它的信息不泄露,那么这个锅就不该它背。
△ 有人担心自己的支付宝、银行卡会被盗刷 要解释清楚这个问题,那咱们就不得不聊一聊“ 生物识别技术 ”了。
像人脸识别、虹膜识别、指纹识别都属于生物识别技术。具体种类还挺多的~ △ 维基百科:生物识别技术 对普通用户来说,AI 换脸后的视频就像是他们本人的视频,足以以假乱真,通过安全识别。 但,对于生物识别技术来说,用照片、视频冒充的图像跟活体识别是有差异的。 比如说当你使用照片、视频时会产生反光,有时会有边框。这些因素的存在都会让它怀疑你是不是活体~ 从而阻止你通过识别。 △ 一个简陋的示意图 更强悍的活体检测还能通过皮肤纹理等更精细的因素,判断对象是活体还是视频。 如果你选用的是足够靠谱的机构保管你的钱财,那大可以放心。他们对生物识别技术的研究不会太弱,不会被一个视频就把钱给骗走的。
先看原文。 △ ZAO最初版本的用户协议,第 6.1 条
而且不止是要给它,连它的关联公司我都得给……
△ ZAO最初版本的用户协议,第 7.7 - 7.8 条
我可以理解你需要用户进行一定程度上的著作权授权,以免合理规避你的法律风险。 事实上,很多 APP 都会有这样的条款藏在用户协议里。 但是 ZAO 的用户协议中,无论是撇清责任还是索要权利都做的太过度了。如果初衷是为了免责,那应该把条款写的很具体才对,不应该这么大包大揽。
截止到发稿为止,ZAO 官方没有任何声明,上一条微博还是 22 小时之前的。 田静注:差评发布这篇文章之后,9月1日下午,ZAO官方微博发布了一条动态: 我们十分理解大家对隐私问题的担忧。你们提的问题都已收到,考虑不周的地方我们会去改,需要一点时间。 △ 9月1日下午 4 点半左右,ZAO官方微博发布的消息 但他们已经悄悄修改了用户协议。 在用户协议的最开始,新增了可以依照规则 “ 撤回 ” 和 “ 删除 ” 的提示。 △ 修改之后的用户协议页面
但我还是提醒一下,这样偷偷修改条款不太合适,应该在修改完用户协议后进行弹窗提示,并且再次要求用户的同意,才能让用户对你放心。 其实 ZAO 这款产品本身是一个好创意,也的确用技术给用户带来了欢乐。 本身类似 Deepfake 的换脸技术就非常敏感,在国内外都一直争议不断。ZAO 的用户协议本应谨慎小心,现在在用户协议的撰写上如此偷懒,让一款其实创意还不错的产品因此成为众矢之的。 希望国内在推出类似产品的时候,以此为鉴。 |
|