【原】High&NewTech：人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新

High&NewTech：人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新

导读
      前段时间，火了一阵子的基于DeepFake实现的换脸技术，带来的肖像权、名誉权及引发的道德问题还未被平息，这个月底，又有人利用AI算法带来了无底线的应用—DeepNude，着实挑战了人工智能应用的道德底线。
      就在前些天，国外某程序员利用人工智能算法设计了一款能够一键脱的APP。只要给DeepNude软件一张女性照片，借助卷积神经网络技术，软件可以自动“脱掉”女性身上的衣服，显示出未穿衣服的照片。该应用一经上线，便被大量网友下载，迅速的导致系统宕机，造成了很多恶意应用。
      当然，针对AI技术的滥用，很多著名学者都对此应用提出了严厉的批评。6月28日，Andrew Ng(吴恩达，华裔美国人，斯坦福大学计算机系副教授，曾担任百度首席科学家)在推特上表示，听到DeepNude死掉了，他非常高兴，他认为DeepNude是AI上的一个恶心应用。并同时呼吁作为人工智能方面的研究者，更应该利用AI算法，去做一些推进社会进步、促进人类发展的有意义和有价值的事情上去。

---

相关文章
AI换脸：CV之Face Change：基于人工智能实现国内众多一线美女明星换脸(基于Face++输出4*106个特征点定位+融合代码、deepfake技术)

相关报道

        DeepNude was a deepfakes application which allowed to alter photos of a person to make them appear nude, designed to work on females. Several days after its June 23rd, 2019, release and rapid climb to popularity, the app was permanently shut down over the concerns of potential misuse, although already downloaded copies of the software were continued to be shared.
        On June 23rd, 2019, Windows and Linux application DeepNude, developed by an anonymous person known only as Alberto, was made available for download online (website no longer available).
On June 27th, 2019, Vice Motherboard featured a story on the app, titled "This Horrifying App Undresses a Photo of Any Woman With a Single Click", also talking to the creator of the app.[3] In the following days, multiple news outlets covered the story, including articles by The Verge.

       DeepNude是一款类似deepfake应用程序，它允许修改一个人的照片，使其看起来是裸体的，专为女性设计。该应用于2019年6月23日发布，并迅速走红。几天后，出于对潜在滥用的担忧，该应用程序被永久关闭。
     2019年6月23日，由一位名叫阿尔贝托的匿名人士开发的Windows和Linux应用程序DeepNude可以在网上下载(目前网站不再提供)。2019年6月27日刊登了一篇应用程序,名为“这恐怖的应用脱下衣服的照片与单一点击“任何女人,还跟应用程序的创建者。在接下来的日子里,多个新闻媒体介绍了故事。6月27日，由于访问量过大，官方网站遭遇了一系列的崩溃。在同一天，DeepNude的创建者宣布，由于担心应用程序可能被滥用，该服务已被永久关闭。
       这款应用的免费版本中，输出的图像有一部分被大水印遮住了，50美元的付费版本中去掉了水印。支付额外的50美元可以去除一个较小的“假”水印(如下图所示，左边和右边)。虽然这款应用的下载量还不清楚，但在2019年6月27日，官方的DeepNude网站在关闭前因为高负载经历了一系列崩溃。

       Motherboard联系了DeepNude的创建者，此人化名为“阿尔贝托”（Alberto，匿名）。他表示，该软件基于加州大学伯克利分校研究者开发的开源算法pix2pix创建，并使用1万张女性LUO图加以训练。这一算法与之前的人工智能换脸技术deepfake算法相似，也和无人车技术所使用的算法相似。

      DeepNude使用pix2pix开源算法分析输入图像，识别服装并删除它，用生成的裸体图像替换它。该算法在10000多张女性裸照的数据集上进行训练。

       “阿尔贝托”表示，该软件目前之所以只能用于女性照片，是因为女性LUO体图像更容易在网上找到，但他希望能创建一个男性版本的软件。他还表示，他继续这一实验是出于“有意思”和好奇心。“我不是偷窥狂。我是技术的爱好者，”他说，“继续提升这个算法，最近也是吸取了之前的教训（来自其它创业公司）和经济上的问题，我问我自己是否可以在这个算法上获得经济回报。这就是我创建DeepNude的原因。”

       但Motherboard指出，之前就有deepfake在网络上流传，但这种技术很容易就会成为伤害女性的工具——要么在未经同意的前提下使用女性照片，要么在网上恶意散布SQ内容。而DeepNude相当于deepfake技术的进化版，操作更简单，处理速度更快。所以，带来的危害更大。

   其实，这款软件并非完美无缺。大多数图像，尤其是低分辨率图像，产生了一些视觉伪影。Deepnude完全失败了，因为有些照片使用了奇怪的角度、光线或衣服，这些照片似乎与它使用的神经网络脱节了。当我们给它一张卡通人物杰西卡·兔子的图像时，它会完全扭曲并破坏了图像。

       网友评论：AI的换脸技术、脱衣技术，这件事，在今天可归纳为三句话：火是肯定要火的。乱是一定要乱的。如何监管，大概是不知道的。哦，对了，最后应该说一下如何防止别人做出你的AI换脸、脱衣视频？不要发太多自拍，即使自拍的时候，切记多穿点衣服。
      博主评论：滥用技术的深度拷问，人类在娱乐技术的同时，技术是不是也在嘲弄人类？ 新技术不能突破法律底线。AI技术发展使普通人能享受到科技带来的便利，但新技术应该驱动良性的文化创意更新迭代，切忌用到歪路上去，更不能突破底线挑战公序良俗。

基于AI算法的一键脱衣官宣关闭

      6月28日消息 此前，美国科技媒体Motherboard报道，Twitter用户@deepnudeapp 最近开发出一款名叫DeepNude的APP，只要给DeepNude输入一张女性照片，借助神经网络技术，App可以自动“脱掉”女性身上的衣服，显示出裸体。不过在6月28日凌晨，@deepnudeapp 宣布关闭这款App及网站。

       Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days. ——06.27

最新的一条消息：

       Here is the brief history, and the end of DeepNude. We created this project for user's entertainment a few months ago. We thought we were selling a few sales every month in a controlled manner. Honestly, the app is not that great, it only works with particular photos. We never thought it would become viral and we would not be able to control the traffic. We greatly underestimated the request. 
　我们在几个月前创建了这个娱乐项目。我们以为这款应用的传播也在我们可控范围内。事实上，这款应用并不是很完善，它只适用于特定的照片。我们从没想过它会像病毒一样传播开来，以至于我们也无法控制，我们大大低估了用户对这个应用的需求。

       Despite the safety measures adopted (watermarks) if 500,000 people use it, the probability that people will misuse it is too high. We don't want to make money this way. Surely some copies of DeepNude will be shared on the web, but we don't want to be the ones who sell it. Downloading the software from other sources or sharing it by any other means would be against the terms of our website. From now on, DeepNude will not release other versions and does not grant anyone its use. Not even the licenses to activate the Premium version. 
　　尽管采用了安全措施（加水印），但要是有50万人使用它，人们滥用它的可能性就太高了。我们不想用这种方式赚钱。这款应用（制造出来）的一些裸体的副本会在网上被分享，我们不想成为出售这些“作品”的人。另外从其他来源下载或以任何其他方式共享本软件（生成的作品）将违反本网站的条款。从现在开始，DeepNude将不会发布其他版本，也不会授权任何人使用，激活高级版本许可也将停止。
       People who have not yet upgraded will receive a refund. The world is not yet ready for DeepNude. 
       尚未升级的用户将获得退款。

DeepNude软件相关评论

     I’m glad DeepNude is dead. As a person and as a father, I thought this was one of the most disgusting applications of AI. To the AI Community: You have superpowers, and what you build matters. Please use your powers on worthy projects that move the world forward. --Andrew Ng
      我很高兴DeepNude死掉了。作为一个人和一个父亲，我认为这是人工智能最恶心的应用之一。对于人工智能社区来说:你拥有超能力，你所建造的东西很重要。请把你的力量用在推动世界前进的有价值的项目上。

"This is absolutely terrifying," Katelyn Bowden, founder and CEO of revenge porn activism organization Badass, told Motherboard. "Now anyone could find themselves a victim of revenge porn, without ever having taken a nude photo. This tech should not be available to the public."
        “这绝对是可怕的，”Badass的创始人兼首席执行官凯特琳·鲍登告诉主板。现在，任何人都可以发现自己是报仇色情片的受害者，而不必拍裸照。这项技术不应该向公众开放。”

This is an “invasion of sexual privacy,” Danielle Citron, professor of law at the University of Maryland Carey School of Law, who recently testified to Congress about the deepfake threat, told Motherboard.
        马里兰大学凯里法学院（University of Maryland Carey School of Law）的法学教授丹妮尔·西特伦（Danielle Citron）最近向国会作证说，这是一种“侵犯性隐私的行为”，她向母板表示。

      Several media reports have noted how the app could be used to take a photo of a clothed woman and transform that into a nude image. Cyber Civil Rights Initiative (CCRI), which seeks protection against “revenge” porn tweeted, “This is a horrifically destructive invention and we hope to see you soon suffer consequences for your actions.” CCRI President Mary Anne Franks later tweeted, “It's good that it's been shut down, but this reasoning makes no sense. The app's INTENDED USE was to indulge the predatory and grotesque sexual fantasies of pathetic men.”
     一些媒体报道指出，该应用程序可以用来拍摄一个穿着衣服的女人的照片，并将其转换成裸体图像。网络民权倡议（ccri），寻求保护免受“报复”，色情推特说，“这是一个可怕的破坏性发明，我们希望看到你很快遭受后果，你的行动。”ccri主席玛丽安妮弗兰克斯后来推特说，“很好，它被关闭，但这种推理毫无意义。这个应用程序的目的是放纵那些可悲的男人的掠夺性和怪诞性幻想。”

DeepNude底层技术的其他正确应用

      DeepNude 软件主要使用了 Image Inpainting for Irregular Holes Using Partial Convolutions 中提出的Image-to-Image技术，该技术有很多其它的应用，比如把黑白的简笔画转换成色彩丰富的彩图，你可以点击下方的Image-to-Image Demo在浏览器中尝试Image-to-Image技术。

Deep Computer Vision in DeepNude

1. Image Inpainting 图像修复
论文 NVIDIA 2018 paper Image Inpainting for Irregular Holes Using Partial Convolutions and Partial Convolution based Padding.

        在 Image_Inpainting(NVIDIA_2018).mp4 视频中左侧的操作界面，只需用工具将图像中不需要的内容简单涂抹掉，哪怕形状很不规则，NVIDIA的模型能够将图像“复原”，用非常逼真的画面填补被涂抹的空白。可谓是一键P图，而且“毫无ps痕迹”。 该研究来自Nvidia的Guilin Liu等人的团队，他们发布了一种可以编辑图像或重建已损坏图像的深度学习方法，即使图像穿了个洞或丢失了像素。这是目前2018 state-of-the-art的方法。

2. Pix2Pix (need for paired train data)
DeepNude mainly uses this Pix2Pix technology.
论文 Berkeley 2017 paper Image-to-Image Translation with Conditional Adversarial Networks.
主页 homepage Image-to-Image Translation with Conditional Adversarial Nets

        Image-to-Image Translation with Conditional Adversarial Networks 是伯克利大学研究提出的使用条件对抗网络作为图像到图像转换问题的通用解决方案。

3. CycleGAN (without the need for paired train data)
论文 Berkeley 2017 paper Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks

        CycleGAN使用循环一致性损失函数来实现训练，而无需配对数据。 换句话说，它可以从一个域转换到另一个域，而无需在源域和目标域之间进行一对一映射。 这开启了执行许多有趣任务的可能性，例如照片增强，图像着色，样式传输等。您只需要源和目标数据集。

Future

1. Obj-GAN

      事实上，我们不需要图像到图像。我们可以使用gan直接从随机值生成图像或从文本生成图像。\
      微软人工智能研究院（Microsoft Research AI）开发的新 AI 技术Obj-GAN可以理解自然语言描述、绘制草图、合成图像，然后根据草图框架和文字提供的个别单词细化细节。换句话说，这个网络可以根据描述日常场景的文字描述生成同样场景的图像。

2. StoryGAN

       进阶版神笔：只需一句话、一个故事，即可生成画面。
       微软新研究提出新型 GAN——ObjGAN，可根据文字描述生成复杂场景。他们还提出另一个可以画故事的 GAN——StoryGAN，输入一个故事的文本，即可输出「连环画」。当前最优的文本到图像生成模型可以基于单句描述生成逼真的鸟类图像。然而，文本到图像生成器远远不止仅对一个句子生成单个图像。给定一个多句段落，生成一系列图像，每个图像对应一个句子，完整地可视化整个故事。

      现在用得最多的Image-to-Image技术应该就是美颜APP了，所以可以去开发一个更加智能的美颜相机。

参考文章
DeepNude：Part of a series on Deepfakes.
Don’t Try To Download DeepNude Apps From The Internet, Here’s Why