谁能保证,这些科技成果不会被坏人利用?
正解科技出品 当电信诈骗插上了AI的翅膀,会有怎样的颠覆性犯罪手法? 近日,某科技公司老板在10分钟内被骗走430万的消息惹人关注。 这种骗局可能大家还是头一次见。 01 据悉,当事人郭先生为福州市某科技公司法人代表。 4月20日中午,郭先生的好友突然给他打了个微信视频,说自己在外地竞标,需要430万保证金,需要公对公账户过账,想借郭先生公司的账户走账。 基于对好友的信任,而且又开了视频,声音也是熟悉的声音,郭先生便分两笔将430万转到了好友朋友的银行卡上。 随后给好友的微信发了一条消息,称事情已经办妥。 但此时的好友竟回复一个问号。 郭先生也搞不清怎么回事,就拨打好友电话,结果对方却说没有这回事,他才意识到被骗,随后报警。 警方查明,骗子正是通过智能AI换脸和拟声技术,假装成好友,对郭先生实施了诈骗。 同时,骗子极可能通过技术手段盗用了郭先生好友的微信,并发起了视频通话的邀请。 目前,警方已成功拦截336.84万元,但仍有93.16万元被转移,目前正在全力追缴…… 传统的电信诈骗,其实很好识别,开个视频,打个电话核实下,基本就不会上当了。 但这种模式让人防不胜防啊。 在眼睛中植入具有人脸识别功能的特殊芯片,人们可以立即获取视野范围内陌生人的生活信息。 这是2016年红极一时的科幻英剧《黑镜》中的场景。 当时的我们可能没有想到,4年后,这种技术在生活中已经无孔不入,结账时“刷脸支付”、回家时“刷脸开门”、手机“刷脸解锁”。 但同时,我们的生物信息,也正通过这些便捷的东西,流入地下黑市。 想一想,如果是自己一个很亲的亲人打电话过来借钱说临时周转下,而且声音一样,长相一样,这谁能怀疑? 02 其实从前几年开始,就已经有高智商骗子开始用AI诈骗了。 2020年,上海某公司高管使用AI换脸与人工生成的语音技术制作公司领导的面孔,并要财务转账,致使公司被诈骗150万元。 据《华西都市报》新闻,2022年2月,陈先生被AI换脸合成的“好友”敲诈勒索,被骗近5万元。 央视网经济频道还报道过,在一起盗用公民个人信息案中,嫌疑人利用“AI换脸”技术骗过人脸识别设备来实施犯罪。 经过测试,利用3D打印技术,制作成本不高的面具可代替人脸解锁手机,成功率高达3成。 与此同时,记者还发现,在网络交易平台上,只要花2元人民币就能买到上千张人脸照片,不到10元可以买到5000多张人脸照片。 如今,AI生成文字和图像的技术越来越成熟,也越来越难辨认真伪。 高科技犯罪可以利用廉价设备模仿出更真实的诈骗场景,过去那种“远方的朋友缺钱要我打点钱救急”的骗局,现在99%人都不会相信。 但是如果经过一个深度学习制作出来的连面部表情都能学习的假脸和你视频通话呢? 这个欺骗性对于很多中老年人来说已经是很难分辨的了。 而且这个问题基本上对于普通人来说,没法从根本上解决。 AI诈骗常用手法有声音合成、AI换脸、AI程序筛选受害人等,可以高度模仿真人。 具体手段是,通过骚扰电话录音等来提取声音,获取素材后进行声音合成,从而伪造声音。 然后,再通过AI技术换脸,根据所要实施的骗术,使用AI筛选目标人群。 再在视频通话中利用AI换脸,骗取受害者信任,实施精准诈骗。 这里局长就要提醒大家了,一定不要过分依赖科技产品,尤其是不要随意提供人脸、指纹、自己的视频等个人生物信息给他人。 转账前,更是要通过电话等多种沟通渠道核验对方身份,尤其是大额款项。 03 当前,AI人工智能技术如日中天,以ChatGPT为代表的应用,在全球范围内都掀起了科技变革。 目前,网络上已经有人训练出了“AI周杰伦”、“AI孙燕姿”等AI歌手,可以用别有一番的味道演绎各种经典歌曲,包括《岁月神偷》《红豆》,甚至《好汉歌》等,犹如孙燕姿真人在翻唱。 例如B站里AI孙燕姿演唱《发如雪》的视频有超过150万的播放量,QQ音乐甚至出现了AI孙燕姿歌曲合集。 业界人士指出,按照目前的技术,AI的音色已基本能1:1复制。 AI的好用,甚至吸引了诺贝尔文学奖得主莫言。 近期,他在一次文学活动中透露,他曾使用ChatGPT生成一篇赞扬作家余华的讲稿。 他说自己给余华的颁奖赞语想了好几天也写不出来,后来找了一个博士生,运用AI科技ChatGPT帮忙,输入“活着”、“拔牙”、“文城”几个关键字,结果ChatGPT瞬间写了一篇1000多字的莎士比亚风格赞语。 这是第一位公开承认使用人工智能协助写作的诺贝尔文学奖得主。 此前,《人类简史》的作者尤瓦尔·赫拉利也大方承认,自己训练ChatGPT来写序言,十分好用。 AI无所不能复制,无所不能模仿。 谁能保证,这些科技成果不会被坏人利用? 当前,取代人类工作的忧虑已经迫在眉睫。 同时,有关技术还将给人类社会带来“深度伪造”这一新威胁,在这种技术下,个人的形象和声音生物特征被AI复制,很容易产生新型的AI诈骗。 |
|