数字人的最大“隐忧”!半年诈骗2亿Deepfake骗局再次引爆互联网

原标题:数字人的最大“隐忧”!半年诈骗2亿,Deepfake骗局再次引爆互联网

数字人,是构成元宇宙的要素之一。随着AI、面部识别以及3D建模和动作/表情捕捉相关技术的发展,近两年,虚拟数字人以各种身份形象出现在我们的视野中。然而当Avatar与真人越来越接近,不只看起来像,连表情、声音都能和真人一摸一样,那未来这些技术被用来作恶的风险也将大大提升。

前段时间,凭一言之力左右币圈的狗狗币之父马斯克以新身份“币圈慈善家”的形象在Youtube、推特发起一个送钱项目–给我你的币,我给你每天30%的回报率。

这一片段是诈骗团队利用DeepFake,也就是深伪技术换脸“导”出的一场戏。通过截取马斯克在TED采访的视频,并为其配音,为的就是推出BitVex比特币诈骗平台。(BitMex是一个正规比特币交易平台)

除此之外,诈骗分子还伪造了方舟投资(Ark Invest)CEO凯瑟琳·伍德、以太坊联合创始人查尔斯·霍斯金森等多位币圈名人推荐BitVex的视频。

虽然此骗局很快被拆穿,但作为币圈大粉头,马斯克也不是第一次因被假冒而下场辟谣了,从去年5月至今年年初,假冒马斯克的视频层出不穷。

去年,SpaceX诈骗案敛金超1000万美元,今年年初光是靠DeepFake技术换脸马斯克喊出“给我一个币,我给你两个”的骗局在一周内就达到24.3万美元,光是年初到现在诈骗总额高达3000万美元(约人民币2亿)。

比起过去单纯的利用文字、语音包这类诈骗手段,动态视频显然更具有说服力,这一桩桩假名人诈骗事件都再次把DeepFake骗局推上热搜。

Deepfake深伪技术指深度学习(Deep Learning)+Fake(伪造)的合成词,现在专门指基于AI的图像、音频等合成技术的应用,其中最为大众熟知的形式就是AI换脸。

Deepfake技术的发展,离不开一个于2014年提出的关键深度学习技术GAN,生成对抗网络。GAN由两个互相博弈的神经网络组成,可以简单地把这项技术理解成一种无监督,用来训练生成模型的框架。在这个自动训练框架下,加以结合其他图像深度学习模型、自动编码器等可以实现通过大量的图片对目标人脸替换。

根据目前主流说法,Deepfake技术主要分为四类:重现、替换、编辑和合成。

在GAN被提出的三年后,一名Reddit用户deepfakes于2017年12月发布了轰动一时的当红女演员斯嘉丽·约翰逊等的非法色情换脸视频,Deepfake一词开始被大众熟知。

同时,比起一帧一帧换脸的传统模式,2019年开始以Deepfake技术为主的开源软件FaceApp、ZAO、Github开源代码等的兴起,一经发布便在网络掀起第一轮“换脸”热潮。

Deepfake的开源技术、以及“傻瓜式”实时换脸软件的兴起使得极具娱乐性的一些应用,例如换脸Cosplay火爆全网。自2019年兴起的以ZAO为代表的换脸视频软件开始,Deepfake变得触手可及。根据创业公司Deeptrace的数据,从2019年10月到2020年6月,网络上的Deepfake视频的数量增加了330%。

不仅是影视剧的制作例如换角、补拍,在对已故之人的“重现”上Deepfake技术也能大展身手。

在国内目前主流的各大社交媒体平台,微博、抖音、快手、B站等,也可以看到Deepfake技术无处不在。

比起国内流行的换脸二创形式,在海外社交媒体上,扛起海外流行大旗是披着AR滤镜外衣的Deepfake应用。从哭脸滤镜到笑脸滤镜,魔性的滤镜让用户陷入“恶搞狂欢派对”。

从个人发散到明星,这些二次创作都在一定程度上为明星、作品带来新的热度的同时,也为平台带来了更多的流量,Deepfake技术在推动娱乐文化的发展上有着非常大的优势。

除了娱乐化应用之外,在元宇宙的相关版块上,Deepfake技术也能发挥其积极价值。

目前元宇宙赛道中,除硬件、软件之外,还有一条热门赛道——元宇宙原住民,虚拟人,虚拟主播、虚拟偶像、虚拟主持人、虚拟记者等各色职业的虚拟人层出不穷。

Deepfake的技术特点正好符合创造虚拟人、虚拟化身的要点。Deepfake技术在GAN的加持下,可以对虚拟人的面部运动进行进一步优化,并且基于图像深度学习模型使得Deepfake技术拥有大量面部信息,这对优化未来虚拟化身而言无疑提供了大量的学习范本。

但在这项技术变得越来越普及且越来越难辨真假的同时,人们对Deepfake技术的担忧也越来越多。根据2021年的韩国成均馆大学的研究论文,Microsoft的Azure认知服务对高达78%的Deepfake视频均无法辨认。

除了前文提到的马斯克等名人诈骗案之外,Deepfake被用于非法谋利的案件日益增多。

今年年初在领英上,70多家公司被曝利用Deepfake技术生成的虚拟人物作虚假销售账户,以此扩展业务同时减少在雇用人员上的支出;

犯罪分子通过Deepfake技术伪造母公司负责人声音导致英国新能源公司的CEO被诈骗超20万美元;

国外选举期间,网络上出现大量“政治视频”,其中许多利用Deepfake技术发表政治声明,从而动摇、影响选举局面等。

不仅是个人,对于企业以及明星而言,Deepfake影片成为新兴的报复性工具,Deepfake编造的不实消息,让人们的肖像权、名誉权等权益受到危害。例如,Deepfake 色情影片也已经被用来勒索女性记者和新闻工作者,印度记者 Rana Ayyub曾经曝光过被Deepfake视频勒索的行为。

某马来西亚政治家因一段涉嫌从事同性恋活动的影片而被判入狱,但后来证实影片为Deepfake伪造……诸如此类的故事正在不断上演。

去年,德国媒体Mixed曾发表过一篇文章,关于创建一个Deepfake视频需要多长时间。根据作者的实验,他使用DeepFaceLab开源软件进行测试,从提取视频中的人脸照片到验证人脸(大约650张照片),再到约17个小时的AI训练,将钢铁侠小罗伯特唐尼与马斯克进行换脸。

虽然换脸效果相对较粗糙,但作为一个非专业人士在没有专业工具,庞大的数据集和预训练模型的基础下,在几天时间内制造出上述程度的Deepfake视频意味着如今人工智能进化的脚步使得Deepfake技术变得更加容易。除了自己摸索之外,更是有卖家在某二手交易平台出售相关技术、教程等,Deepfake技术的门槛一降再降。

即使有些Deepfake视频并没有出神入化到足以令人信服的地步,但想象一下,在Deepfake技术的升级,以及如今信息泄露的情况,如果不法分子利用你身边人的照片,从而导演出一场无限逼真的戏,那会有多可怕?

因此为了解决不断升级的Deepfake技术带来的隐私和安全问题,软件、平台和政策都在积极地采取措施。

从2019年开始,各国、各平台便开始针对Deepfake出台一些新的保障政策:

今年6月,Google 修改平台政策,禁止开发者使用其 Colaboratory 平台的服务进行 Deepfake 项目的研究;

2020年,国内印发的《法治社会建设实施纲要(2020 – 2025年)》进一步要求,对深度伪造等新技术应用,制定和完善规范管理办法;

美国2019年正式签署生效的2020财年国防批准法当中包含了和 deepfake 相关的条文。

不过即使是在政策加持下,Deepfake伪造视频就像是打地鼠一般,平台的监管往往赶不上生成视频的速度,为此Meta、微软、谷歌等科技公司都开始使用“魔法打败魔法”策略,着手开发监测Deepfake技术的内容模型。

但这场AI之间的攻防战,同时会使Deepfake技术再次升级,根据数据表示,Deepfake技术的检测仍然具有3%的错误率。在海量的生成视频中,3%也将造成大量的伪造视频的传播。未来的Deepfake将迎来更多的挑战,如何保障Deepfake技术的合理运用的道路还需要更多的探索。

原标题:数字人的最大“隐忧”!半年诈骗2亿,Deepfake骗局再次引爆互联网 数字人,是构成元宇宙的要素之一…

发表回复

您的电子邮箱地址不会被公开。