主题 : 可怕:伪造视频变得越来越容易
千山同一月 万户尽皆春 千江有水千江月 万里无云万里天
级别: 总版主

UID: 998
精华: 0
发帖: 397880
威望: 343639 点
无痕币: 1033 WHB
贡献值: 0 点
在线时间: 38060(时)
注册时间: 2008-12-25
最后登录: 2018-09-24

0 可怕:伪造视频变得越来越容易

自今年4月份以来,涉及美国前总统巴拉克·奥巴马(Barack Obama)的一段一分钟长视频已被观看过480万次。视频中,奥巴马坐在椅子上,背景中可以看到美国国旗,他直接对着观众发表讲话,并用淫秽下流的语言攻击其继任者唐纳德·特朗普(Donald Trump)。

或者更确切地说,当奥巴马发表上述演讲时,他的嘴唇会随之而动。这段视频实际上是由演员兼导演乔丹·皮勒(Jordan Peele)模仿奥巴马的声音制作的所谓“深度伪造”(Deepfake)内容。皮勒制作这段视频是为了说明伪造音频和视频内容所带来的危险,实际上这些内容并非奥巴马所说。纽约大学的研究人员将“深度伪造”描述为“即将到来的威胁”。
“深度伪造”由何而来?
虽然操纵数字文件并不是什么新鲜事儿,但这种可信的伪造行为是通过使用一种人工智能(AI)形式的计算机程序完成的。一个算法被训练来识别特定人的实际音频或视觉记录中的模式,这个过程被称为深度学习。就像修改过的图片一样,一段音频或视频内容可以通过更换新元素(比如更换别人的脸或声音)来改变,并无缝地将两者结合起来。
与语音克隆技术结合使用时,这种手法最容易让人产生误导。语音克隆技术将音频录音分解成半音节的片段,然后可以重新组合成新词,与苹果的Siri和亚马逊的Alexa等语音助手的创建方法相同。
为何“深度伪造”更可信?
深度学习算法所包含的内容库越大,它就显得越真实。奥巴马的“深度伪造”视频需要56小时的录音样本,而苹果公司录制了10到20个小时的演讲来制作Siri。许多报道现实,语音克隆只需用几秒钟的材料就能制成。
“深度伪造”如何传播?
Vice旗下出版物《Motherboard》去年12月份报道称,一个名叫“深度伪造”的Reddit用户已经公开提供了一种使用开源代码制作假视频的算法。以前,这项技术主要供学术和研究人员使用,但现在任何人都可以利用它。“深度伪造”开始成为一种制造虚假色情内容的手段,通常是把女明星的脸换到色情明星的身体上,以伪造从未发生过的色情场景。Reddit禁止用户使用“深度伪造”技术,但这种技术却得到了推广,现在可以在FakeApp等应用程序上使用。
谁在伪造视频?
在所谓的“技术军备竞赛”中,大学和研究公司都在开发自己的技术,以测试“深度伪造”的威力,并以此击败邪恶的伪造视频从业者。卡内基梅隆大学的研究人员最近开发了一种系统,可以将特征(比如面部表情)从某人的视频传输到另一个人的合成图像上。许多初创公司包括Lyrebird和iSpeech,一直在销售用于人机界面商业应用的语音克隆技术。
为何“深度伪造”引发担忧?
令人担心的是,“深度伪造”技术可能会过度损害声誉,甚至引发骚乱。想象一下,在伪造的视频中,总统候选人猥亵儿童,警察局长煽动针对少数群体的暴力行为,或者士兵犯下战争罪,结果会如何?政治家和商界领袖等知名人士面临的风险尤其高,因为他们的录音大多数是公开的。
对于普通人来说,尤其是女性,这项技术使“色情报复”成为可能,即使没有真实的裸体照片或视频存在。一旦一段视频在互联网上疯传,几乎无法控制。另一个值得关注的问题是,随着“深度伪造”技术的广泛传播,将使那些真正被录下做坏事或说令人反感言论的人更容易指出,这些针对他们的证据都是伪造的。
“深度伪造”如何检测?
制造出“深度伪造”内容的机器学习方式很难逆转用以检测它们。研究人员已经确定了一些线索,这些线索可能表明视频不是真实的。例如,如果说话者有一段时间没有眨眼睛,或者看上去有点儿呆板,但这样的细节很容易被观众忽略。
通过提高某人视频的色彩饱和度,可以从面部皮肤几乎看不见的变化中检测出他或她的脉搏,而由杂乱剪辑合成的图像会有不规则或不存在的血流。美国国防部正在开发一种工具来对付那些“深度伪造”内容。
有仁慈的用途吗?
的确有。苏格兰公司CereProc为因疾病而失去自我的人们创造了数字声音,声音克隆可以通过再现历史人物的声音来达到教育目的。北卡罗莱纳州立大学的一个项目就综合了马丁·路德·金(Martin Luther King)的一篇未录音演讲。
CereProc公司制作了约翰·肯尼迪总统(President John F. Kennedy)的最后一次演讲,他在发表讲话前就遇刺身亡。然而,约翰·肯尼迪图书馆拒绝收录这段录音,称其不符合规定。
级别: 七朵秋菊

UID: 268851
精华: 0
发帖: 11253
威望: 24636 点
无痕币: 44661 WHB
贡献值: 0 点
在线时间: 841(时)
注册时间: 2016-03-27
最后登录: 2018-09-24

谢谢分享,了解
级别: 五分秋意
UID: 280274
精华: 0
发帖: 438
威望: 7378 点
无痕币: 8090 WHB
贡献值: 0 点
在线时间: 317(时)
注册时间: 2017-02-06
最后登录: 2018-09-24

谢谢分享
确实值得关注啊
级别: 九滴秋露

UID: 2840
精华: 0
发帖: 23483
威望: 76743 点
无痕币: 89211 WHB
贡献值: 0 点
在线时间: 10429(时)
注册时间: 2007-12-04
最后登录: 2018-09-24

看来做假的也厉害
千山同一月 万户尽皆春 千江有水千江月 万里无云万里天
级别: 总版主

UID: 998
精华: 0
发帖: 397880
威望: 343639 点
无痕币: 1033 WHB
贡献值: 0 点
在线时间: 38060(时)
注册时间: 2008-12-25
最后登录: 2018-09-24

这个可以看看,了解一下。
级别: 六行秋雁
UID: 293245
精华: 0
发帖: 11516
威望: 2915 点
无痕币: 24963 WHB
贡献值: 0 点
在线时间: 612(时)
注册时间: 2017-11-04
最后登录: 2018-09-24

系统安全版快很精彩!跟帖支持!非常感谢楼主提供的分享!
级别: 九滴秋露

UID: 2840
精华: 0
发帖: 23483
威望: 76743 点
无痕币: 89211 WHB
贡献值: 0 点
在线时间: 10429(时)
注册时间: 2007-12-04
最后登录: 2018-09-24

科技改变一切
级别: 六行秋雁
UID: 293245
精华: 0
发帖: 11516
威望: 2915 点
无痕币: 24963 WHB
贡献值: 0 点
在线时间: 612(时)
注册时间: 2017-11-04
最后登录: 2018-09-24

楼主好文章不断,时时精彩在线,怎样表达我对楼主的敬仰之情呢?只有跟帖支持!非常感谢楼主提供的分享!辛苦辛苦!
级别: 六行秋雁
UID: 116295
精华: 0
发帖: 5359
威望: 18137 点
无痕币: 878 WHB
贡献值: 0 点
在线时间: 633(时)
注册时间: 2011-03-27
最后登录: 2018-09-24

感谢楼主分享
Total 0.041605(s) query 4, Time now is:09-24 14:40, Gzip enabled 粤ICP备07514325号-1
Powered by PHPWind v7.3.2 Certificate Code © 2003-13 秋无痕论坛