網(wǎng)絡(luò)安全公司Pindrop在2018年五月對(duì)美英德法四國(guó)共500家企業(yè)展開網(wǎng)上調(diào)查，結(jié)果顯示，從2013年到2017年，語(yǔ)音欺詐案件的數(shù)量增加了350%，每638個(gè)欺詐電話中就有1個(gè)是人工合成聲音。
瑞士蘇黎世大學(xué)研究員 烏德里什：長(zhǎng)久以來，人類的聲音是（造假者）最大的挑戰(zhàn)，因?yàn)槊糠N聲音都極其復(fù)雜且獨(dú)一無二，它們幾乎不可能被偽造。但在最近幾年，（科技）取得了巨大進(jìn)步，視頻素材和偽造聲音的結(jié)合造成了巨大的威脅。
的確，有了成熟的聲音造假技術(shù)，再配上偽造圖像，做出一條以假亂真、別有用心的視頻真的不難了。
“深度偽造”假視頻：特朗普總統(tǒng)是個(gè)徹底的笨蛋，你看我永遠(yuǎn)不會(huì)說這些話，至少在公共演講中（不會(huì)），但其他人會(huì)說，比如喬丹·皮爾。這是一個(gè)危險(xiǎn)的時(shí)代，以后我們要對(duì)我們所信任的互聯(lián)網(wǎng)更加警惕。在這個(gè)時(shí)代我們需要可信的新聞來源，聽起來很簡(jiǎn)單，但我們?cè)撊绾伟l(fā)展，信息時(shí)代將決定我們是生存，還是成為某種糟糕的反烏托邦。謝謝。
這段視頻看上去是美國(guó)前總統(tǒng)奧巴馬在發(fā)表演講，實(shí)際上卻是喜劇演員和電影制作人皮爾的表演，聲音和畫面都是通過軟件合成的。
計(jì)算機(jī)科學(xué)專家 法里德：人工智能系統(tǒng)合成了奧巴馬的嘴，使其與音頻流保持一致，讓視頻看起來像是奧巴馬總統(tǒng)在說他之前從未說過的話。這叫作唇同步深度偽造。
技術(shù)本無善惡，深度偽造可以被運(yùn)用于趣味視頻、游戲以及廣告合作中，但惡意運(yùn)用也會(huì)帶來嚴(yán)重后果。它可能會(huì)摧毀我們對(duì)現(xiàn)實(shí)的認(rèn)知，使人們不敢再相信視頻、錄像。
美國(guó)卡內(nèi)基國(guó)際和平基金會(huì)也警告稱，深度偽造正在帶來破壞性的影響，也會(huì)對(duì)反恐和國(guó)家安全造成危害。
