“真是一派胡言！重要的是，你要把選票留到11月的選舉中。本周的投票只會讓共和黨人再次選舉唐納德·特朗普……”近期，在美國新罕布什爾州舉行初選前，很多美國人接到了“美國總統(tǒng)拜登”的電話留言，而這通電話被認為是人工智能(AI)生成的“虛假電話”。
隨著生成式人工智能(GAI)時代的到來，“眼見為實”“有圖有真相”逐漸被顛覆。2024年開年，美國OpenAI公司發(fā)布了首個文生視頻模型“Sora”，在振奮科技圈的同時，也讓人們對AI生成的假視頻和假圖片泛濫的擔(dān)憂與日俱增。大量“深度偽造”視頻的出現(xiàn)，可能對選舉等政治和安全領(lǐng)域產(chǎn)生負面影響，世界各國仍需合作來應(yīng)對這一挑戰(zhàn)。
圖片來源：OpenAI網(wǎng)站截圖
“AI換臉”真假難辨
多國政要“躺槍”
近年來，AI技術(shù)發(fā)展迅猛，文生圖、文生視頻的工具如Pika、Sora等層出不窮。而“AI換臉”也通過深度合成算法處理，為“二度創(chuàng)作”提供了支持。深度偽造技術(shù)似乎愈發(fā)出格，甚至多國政要也紛紛“躺槍”……
2023年3月18日，美國前總統(tǒng)特朗普曾在社交媒體上發(fā)文稱，他預(yù)計自己將于2023年3月21日被捕。此消息一出，“特朗普被捕”的“照片”在一些社交平臺迅速流傳開來。這些“照片”包括“特朗普被警察圍捕”、“特朗普穿囚服”，甚至還有“特朗普越獄”，精彩程度堪比好萊塢大片。
日本首相岸田文雄也曾因“AI換臉”技術(shù)“躺槍”。2023年11月，日本一名25歲男子借助AI技術(shù)，制作了“岸田文雄開發(fā)布會”的假視頻。
視頻中的“岸田”身著西裝，神態(tài)緊張，語氣鄭重。該視頻還帶有日本電視臺的臺標和“突發(fā)新聞”字樣。這條假視頻上線僅一天，播放量就超過230萬次。
“莫迪跳舞”的假視頻截圖 圖片來源：社交平臺X截圖
印度總理莫迪也曾陷“深度偽造”風(fēng)波。2023年11月，一段“莫迪跳舞”的視頻在網(wǎng)上瘋傳。視頻中，“莫迪”和其他舞者身穿傳統(tǒng)服飾，圍成一個圈，歡快地跳著印度古吉拉特邦的一種節(jié)日舞蹈——加爾巴舞。
莫迪親自辟謠，稱視頻是AI合成的。他警告稱，“人們會誤以為自己看見的是真實的，這會引發(fā)巨大危機……在人工智能時代，負責(zé)任地使用技術(shù)很重要。”
新加坡總理李顯龍2023年底也在社交媒體發(fā)文稱，近日出現(xiàn)了一些利用他的音頻制作的深度偽造視頻，宣傳加密貨幣騙局。流傳的偽造視頻中，李顯龍?zhí)岬将@新加坡政府批準的投資機會，并推廣了一個所謂由特斯拉首席執(zhí)行官馬斯克設(shè)計的“革命性投資平臺”。李顯龍呼吁公眾提高警惕，切勿上當(dāng)受騙。
政治“深偽”時刻到來？
AI安全成焦點
除了滿足網(wǎng)絡(luò)受眾的獵奇心理和社交需求，AI技術(shù)近來逐漸在選舉中嶄露頭角，它與政治的融合既帶來進步，也帶來“陷阱”。
瓦拉斯譴責(zé)網(wǎng)上發(fā)布的有關(guān)他的虛假視頻。圖片來源：美國哥倫比亞廣播公司(CBS)報道截圖
2023年2月，美國芝加哥市長選舉前夕，一段“溫和派民主黨候選人保羅·瓦拉斯猛烈抨擊芝加哥”的視頻在網(wǎng)絡(luò)迅速流傳。視頻中，瓦拉斯稱，由于缺乏法律和秩序，芝加哥已經(jīng)變成一個“無法無天”的真空地帶，而且“警察隨隨便便就可以射殺嫌疑人，人們卻對這些情況視而不見”。
不過，這段視頻被證明是AI合成。雖然社交平臺最后刪除了該視頻，但其產(chǎn)生的負面影響仍無法消除，瓦拉斯也在市長選舉中不敵對手布蘭登•約翰遜。
《今日美國報》援引布魯金斯學(xué)會技術(shù)創(chuàng)新中心高級研究員達雷爾·韋斯特的話稱，“2024年的美國大選，將會出現(xiàn)人工智能(AI)生成的虛假信息‘海嘯’。我們已看到這種情況，且情況將會變得更糟。”
美國政府監(jiān)管組織“捍衛(wèi)公眾利益組織”負責(zé)人羅伯特•韋斯曼也稱，政治“深度偽造”時刻已經(jīng)到來，政策制定者必須盡快采取保護措施，否則將面臨“選舉混亂”。
關(guān)于AI可能被用來誤導(dǎo)選民和惡意歪曲選舉的擔(dān)憂，在2024年這個“全球超級大選年”急劇上升。
2月16日，OpenAI、亞馬遜、谷歌、微軟、TikTok、臉書的母公司“元”、社交平臺X(原推特)等全球多家領(lǐng)先的科技企業(yè)，在第60屆慕尼黑安全會議(慕安會)上簽署協(xié)議，承諾在2024年這個多國舉行重要選舉的年份，通過技術(shù)部署，減少利用人工智能生成和分發(fā)欺騙性內(nèi)容干擾選舉的風(fēng)險。
“政府需要在人工智能領(lǐng)域扮演重要角色，確保設(shè)置安全屏障和護欄，讓產(chǎn)業(yè)內(nèi)人士知道，哪些能做，哪些不能做。”美國消費者技術(shù)協(xié)會首席執(zhí)行官夏皮羅如是說道。(陳彩霞)
來源：中國新聞網(wǎng)
