“AI換臉擬聲”亂象頻現(xiàn) 如何治理？
福州法律專家：為人工智能套上法治韁繩
“雷軍回應(yīng)‘國慶7天被AI雷軍罵了8天’”“靳東兩會建議AI換臉立法”……今年全國兩會期間，“AI換臉擬聲”技術(shù)的濫用問題引發(fā)代表委員關(guān)注，相關(guān)話題頻頻登上熱搜，也引發(fā)福州市民熱議。
手機應(yīng)用商店有許多“AI換臉”App（頁面截圖）。
代表委員發(fā)聲：
治理“AI換臉擬聲”
近年來，一些不法分子利用“AI換臉擬聲”等高科技手段實施詐騙，令一些演藝界人士、專家學(xué)者、知名企業(yè)家等公眾人物飽受困擾。
“一些喜歡我作品的觀眾，被AI換臉視頻騙得很慘。這種犯罪性質(zhì)非常惡劣，希望能建立更好的規(guī)則。”在3月5日的政協(xié)小組討論上，全國政協(xié)委員、中國煤礦文工團團長靳東回應(yīng)了AI換臉引發(fā)的詐騙問題。
同樣深受其擾的，還有全國人大代表、小米集團創(chuàng)始人雷軍。3月4日，雷軍公開了今年兩會的5條建議，其中“加強‘AI換臉擬聲’違法侵權(quán)重災(zāi)區(qū)治理”尤為引人關(guān)注。他表示，他本人就是“AI換臉擬聲”的受害者。去年國慶長假期間，短視頻平臺上大量“雷軍AI配音”的惡搞視頻涌現(xiàn)，言辭犀利甚至爆粗口，不少網(wǎng)友“被AI雷軍罵了8天”。
雷軍表示，“AI換臉擬聲”濫用成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息罪及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽損害，帶來社會治理等風(fēng)險。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及手段隱蔽性強等特點，給治理帶來較大挑戰(zhàn)。
如何更好把握人工智能發(fā)展機遇、更好應(yīng)對新技術(shù)帶來的風(fēng)險挑戰(zhàn)？雷軍建議，加快單行法立法進程，提升立法位階；強化行業(yè)自律共治，壓實平臺企業(yè)等各方的責(zé)任和義務(wù)；加大普法宣傳的廣度和力度，增強民眾的警惕性和鑒別力。
全國人大代表、TCL創(chuàng)始人李東生建議，加快出臺人工智能深度合成內(nèi)容標(biāo)識管理規(guī)章制度，明確懲罰制度。同時，加強國際合作，有效監(jiān)管人工智能生成、合成內(nèi)容。
業(yè)內(nèi)人士剖析：
技術(shù)便捷滋生亂象
隨著AI技術(shù)的發(fā)展，“AI換臉擬聲”操作愈發(fā)簡單，只需獲取照片和聲音等個人信息，就能借助技術(shù)以假亂真。
11日，記者嘗試使用了某款A(yù)I換臉軟件。在上傳一張人物照片并按照提示進行簡單操作后，短短幾分鐘，軟件便生成了一段換臉后的視頻，人物表情和動作雖有些生硬，但整體已具有較高的相似度。
據(jù)了解，利用聲音合成功能，同樣能快速生成一段模仿目標(biāo)人物聲音的音頻。
基于此類技術(shù)，不法分子在網(wǎng)絡(luò)上制造出各種違法亂象。從假冒名人誘導(dǎo)中老年人轉(zhuǎn)賬，到偽裝單位領(lǐng)導(dǎo)要求匯款，甚至有線上游戲平臺利用AI技術(shù)，將某明星的肖像、聲音及過往視頻片段，合成制作為帶有賭博性質(zhì)的代言宣傳片。
“GitHub這類知名開源平臺上有大量AI換臉、語音合成的開源代碼與工具，大大降低了技術(shù)使用門檻。例如，熱門的開源項目Deep?FaceLab，不法分子只需簡單下載、調(diào)試，即便技術(shù)水平有限，也能快速搭建起簡易的‘AI換臉擬聲’程序。”福州大學(xué)計算機與大數(shù)據(jù)學(xué)院博士生肖博懷告訴記者，一些AI開源代碼和工具降低了技術(shù)使用門檻，讓合法的創(chuàng)新探索、創(chuàng)意實踐變得更為便捷，但這也使得惡意利用技術(shù)變得輕而易舉，不法分子能夠輕易獲取并運用這些資源，實施違法犯罪行為。
一名深耕互聯(lián)網(wǎng)行業(yè)多年的資深從業(yè)者表示，在當(dāng)下網(wǎng)絡(luò)環(huán)境中，用戶注冊各類網(wǎng)絡(luò)平臺賬號時風(fēng)險意識普遍薄弱。不少用戶為圖便捷，隨意填寫真實姓名、身份證號、聯(lián)系方式等關(guān)鍵個人信息。注冊過程中，對平臺隱私設(shè)置選項視而不見，默認全部公開。這些泄露的信息與“AI換臉擬聲”技術(shù)相結(jié)合，無異于給詐騙分子提供了“作案利器”。
法律專家建言：
為AI套上法治韁繩
近年來，我國《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法律法規(guī)已頒布實施，《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》完成社會意見征集，對人工智能治理進行了有益探索。然而，鑒于技術(shù)的迅猛發(fā)展，治理的“工具箱”仍需不斷擴容。
福建省司法廳行政立法咨詢顧問專家?guī)斐蓡T、福建三山律師事務(wù)所主任洪必景表示，當(dāng)前對于涉及深度偽造、一鍵換臉等濫用人工智能侵權(quán)乃至詐騙行為的相關(guān)治理規(guī)則還不完善，這也導(dǎo)致利用人工智能侵權(quán)的違法成本極低，受害者的維權(quán)成本極高。技術(shù)的發(fā)展離不開制度保障，通過立法明確倫理規(guī)范和治理規(guī)則，確保人工智能的發(fā)展與應(yīng)用始終符合人類福祉顯得十分迫切和必要。
福建融成律師事務(wù)所合伙人齊海緒建議，面對“AI換臉擬聲”等新型詐騙的出現(xiàn)，首先應(yīng)加快制定相關(guān)法律法規(guī)，明確“AI換臉擬聲”等技術(shù)的應(yīng)用邊界與違法后果，建立AI生成內(nèi)容強制標(biāo)識制度，增強信息透明度。其次，進一步強化互聯(lián)網(wǎng)平臺審核責(zé)任，要求互聯(lián)網(wǎng)企業(yè)采用技術(shù)手段攔截虛假信息，并建立“先行賠付”機制。再次，應(yīng)完善法律適用標(biāo)準(zhǔn)，推動建立AI內(nèi)容追蹤溯源體系，結(jié)合《中華人民共和國反電信網(wǎng)絡(luò)詐騙法》等現(xiàn)行法規(guī)，形成全鏈條治理。（記者 肖遠強）
來源：福州晚報
