近日，有網(wǎng)友發(fā)現(xiàn)，一些短劇通過(guò)AI技術(shù)深度合成與明星高度相似的面部特征、神態(tài)及聲音，用于塑造虛擬角色，涉事劇集熱度高達(dá)4000萬(wàn)至7500萬(wàn)。5日凌晨，該明星工作室發(fā)聲維權(quán)，涉事短劇隨即下架，平臺(tái)回應(yīng)稱“已完成內(nèi)容修改或刪除”。
這一事件成為AI換臉技術(shù)濫用的典型寫(xiě)照。隨著AI“深度偽造”引發(fā)的侵權(quán)事件頻頻進(jìn)入公眾視野，記者發(fā)現(xiàn)，在輿論聚焦個(gè)案曝光的同時(shí)，“AI換臉”服務(wù)已在電商平臺(tái)悄然出現(xiàn)，形成一條涵蓋教程傳播與定制服務(wù)的灰色產(chǎn)業(yè)鏈。
吳世耀 繪
AI換臉?lè)?wù)
在電商平臺(tái)悄然出現(xiàn)
近日，記者在多個(gè)電商平臺(tái)發(fā)現(xiàn)，提供AI視頻生成、數(shù)字人定制等服務(wù)的店鋪不在少數(shù)。記者以普通消費(fèi)者的身份，隨機(jī)選擇了5家相關(guān)商家進(jìn)行實(shí)測(cè)。在詢問(wèn)“是否可以用明星的頭像制作視頻”時(shí)，5家店鋪均表示可以制作，但店鋪?lái)?yè)面均未明確標(biāo)注提供AI換臉?lè)?wù)。其中，有3家客服在了解記者需求后，引導(dǎo)記者前往其他社交平臺(tái)進(jìn)一步溝通制作細(xì)節(jié)。
按照商家指引，記者添加了其中一名客服的企業(yè)微信，并發(fā)去一段隨機(jī)選取的明星代言視頻，詢問(wèn)：“類似這種效果，素人拍攝，后期替換成明星臉，怎么收費(fèi)？”對(duì)方回復(fù)稱可以制作，拍攝完成后可用AI技術(shù)替換為明星的面孔，價(jià)格根據(jù)視頻時(shí)長(zhǎng)計(jì)算。另一名客服在明確得知記者打算使用明星臉制作帶貨視頻后，甚至主動(dòng)提出可以免費(fèi)試做小樣。在5家受訪商家中，僅有一家在得知記者制作的明星AI視頻將用于商業(yè)用途后，表示無(wú)法接單。
不僅如此，部分社交平臺(tái)還出現(xiàn)了“AI換臉視頻教程”短視頻，專門(mén)教學(xué)如何進(jìn)行AI換臉。記者根據(jù)其中一期教程，在某款A(yù)I視覺(jué)大模型中上傳了一段自拍視頻，同時(shí)上傳了一張明星的正面照片，等待一段時(shí)間后，模型順利將記者的臉部替換為明星的面孔，原視頻中的口型、表情和聲音得以保留，而臉部、發(fā)型乃至服裝均呈現(xiàn)為該明星的形象，幾乎以假亂真。此外，只需購(gòu)買會(huì)員，即可去除AI生成內(nèi)容中的水印。
人人都可能成為
“數(shù)字盜臉”的受害者
近期，AI換臉技術(shù)濫用問(wèn)題集中爆發(fā)，從演藝、體育明星到政商人士，乃至普通素人，均有可能成為受害者。據(jù)不完全統(tǒng)計(jì)，僅今年前3個(gè)月，就已發(fā)生數(shù)十起演員及影視從業(yè)者針對(duì)AI短劇的公開(kāi)維權(quán)事件。
AI換臉技術(shù)的濫用甚至已延伸至犯罪領(lǐng)域。今年，晉安檢察辦理福州首例AI“活化”換臉認(rèn)證案。李某甲、李某乙二人利用AI軟件將靜態(tài)照片“活化”為動(dòng)態(tài)視頻，成功繞過(guò)支付App的人臉識(shí)別系統(tǒng)，協(xié)助上家轉(zhuǎn)移非法資金10萬(wàn)元。兩人被公安機(jī)關(guān)抓獲后，于今年3月以非法獲取計(jì)算機(jī)信息系統(tǒng)數(shù)據(jù)罪被判處刑罰。
記者了解到，在該案中，犯罪嫌疑人購(gòu)買一個(gè)未認(rèn)證的支付賬戶，并配以相應(yīng)的個(gè)人身份信息和照片，成本僅需1.6元至2.5元；而利用AI生成用于繞過(guò)驗(yàn)證的動(dòng)態(tài)視頻，耗時(shí)不過(guò)幾分鐘，成本幾乎可以忽略不計(jì)。
“即便是專業(yè)人士，也難以準(zhǔn)確區(qū)分真實(shí)內(nèi)容與AI生成內(nèi)容。”長(zhǎng)期深耕AI影像修復(fù)與生成領(lǐng)域的福建帝視科技集團(tuán)有限公司人工智能算法總監(jiān)鄧煒表示，隨著AI視頻技術(shù)的日益普及，技術(shù)門(mén)檻持續(xù)降低，甚至部分開(kāi)源模型也可免費(fèi)使用，在這種低風(fēng)險(xiǎn)、高回報(bào)的模式下，不法分子愈發(fā)肆無(wú)忌憚。
筑牢AI換臉“防火墻”
鄧煒認(rèn)為，防治AI換臉技術(shù)濫用，可以從技術(shù)源頭上筑牢安全防線。例如，可以在AI生成的內(nèi)容中添加“隱形水印”，即便內(nèi)容經(jīng)歷裁剪、壓縮等操作，水印仍可被專用檢測(cè)器提取，從而實(shí)現(xiàn)來(lái)源追溯。
此外，還可以采用更具“進(jìn)攻性”的防御思路。“運(yùn)用‘數(shù)據(jù)投毒’技術(shù)，當(dāng)不法分子抓取圖片用于訓(xùn)練換臉模型時(shí)，被‘下毒’的數(shù)據(jù)會(huì)干擾模型的學(xué)習(xí)過(guò)程，導(dǎo)致生成內(nèi)容出現(xiàn)扭曲、偽影等無(wú)法修復(fù)的缺陷，從而變得容易被識(shí)別。”鄧煒指出，然而，相關(guān)技術(shù)的落地應(yīng)用，需要有關(guān)部門(mén)加快出臺(tái)配套的法律法規(guī)與標(biāo)準(zhǔn)規(guī)范。
AI換臉技術(shù)的灰黑產(chǎn)業(yè)鏈涉及圖像提供者、內(nèi)容制作者、AI技術(shù)公司、平臺(tái)等多個(gè)環(huán)節(jié)。業(yè)內(nèi)人士認(rèn)為，AI技術(shù)公司在嚴(yán)格遵守相關(guān)法律規(guī)定的同時(shí)，平臺(tái)方也應(yīng)優(yōu)化內(nèi)容審核與技術(shù)監(jiān)管，相關(guān)部門(mén)則需加大備案審查與執(zhí)法力度。
福州檢察機(jī)關(guān)也提醒廣大消費(fèi)者，應(yīng)增強(qiáng)自我保護(hù)意識(shí)，妥善保管個(gè)人信息。一旦發(fā)現(xiàn)賬戶異常，應(yīng)及時(shí)聯(lián)系平臺(tái)客服并向公安機(jī)關(guān)報(bào)案，共同營(yíng)造“放心消費(fèi)”的良好環(huán)境。
記者了解到，AI換臉技術(shù)的濫用已引發(fā)有關(guān)部門(mén)的高度關(guān)注。今年1月1日，新修改的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》正式施行。其中，新法增設(shè)了人工智能專章，明確禁止利用人工智能從事危害公民合法權(quán)益的活動(dòng)。深度偽造他人肖像、聲音，或利用AI實(shí)施詐騙等行為，均被納入法律的嚴(yán)格監(jiān)管范圍。（記者 沐方婷）
來(lái)源：福州日?qǐng)?bào)
