“AI換臉技術(shù)”是一種先進(jìn)的數(shù)字技術(shù)，通過(guò)使用人工智能和機(jī)器學(xué)習(xí)算法，將一張面部的圖像或視頻幀轉(zhuǎn)移到另一張圖像或視頻幀上，實(shí)現(xiàn)面部特征的替換或更改。然而，這項(xiàng)技術(shù)也存在潛在風(fēng)險(xiǎn)，比如可能被用于制作虛假視頻，通過(guò)平臺(tái)的人臉識(shí)別認(rèn)證環(huán)節(jié)進(jìn)行不法活動(dòng)。近期，鯉城區(qū)人民法院就審理了一起利用“AI換臉技術(shù)”進(jìn)行犯罪活動(dòng)的案件。
網(wǎng)絡(luò)公司報(bào)警
大量實(shí)名賬號(hào)使用同一IP
“短短半個(gè)月，這個(gè)地區(qū)的實(shí)名認(rèn)證怎么突然增加這么多？這些賬號(hào)所用的IP還存在大量重復(fù)，認(rèn)證參數(shù)有明顯的團(tuán)伙聚集特征！”2023年6月，某網(wǎng)絡(luò)公司發(fā)現(xiàn)有部分賬號(hào)在注冊(cè)過(guò)程中使用AI偽造的動(dòng)態(tài)人臉視頻通過(guò)實(shí)名認(rèn)證環(huán)節(jié)審查。經(jīng)該公司技術(shù)部門(mén)排查分析，懷疑有不法分子非法購(gòu)買(mǎi)他人身份信息和人臉照片，通過(guò)3D人臉軟件制作動(dòng)圖或視頻，在實(shí)名認(rèn)證時(shí)使用相關(guān)插件對(duì)公司實(shí)名檢測(cè)軟件注入攻擊，使得實(shí)名軟件讀取已制作好的動(dòng)態(tài)人臉視頻通過(guò)實(shí)名活體檢測(cè)，進(jìn)而成功通過(guò)實(shí)名認(rèn)證。
據(jù)該公司介紹，鯉城轄區(qū)一共申請(qǐng)了4623個(gè)賬號(hào)，成功認(rèn)證2238個(gè)，這些賬號(hào)可能被用于詐騙、色情等引流，會(huì)嚴(yán)重破壞平臺(tái)生態(tài)，給社會(huì)帶來(lái)不良影響。該公司遂向警方提供了上述線索。
消費(fèi)者投訴
身份信息被陌生人注冊(cè)
“我想在某小程序購(gòu)買(mǎi)商品，需要實(shí)名注冊(cè)賬號(hào)，系統(tǒng)提示我的身份證號(hào)碼已經(jīng)被注冊(cè)過(guò)了，但我本人和家人都沒(méi)有注冊(cè)過(guò)。”消費(fèi)者林某在網(wǎng)上準(zhǔn)備購(gòu)買(mǎi)某商品時(shí)，遇到了這一現(xiàn)象。
為帶動(dòng)本地農(nóng)產(chǎn)品經(jīng)濟(jì)，某知名企業(yè)通過(guò)微信小程序銷(xiāo)售特產(chǎn)和酒水，客戶通過(guò)購(gòu)買(mǎi)特產(chǎn)獲得相應(yīng)積分后，即可原價(jià)購(gòu)買(mǎi)其他市場(chǎng)溢價(jià)較高的商品。為防止不法分子倒賣(mài)牟利，購(gòu)買(mǎi)時(shí)需要人臉識(shí)別驗(yàn)證。
企業(yè)銷(xiāo)售人員表示，因是通過(guò)網(wǎng)絡(luò)銷(xiāo)售，無(wú)法見(jiàn)到消費(fèi)者本人，技術(shù)上存在“AI換臉”冒用他人身份的可能，曾有接到客戶投訴其身份信息被他人注冊(cè)，盡管該行為沒(méi)有給企業(yè)造成損失，但已擾亂了正常的銷(xiāo)售環(huán)境和市場(chǎng)。
被告人供述
自學(xué)軟件制作AI換臉視頻
“在網(wǎng)上看到有人發(fā)布這種注冊(cè)需求的單子，聽(tīng)說(shuō)做這個(gè)來(lái)錢(qián)快，我就買(mǎi)了軟件自學(xué)。”被告人傅某表示。
原來(lái)，為牟取利益，被告人傅某從網(wǎng)上購(gòu)買(mǎi)了軟件及相關(guān)教程，從客戶提供的信息或自己從網(wǎng)上購(gòu)買(mǎi)的公民信息中，摳出頭像制作AI換臉視頻，預(yù)存在手機(jī)相冊(cè)中，再點(diǎn)擊客戶要求通過(guò)的相關(guān)平臺(tái)人臉驗(yàn)證鏈接，通過(guò)技術(shù)手段幫助客戶通過(guò)平臺(tái)的人臉驗(yàn)證。傅某從中非法獲利人民幣27000元。
根據(jù)相關(guān)犯罪線索，2023年8月，公安機(jī)關(guān)在鯉城區(qū)某小區(qū)內(nèi)抓獲傅某。傅某對(duì)購(gòu)買(mǎi)公民個(gè)人信息，制作AI換臉視頻進(jìn)行商品申購(gòu)認(rèn)證的犯罪事實(shí)供認(rèn)不諱。
法官提醒
生活中注意保護(hù)個(gè)人信息
法院審理認(rèn)為，傅某的行為構(gòu)成非法控制計(jì)算機(jī)信息系統(tǒng)罪和侵犯公民個(gè)人信息罪，兩罪的關(guān)系是手段與目的的牽連關(guān)系，應(yīng)擇一重罪論處。由于兩罪均是以非法所得作為入罪條件和情節(jié)的認(rèn)定，根據(jù)查明事實(shí)，傅某犯非法控制計(jì)算機(jī)信息系統(tǒng)罪。
最終，根據(jù)被告人傅某的犯罪事實(shí)、性質(zhì)、情節(jié)、認(rèn)罪態(tài)度及對(duì)于社會(huì)的危害程度，鯉城法院依法判決被告人傅某犯非法控制計(jì)算機(jī)信息系統(tǒng)罪，判處有期徒刑三年并處罰金，沒(méi)收違法所得。
法官提醒，公眾在日常生活中應(yīng)當(dāng)注意保護(hù)個(gè)人信息，盡量不要在社交媒體平臺(tái)發(fā)布個(gè)人免冠正面照，避免在社交平臺(tái)上過(guò)度暴露個(gè)人信息。同時(shí)，勿輕易下載未知軟件或點(diǎn)擊可疑鏈接，以免被病毒侵入，減少被詐騙的風(fēng)險(xiǎn)，在遇到可疑情況時(shí)，可及時(shí)報(bào)警求助。（融媒體記者 許小程 通訊員 葉俊欣 王彩霞）
來(lái)源：東南早報(bào)
