近日，晉安區(qū)人民檢察院依法辦理全市首例利用AI生成動態(tài)視頻繞過人臉識別的新型網(wǎng)絡(luò)犯罪案件。兩名外賣騎手受高額回報誘惑，利用AI偽造人臉驗證視頻，非法完成支付賬戶實名認證并協(xié)助轉(zhuǎn)移涉詐涉賭非法資金，最終被法院判刑。此案不僅揭示了AI技術(shù)被惡意濫用的新型犯罪手法，也暴露出部分平臺在安全防護與責(zé)任落實上存在短板，為數(shù)字安全與消費者權(quán)益保護敲響了警鐘。

　　AI淪為“作案工具”？

　　在福州從事外賣配送的李某甲，于2025年9月在網(wǎng)絡(luò)上看到“日入千元”的兼職廣告。聯(lián)系后他發(fā)現(xiàn)，所謂“兼職”實為協(xié)助網(wǎng)絡(luò)黑灰產(chǎn)業(yè)洗錢。具體操作流程簡便：先購買未實名的支付賬號、公民身份信息及照片，再通過AI軟件生成包含眨眼、點頭等動作的動態(tài)視頻，以此模擬真人通過人臉活體驗證，完成賬戶實名。隨后，將綁定好收款碼的賬戶交予上家，用于轉(zhuǎn)移網(wǎng)絡(luò)賭博、電信詐騙等違法犯罪資金。明知違法，李某甲仍拉攏同事李某乙共同參與。

　　短短一個多月，二人以此方式非法認證支付賬戶15組，協(xié)助轉(zhuǎn)移資金10萬余元，非法獲利3萬余元，后均被警方抓獲。

　　2026年3月11日，法院以非法獲取計算機信息系統(tǒng)數(shù)據(jù)罪，判處李某甲有期徒刑8個月、罰金7000元；判處李某乙有期徒刑7個月、罰金5000元。

　　此案犯罪成本之低令人咋舌：一套未認證賬戶加身份信息的采購成本僅1.6元至2.5元；AI生成驗證視頻僅需數(shù)分鐘，成本幾乎可忽略。低廉的門檻使得此類犯罪快速蔓延。

　　辦案民警指出，在持續(xù)打擊下，黑灰產(chǎn)作案手段已從傳統(tǒng)買賣“兩卡”轉(zhuǎn)向利用AI技術(shù)，隱蔽性與便捷性大幅提升，社會危害顯著。

　　漏洞在哪？

　　技術(shù)層面看，成熟的人臉認證本已具備多重防護，如通過結(jié)構(gòu)光或紅外成像捕捉微表情、皮膚紋理等生物特征，結(jié)合動態(tài)動作指令和多模態(tài)分析，可有效識別面具或靜態(tài)偽造。那么，低成本AI視頻為何能突破重重防護？

　　晉安區(qū)檢察院檢察官黃燕玉指出，案件核心癥結(jié)并非犯罪手段無法防范，而在于部分AI技術(shù)企業(yè)、支付平臺未嚴格遵守法規(guī)，未能同步升級技術(shù)防護，甚至可能為追求商業(yè)利益而放任漏洞，導(dǎo)致安全防線形同虛設(shè)，消費者權(quán)益失去保障。

　　如何防范？

　　2025年6月，國家網(wǎng)信辦、公安部聯(lián)合發(fā)布的《人臉識別技術(shù)應(yīng)用安全管理辦法》已明確要求，相關(guān)系統(tǒng)須采取數(shù)據(jù)加密、安全審計、訪問控制等措施保護人臉信息。

　　守護數(shù)字安全不能僅靠消費者自身。晉安區(qū)檢察院提示：AI技術(shù)公司應(yīng)加強軟件審核與全流程監(jiān)管，嚴禁開發(fā)、傳播違法工具，主動排查漏洞。支付平臺須立即整改，升級驗證系統(tǒng)，優(yōu)化活體檢測，提升對AI偽造的識別能力。廣大消費者也應(yīng)提高警惕，謹慎上傳個人肖像，妥善保管信息，發(fā)現(xiàn)賬戶異常及時聯(lián)系平臺并報警。（見習(xí)記者 肖遠強 記者 侯宗焜 通訊員 張久動）

來源：福州晚報