雖說“眼見為實”，但虛擬世界里的“眼見為實”卻不一定真。如今，“AI（人工智能）換臉”圖片和視頻成為熱門現(xiàn)象，AI換臉、擬聲等技術(shù)，定制性強、應(yīng)用場景廣泛，不法分子作案手法多樣，導(dǎo)致AI犯罪不斷衍生升級。
2月27日，山西晚報記者從文水縣公安局獲悉，警方破獲一起注冊虛假空殼公司虛開增值稅發(fā)票案，區(qū)別以往類似案件，犯罪分子在此案中竟然利用“AI換臉技術(shù)”完成了相關(guān)業(yè)務(wù)的注冊工作。
騙子利用AI換臉技術(shù)注冊虛假公司
“請眨眼、請張嘴”“人臉識別成功”……人臉識別驗證技術(shù)，為人們的消費和生活帶來了便利，但一些不法人員卻盯上了它。
2024年12月，文水縣公安局經(jīng)偵大隊聯(lián)合稅務(wù)稽查部門，對涉稅案件線索深入研判，成功偵破利用AI換臉技術(shù)注冊虛假空殼公司虛開增值稅發(fā)票案，警方共計挽回稅款42萬余元。
目前，犯罪嫌疑人周某已被警方依法采取刑事強制措施，案件也在進(jìn)一步偵辦中。
民警介紹，“近年來，AI換臉詐騙成了騙子圈里的‘高科技新寵’，此案的偵破有效阻斷虛開黑手，也對虛開犯罪形成有力震懾?！薄癆I換臉擬聲”類詐騙是指不法分子以“網(wǎng)店客服”“營銷推廣”“招聘兼職”“婚戀交友”等為借口，通過微信、電話等方式聯(lián)系消費者，采集發(fā)音、語句或面部信息。利用“換臉”“擬聲”等技術(shù)合成消費者虛假音頻、視頻或圖像，模擬他人聲音或形象騙取信任，以借錢、投資、緊急救助等借口誘導(dǎo)其親友轉(zhuǎn)賬匯款，或提供銀行賬戶密碼等敏感信息，隨后迅速轉(zhuǎn)移資金。此外，不法分子還可能對明星、專家、執(zhí)法人員等音視頻進(jìn)行人工合成，假借其身份傳播虛假消息，從而實現(xiàn)詐騙目的。
經(jīng)了解，近期全國多地警方破獲不少“AI換臉擬聲”類犯罪案件。有人收到親戚的視頻電話借錢，畫面里對方連村里的背景都一模一樣，結(jié)果一核實竟是AI偽造的假臉假聲；還有公司老板被AI合成的“好友”視頻騙走430萬元，整個過程只用了10分鐘。“這些案例聽著像電影情節(jié)，但現(xiàn)實中已多次發(fā)生，而且它就發(fā)生在我們的身邊?！泵窬f。
步驟簡單 普通人幾分鐘便可“換臉”
普通人如果娛樂休閑或工作需要，使用“換臉”這項技術(shù)的“門檻”有多高？
采訪中，記者向AI提出問題，“我想AI換臉，該如何操作？”幾秒鐘后，對方給出了詳細(xì)的操作步驟。AI“表示”常用的AI換臉工具有：DeepFaceLab，特點為功能強大，適合專業(yè)人士；FaceSwap，特點為開源且易用，適合初學(xué)者；Avatarify，特點為實時換臉，適合直播或視頻會議。
在準(zhǔn)備數(shù)據(jù)環(huán)節(jié)，需要準(zhǔn)備源視頻及目標(biāo)視頻。大白話就是，你臉部的視頻，和你打算換臉的視頻。
以DeepFaceLab為例：在解壓下載并安裝軟件后，便可使用軟件從源視頻和目標(biāo)視頻中提取臉部數(shù)據(jù)。隨后，在DeepFaceLab中，運行腳本，選擇合適模型，用提取的數(shù)據(jù)訓(xùn)練模型。訓(xùn)練完成后，再運行指定腳本，生成換臉后的視頻或圖片。此后的工作便是使用視頻編輯軟件調(diào)整顏色、亮度等，使換臉更自然?？偨Y(jié)一下，AI換臉操作包括選擇工具、準(zhǔn)備數(shù)據(jù)、安裝軟件、提取臉部數(shù)據(jù)、訓(xùn)練模型、換臉和后期處理。如果你電腦性能不錯，質(zhì)量較低的“換臉”幾分鐘便可以實現(xiàn)。
同樣是利用AI，犯罪分子“換臉擬聲”詐騙又是怎么操作的？
簡單說，騙子會從你的社交平臺扒照片、視頻，甚至用你發(fā)過的語音，通過深度學(xué)習(xí)算法“復(fù)制”出你的臉和聲音。比如你發(fā)過一條“今天的天氣真不錯”的語音，AI工具只需3-4秒就能生成和你音色八成相似的克隆聲。接著，騙子用這些素材合成一段視頻通話：畫面里，“你”穿著“微信朋友圈”里穿過的衣服，背景可能是在你家客廳。點擊播放視頻，你神情有點焦急，張口就說“我遇到點急事，你先給這個賬戶打點錢，具體事一會“說”。由于技術(shù)太逼真，不少人直接中招，特別是針對老年群體的詐騙，詐騙成功率可以說是接近100%。
突然問點“瑣事”AI最容易“卡殼”
“我們現(xiàn)在都覺得打視頻電話最穩(wěn)妥，因為‘眼見為實’么，所以很多人不會想到視頻中的‘親人’‘朋友’‘領(lǐng)導(dǎo)’是經(jīng)過AI偽裝的騙子！”根據(jù)警方已經(jīng)破獲的相關(guān)案例來看，騙子“換臉擬聲”后可能會冒充親友、領(lǐng)導(dǎo)要求轉(zhuǎn)賬匯款，也可能冒充網(wǎng)紅、富豪等誘導(dǎo)交友戀愛。最可恨的，他們還冒充公檢法人員威脅恐嚇老百姓。盡管AI騙局更難被識別，但只要你了解AI詐騙的套路和應(yīng)對方法，也就不會上當(dāng)了。
第一招：讓“他”摸臉、捏鼻子，AI立馬露餡
“如果視頻里的人突然找你借錢，先別急著轉(zhuǎn)。你可以要求對方先摸摸臉或者捏捏鼻子，這個要求聽著好像滑稽，但測試AI是有效的?！闭嫒说哪槙皇謸踝〔糠?，但AI換臉技術(shù)遇到遮擋物就容易“穿幫”：畫面可能出現(xiàn)水波紋、面部扭曲，甚至鼻子被捏住后毫無變形。警方實測發(fā)現(xiàn)，多數(shù)AI換臉視頻用睜眼照片合成，假臉幾乎不會眨眼。你可以故意說“你眼睛進(jìn)東西了”，讓對方頻繁眨眼，真人的眼皮活動會更自然。
第二招：交流中，突然問點“瑣事”
當(dāng)騙子使用AI換臉擬聲詐騙時，不管事先準(zhǔn)備的“話術(shù)”多完善，也架不住你突然問個“瑣事”。這些問題越具體越好，最好是僅你們私下知道的事情，比如“上回你請我吃飯，飯店叫什么名字？”“你家孩子的小名叫什么？”最好選沒在社交平臺提過的細(xì)節(jié)。警方表示，騙子能偽造臉和聲音，但復(fù)制不了真實的人際記憶。
第三招：掛斷再回?fù)?，真假立現(xiàn)
“遇到借錢、轉(zhuǎn)賬等要求，立刻掛斷，再用微信、手機號主動回?fù)艽_認(rèn)。這個辦法非常好用，但很多人不知道?！睆氖露嗄攴丛p工作的民警介紹，真正的視頻通話是實時雙向畫面，但AI詐騙常用提前合成的單向視頻，對方要是微信給你打過來的，你就通過手機號給他撥回去，很多騙局當(dāng)場拆穿。需要提醒的是，如果是微信新加的“熟人”，務(wù)必檢查賬號是否一致——有騙子會注冊高仿號，頭像、昵稱都和原主一模一樣，但仔細(xì)看微信號差一個字母。
保持良好習(xí)慣莫讓AI“看透”你
除了上述這三招，大家平時還要注意“捂緊”個人信息，莫讓AI“看透”你。
從警方破獲的相關(guān)案例來看，一些騙子目前已經(jīng)開始利用AI，點對點分析公眾發(fā)布在網(wǎng)上的各類信息。他們會根據(jù)所要實施的騙術(shù)對人群進(jìn)行篩選，在短時間內(nèi)便可生產(chǎn)出定制化的詐騙腳本，從而實施精準(zhǔn)詐騙。針對這個情況，我們在享受AI服務(wù)帶來便利的同時,更應(yīng)提高警惕，千萬不能忽視潛在的隱私危機。
首先，大家在使用手機時，建議僅允許APP獲取實現(xiàn)基本功能所需的必要權(quán)限。從位置信息到通訊錄，從短信內(nèi)容到瀏覽記錄，這些看似無關(guān)緊要的權(quán)限收集，正編織一張張無形的隱私“捕撈網(wǎng)”。一旦這些信息被泄露，我們的隱私將面臨巨大風(fēng)險。不法分子可能借此實施精準(zhǔn)詐騙，甚至對人身安全造成威脅。
其次，在常用的APP設(shè)置中，關(guān)閉“興趣推薦”“個性廣告”，要養(yǎng)成定期清理瀏覽記錄和歷史記錄的習(xí)慣。一些APP看似貼心服務(wù)的背后，是AI算法對我們的深度挖掘與關(guān)聯(lián)分析，過多的個性化推薦更是讓我們深陷“信息繭房”。你認(rèn)為自己只是接觸感興趣的內(nèi)容，殊不知，是逐漸沉迷于AI定制的“舒適圈”。根據(jù)你的習(xí)慣，AI對你的“畫像”將異常清晰，當(dāng)這些數(shù)據(jù)被不法分子掌握時，你的“軟肋”也將全面暴露在對方面前，而有針對性的詐騙也將緊隨而來。
最后，加強個人信息保護(hù)意識，在AI高速發(fā)展的今天十分重要，因為互聯(lián)網(wǎng)是有“記憶”的。正確的做法是，盡量減少在社交平臺上發(fā)布個人信息圖片、視頻等內(nèi)容，尤其是高清正臉照、證件照、工牌照。陌生人發(fā)的鏈接別隨便點，防止手機被植入木馬盜取照片。不輕易提供人臉、指紋等個人生物信息給他人，不過度公開或分享動圖、視頻等。如果真遇到可疑情況，立刻撥打110或反詐專線96110。
再次重申，如果有人聲稱是“家人”“朋友”“老師”“領(lǐng)導(dǎo)”通過社交軟件、短信、電子郵件等以各種方式引導(dǎo)你轉(zhuǎn)賬匯款，請務(wù)必要提高安全意識，并通過電話、視頻等多種方式確認(rèn)對方是否為本人。因為多一次確認(rèn)，關(guān)鍵時刻真能保住血汗錢。
山西晚報記者 辛戈
（責(zé)任編輯：梁艷）
晉公網(wǎng)安備 14090202000008號 
