AI換臉騙近2億，警惕這些新型詐騙

日期: 2024-02-16 | 來源: 愛范兒 | 有0人參與評論 | 字體: 小中大
新年新氣象，除了和財神爺搞好關系，守住錢袋子也很重要。

技術落地的過程，往往是黃色內容和詐騙套路的進化史。

趁著假期還有余額，教長輩警惕 AI 新型騙局，才能實現“相親相愛一家人”家族群的“共同富裕”。

一抓一大把的 AI 博主，比“假靳東”更能騙人

《大話西游》裡說，人是人他媽生的，妖是妖他媽生的，代碼產出的 AI 沒有父母，但想裝得有血有肉，讓你誤解它是人類。

最近，視頻號冒出了不少“俄羅斯美女”。她們個個膚白貌美，普通話流暢但斷句和咬字奇怪，聲調和前後鼻音讀不准。當然，考慮到她們外國人的身份，帶點口音才顯得自然。

她們熱情，也熱愛中國文化，為視頻打上“俄羅斯女孩在中國”“中俄友誼”之類的標簽，為觀眾朋友帶來“家鄉特產”的牛筋腸、大列巴、羊奶粉、酸黃瓜、巧克力、手工皂。

她們兩彎似蹙非蹙罥煙眉，一雙似喜非喜含情目，除了帶貨也會輸出觀點，相信愛情無國界，信奉平平淡淡才是真，感歎這裡的繁華，想把爸媽和妹妹也接來發展。

她們可能是彼此失散多年的姐妹，葉連娜和艾琳娜就長得一模一樣，IP 還都是山東的。她們聚是一團火、散是滿天星，分布在五湖四海，莉娜是上海的，尼娜是安徽的，艾琳是河北的，卡佳是遼寧的，阿麗莎是福建的。

這些俄羅斯美女都是 AI，平台貼心地標注了。通過她們虛化誇張的模糊背景、沒摳好的頭發絲、循環的幾套表情和動作、過於接地氣的台詞，我們也能分辨一二。

但評論區的中老年人看不出來，真心希望她們留下來，“俄羅斯美女”們回復時也只掛念著自己的任務，完成了一場不動聲色的軟性詐騙。

被美貌所惑是人之常情，不分年齡。小紅書的AI顏值博主，用時髦的、極具網感的人設實現老少通殺。“西裝精英男”“白襪體育生”“純欲女神”......乍一看，只以為是 P 圖 P 過了的真人。

這時候辨別是不是 AI，看手仍然是一種方式，因為臉相對平面，容易學習，而手有三維結構，比較耗費功夫。手指數量超出無須多言，手指關節扭曲得留個心眼，非必要不露手也十分可疑。類似地，肌肉、四肢、衣服等細節也可能有著顯而易見的破綻。

其余的分辨方式越來越向玄學和直覺發展：畫風油膩、文案網抑雲、沒有生活氣息、光影效果不自然、眼神透著死氣，臉部過於精致完美，只有靜態圖片沒有視頻，單看一張圖片不好確定，但多看幾張就能發現，什麼姿勢都是一個表情......

小紅書 AI 博主 @cyberAngel_ 本職是一名軟件工程師，AI 繪畫權當為愛發電的業余愛好，他不隱藏使用 AI 的事實，帖子標題注明“AI 繪畫”，賬號簡介也寫著“我只是一個沒有感情的機器人”。

圖片來自：小紅書 @cyberAngel_

同時 @cyberAngel_ 認為，未來的 AI 繪畫將越來越難以分辨真假，AI 生成和 AI 檢測是互相進化的，創作者們更加清楚 AI 哪裡不像真人，所以會努力讓這部分“像”真人，比如 AI 產出的美少女過於完美，可以適當模糊化，加點“膠片感”。

哪怕 AI 顏值博主還沒那麼真，和“俄羅斯美女”大同小異的劇情已經出現，平台明明已經提示“疑似包含 AI 創作信息”，評論區仍有人留下彩虹屁，甚至追著詢問衣服鏈接，似乎真或假的問題，最終將不可避免地讓位於美麗即是正義。

等到粉絲量上來了，AI 顏值博主的變現方式可以十分多樣，有的自力更生，通過廣告等將流量變現，有的知識付費，賣課、賣定制模型，按 @cyberAngel_ 的話說，“新媒體有新媒體的變現方式，技術有技術的變現方式”。

AI“俄羅斯美女”和“顏值博主”，和之前騙中老年女性情感和錢財的“假靳東”有些相似之處，卻更加可怕，也更加有想象空間。

“假靳東”沒什麼技術含量，和明星相關的視頻和照片是下載或者打包購買的，深情的聲音是用變聲軟件偽造的，粗糙得“一眼假”，AI 的段位更高，有時候還真的沒那麼好辨別。

只能說，當我們看到盤靚條順的互聯網帥哥美女時，最好不要默認是真人，也不必太真情實感，網紅公司不想花錢在真人 KOL 上，觀眾也更加快速地消費批量的美貌和廉價的觀點，多麼符合互聯網的傳播規律。

AI 模仿你的臉，還要恐嚇你的心

除了通過“顏值博主”和“俄羅斯美女”廣撒網，AI 同樣也能精准鎖定。

或者說，AI 既能編織出溫柔鄉，也能改頭換面當 PUA 大師。

一類常見的 AI 詐騙是，騙子偽造來電顯示和熟人聲音，告訴接到電話的中老年人，他們的孫子孫女遇到了麻煩，要麼是犯了事需要拿錢消災，要麼是身陷險境得用贖金救出。

國外報道了好幾起這樣的電話詐騙事件，劇情大同小異，綁架、受傷、酒駕追尾......類似的事情也發生在國內，尤其是利用“時空差”，編造留學生被綁架，從而詐騙家長。

套路本身並不新鮮，已經橫行了幾年，但因為技術發展，算力、樣本等各方面的要求降低了，效果更逼真了，騙局更容易實施了。

AI 語音克隆界的領頭羊 ElevenLabs 只需一美元和一分鍾的高質量音頻，讓你瞬間掌握 29 種語言和多種語氣，還保留自己的口音、語調和節奏。

雖然如今的 Elevenlabs 再三保證，只有你可以克隆自己的聲音，並且有驗證程序證明聲音屬於你自己，然而這已是亡羊補牢，2023 年 Elevenlabs 剛推出測試版時，泰勒·斯威夫特等名人的克隆語音已經滿天飛了。AI 泰勒·斯威夫特說什麼，本人無權決定。

不過，對方固然可以偽造來電顯示和聲音，但如果當事人頭腦清醒，掛斷電話，重新輸入手機號，主動聯系到親人，謊言往往不攻自破。

比起語音，視頻通話可能更讓相信“眼見為實”的中老年人懷疑人生。

屏幕那端不知是人是狗的古早笑話永不過時，技術上也不難實現。比較常見的操作是，騙子通過虛擬攝像頭軟件和 AI 換臉功能，和對方進行視頻聊天。

CCTV 采訪的、為公安機關提供技術支持的一家深圳科技公司表示，進行視頻聊天的實時換臉時，不管是頭像還是朋友圈照片，上傳圖像後，特征識別只需要 30 秒左右，然後 AI 開始建模，建模完成後進行實時轉換。

一對一的視頻或許尚存戒心，如果是一對多的“專業團隊”呢？

最近，一家跨國公司香港分公司因為 AI 被騙走了 2500 萬美元（約 1.8 億人民幣）。受害人是一名財務職員，其收到了英國總部“CFO”的郵件，受邀參與了一場涉及“秘密交易”的視頻會議，會上不僅有“CFO”，還有幾個眼熟的“同事”。

與會同事並非真的在場，騙子下載了公開視頻，通過 Deepfake 偽造了真人的臉和聲音，再套用到視頻會議。為了避免露餡，“CFO”單方面下指令，“同事”們沒有和受害人交流，並且視頻很快掛斷了，騙子之後通過郵件等方式繼續和受害人聯系。

雖然此事有了調查結果，也有網友懷疑是內鬼作祟而已。跨國公司的風險管控措施如何不為人知，但可以確定的是，AI 換臉還可以延伸到很多地方，從最早的色情片換頭，到假冒明星在直播間帶貨。

所幸，AI 還沒有那麼完美，辨別方式依然簡單可行。

假如是通過 AI 換臉視頻，攝像頭的原始畫面在幾層轉換時十分消耗算力，聲音和畫面往往會有延時。另外，可以引導對方做些動作，比如張嘴、大幅度搖頭、把手指擋在臉前來回移動等，若是 AI 換臉，“人臉”可能會出現變形和瑕疵。

除了從技術的 bug 突破重圍，還有百試不爽的一招是，問些你知我知但他不知的隱私問題，或者編造謊言故意套路，看對方如何接招。

當然，技術的不足只能解一時之困，不妨戰略上蔑視、戰術上重視，不能覺得自己一定不會被騙，可能只是高端局還沒出現。

AI 詐騙並不新，但新的數字鴻溝已經出現

2023 年被稱為生成式 AI 的元年，然而技術的推廣有滯後性，或許大多數普通人更能感知的是，看似並不新鮮的、但近年越發普及的技術，如何影響了日常生活。

技術是把雙刃劍的道理人人明白，Elevenlabs 可以讓有語言障礙的人發聲，HeyGen 讓霉霉對口型說出不帶翻譯腔的中文，妙鴨相機讓人足不出戶收獲精修證件照，技術的光明面和陰暗面並無長短，只是客觀存在罷了。

然而，對於很多中老年人來說，智能手機和互聯網本來就玩不明白，現在 AI 又來搗亂了。

AI 時代，文字、聲音、圖片和視頻都有可能是假的，甚至以組合形式上場，騙子偽造的身份更加具體，詐騙也更加對症下藥和真情實感，讓中老年人受騙的概率更高。

以魔法對抗魔法，以技術攻防技術，是個此消彼長的貓鼠游戲，中老年人未必能快速消化，我們或許從詐騙的本質入手，降低中老年人上當的可能。

不管技術如何發展，很多詐騙的套路萬變不離其宗：竊取隱私，利用恐懼、貪欲、情緒價值編故事，冒充熟人或包裝自己獲取信任，圖窮匕見以錢為最終目的。

在 AI 時尚教皇出圈後，一位粉絲近 1300 萬的 X（原 Twitter）大 V 感歎：“我以為教皇的羽絨服是真的，沒有多想。我不可能在技術的未來中幸存下來。”

對於中老年人來說，眼見不等於真實、有圖未必是真相的規則更難被適應。我們可以告訴他們一些簡單、傳統但依然有效的辦法。

一類是小心駛得萬年船，不輕易相信互聯網的內容，不接騷擾電話，不點陌生鏈接，盡量不在互聯網過度暴露人臉、聲音、指紋等個人生物信息。

尤其接到可疑電話、短信時，不要盲目相信“一面之詞”，不管對方是誰，談到錢就多個心眼，通過多種方式驗證對方身份，如果對方說家人遭遇了某事，再次回撥家人電話確認情況是否屬實。

另一類是主動出擊有備無患，中老年人有自己偏好的媒體，家人可以將政府部門微信公眾號等信源的反詐內容轉發給他們。如果條件允許，也可以向中老年人展示如何使用 ChatGPT 等 AI 工具。

當然，對於不懂智能手機的老人，盡量在源頭解決問題，最好不要在微信、支付寶綁定銀行卡，只存少量的零錢。

AI 詐騙得逞只是最後的結果，防范 AI 騙局卻可以隨時開始。

技術應當服務於每一個人，引路人為後來者照亮數字世界的燈塔，探明水下未知的暗礁，我們才能共同走向一個技術不被恐懼而是被合理使用的未來。
- 新聞來源於其它媒體，內容不代表本站立場！
分類：國際新聞

猜您喜歡

您可能也喜歡

評論

目前還沒有人發表評論, 大家都在期待您的高見

發表評論

視頻

相關功能

加西網新聞