AI 換臉騙走跨國公司近 2 億,警惕這些新型詐騙

新年新氣象,除了和財神爺搞好關係,守住錢袋子也很重要。

技術落地的過程,往往是黃色內容和詐騙套路的進化史。

趁着假期還有餘額,教長輩警惕 AI 新型騙局,才能實現「相親相愛一家人」家族羣的「共同富裕」。

一抓一大把的 AI 博主,比「假靳東」更能騙人

《大話西遊》裏説,人是人他媽生的,妖是妖他媽生的,代碼產出的 AI 沒有父母,但想裝得有血有肉,讓你誤解它是人類。

最近,視頻號冒出了不少「俄羅斯美女」。她們個個膚白貌美,普通話流暢但斷句和咬字奇怪,聲調和前後鼻音讀不準。當然,考慮到她們外國人的身份,帶點口音才顯得自然。


她們熱情,也熱愛中國文化,為視頻打上「俄羅斯女孩在中國」「中俄友誼」之類的標籤,為觀眾朋友帶來「家鄉特產」的牛筋腸、大列巴、羊奶粉、酸黃瓜、巧克力、手工皂。


她們兩彎似蹙非蹙罥煙眉,一雙似喜非喜含情目,除了帶貨也會輸出觀點,相信愛情無國界,信奉平平淡淡才是真,感嘆這裏的繁華,想把爸媽和妹妹也接來發展。

她們可能是彼此失散多年的姐妹,葉連娜和艾琳娜就長得一模一樣,IP 還都是山東的。她們聚是一團火、散是滿天星,分佈在五湖四海,莉娜是上海的,尼娜是安徽的,艾琳是河北的,卡佳是遼寧的,阿麗莎是福建的。


這些俄羅斯美女都是 AI,平台貼心地標註了。通過她們虛化誇張的模糊背景、沒摳好的頭髮絲、循環的幾套表情和動作、過於接地氣的台詞,我們也能分辨一二。


但評論區的中老年看不出來,真心希望她們留下來,「俄羅斯美女」們回覆時只掛念着自己的任務,完成了一場不動聲色的軟性詐騙。


被美貌所惑是人之常情,不分年齡。小紅書的 AI 顏值博主,用時髦的、極具網感的人設實現老少通殺。「西裝精英男」「白襪體育生」「純慾女神」…… 乍一看,只以為是 P 圖 P 過了的真人。


這時候辨別是不是 AI,看手仍然是一種方式,因為臉相對平面,容易學習,而手有三維結構,比較耗費功夫。手指數量超出無須多言,手指關節扭曲得留個心眼,非必要不露手也十分可疑。類似地,肌肉、四肢、衣服等細節也可能有着顯而易見的破綻。

其餘的分辨方式越來越向玄學和直覺發展:畫風油膩、文案網抑雲、沒有生活氣息、光影效果不自然、眼神透着死氣,臉部過於精緻完美,只有靜態圖片沒有視頻,單看一張圖片不好確定,但多看幾張就能發現,什麼姿勢都是一個表情……

小紅書 AI 博主 @cyberAngel_ 本職是一名軟件工程師,AI 繪畫權當為愛發電的業餘愛好,他不隱藏使用 AI 的事實,帖子標題註明「AI 繪畫」,賬號簡介也寫着「我只是一個沒有感情的機器人」。

▲ 圖片來自:小紅書 @cyberAngel_

同時 @cyberAngel_ 認為,未來的 AI 繪畫將越來越難以分辨真假,AI 生成和 AI 檢測是互相進化的,創作者們更加清楚 AI 哪裏不像真人,所以會努力讓這部分「像」真人,比如 AI 產出的美少女過於完美,可以適當模糊化,加點「膠片感」。

哪怕 AI 顏值博主還沒那麼真,和「俄羅斯美女」大同小異的劇情已經出現,平台明明已經提示「疑似包含 AI 創作信息」,評論區仍有人留下彩虹屁,甚至追着詢問衣服鏈接,似乎真或假的問題,最終將不可避免地讓位於美麗即是正義。

等到粉絲量上來了,AI 顏值博主的變現方式可以十分多樣,有的自力更生,通過廣告等將流量變現,有的知識付費,賣課、賣定製模型,按 @cyberAngel_ 的話説,「新媒體有新媒體的變現方式,技術有技術的變現方式」。

▲真人模型.

AI「俄羅斯美女」和「顏值博主」,和之前騙中老年女性情感和錢財的「假靳東」有些相似之處,卻更加可怕,也更加有想象空間。

「假靳東」沒什麼技術含量,和明星相關的視頻和照片是下載或者打包購買的,深情的聲音是用變聲軟件偽造的,粗糙得「一眼假」,AI 的段位更高,有時候還真的沒那麼好辨別。

只能説,當我們看到盤靚條順的互聯網帥哥美女時,最好不要默認是真人,也不必太真情實感,網紅公司不想花錢在真人 KOL 上,觀眾也更加快速地消費批量的美貌和廉價的觀點,多麼符合互聯網的傳播規律。

AI 模仿你的臉,還要恐嚇你的心

除了通過「顏值博主」和「俄羅斯美女」廣撒網,AI 同樣也能精準鎖定。

或者説,AI 既能編織出温柔鄉,也能改頭換面當 PUA 大師。

一類常見的 AI 詐騙是,騙子偽造來電顯示和熟人聲音,告訴接到電話的中老年,他們的孫子孫女遇到了麻煩,要麼是犯了事需要拿錢消災,要麼是身陷險境得用贖金救出。


國外報道了好幾起這樣的電話詐騙事件,劇情大同小異,綁架、受傷、酒駕追尾…… 類似的事情也發生在國內,尤其是利用「時空差」,編造留學生被綁架,從而詐騙家長。

套路本身並不新鮮,已經橫行了幾年,但因為技術發展,算力、樣本等各方面的要求降低了,效果更逼真了,騙局更容易實施了。

AI 語音克隆界的領頭羊 ElevenLabs 只需一美元和一分鐘的高質量音頻,讓你瞬間掌握 29 種語言和多種語氣,還保留自己的口音、語調和節奏。

雖然如今的 Elevenlabs 再三保證,只有你可以克隆自己的聲音,並且有驗證程序證明聲音屬於你自己,然而這是亡羊補牢,2023 年 Elevenlabs 剛推出測試版時,泰勒·斯威夫特等名人的克隆語音已經滿天飛了。AI 泰勒·斯威夫特説什麼,本人無權決定。


不過,對方固然可以偽造來電顯示和聲音,但如果當事人頭腦清醒,掛斷電話,重新輸入手機號,主動聯繫到親人,謊言往往不攻自破。

比起語音,視頻通話可能更讓相信「眼見為實」的中老年懷疑人生。


屏幕那端不知是人是狗的古早笑話永不過時,技術上也不難實現。比較常見的操作是,通過虛擬攝像頭軟件和 AI 換臉功能,和對方進行聊天。

CCTV 採訪的、為公安機關提供技術支持的一家深圳科技公司表示,進行視頻聊天的實時換臉時,不管是頭像還是朋友圈照片,上傳圖像後,特徵識別只需要 30 秒左右,然後 AI 開始建模,建模完成後進行實時轉換。

一對一的視頻或許尚存戒心,如果一對多的「專業團隊」呢?

最近,一家跨國公司香港分公司因為 AI 被騙走了 2500 萬美元。受害人是一名財務職員,其收到了英國總部「CFO」的郵件,受邀參與了一場涉及「秘密交易」的視頻會議,會上不僅有「CFO」,還有幾個眼熟的「同事」。

與會同事並非真的在場,騙子下載了公開視頻,通過 Deepfake 偽造了真人的臉和聲音,再套用到視頻會議。為了避免露餡,「CFO」單方面下指令,「同事」們沒有和受害人交流,並且視頻很快掛斷了,騙子之後通過郵件等方式繼續和受害人聯繫。

▲ 警方示範怎麼用 Deepfake 偽造多人視頻會議.

雖然此事有了調查結果,也有網友懷疑是內鬼作祟而已。跨國公司的風險管控措施如何不為人知,但可以確定的是,AI 換臉還可以延伸到很多地方,從最早的色情片換頭,到假冒明星在直播間帶貨。

所幸,AI 還沒有那麼完美,辨別方式依然簡單可行。

假如是通過 AI 換臉視頻,攝像頭的原始畫面在幾層轉換時十分消耗算力,聲音和畫面往往會有延時。另外,可以引導對方做些動作,比如張嘴、大幅度搖頭、把手指擋在臉前來回移動等,若是 AI 換臉,「人臉」可能會出現變形和瑕疵。

除了從技術的 bug 突破重圍,還有百試不爽的一招是,問些你知我知他不知的隱私問題,或者編造謊言故意套路,看對方如何接招。

當然,技術的不足只能解一時之困,不妨戰略上蔑視、戰術上重視,不能覺得自己一定不會被騙,可能只是高端局還沒出現。

AI 詐騙並不新,但新的數字鴻溝已經出現

2023 年被稱為生成式 AI 的元年,然而技術的推廣有滯後性,或許大多數普通人更能感知的是,看似並不新鮮的、但近年越發普及的技術,如何影響了日常生活。

技術是把雙刃劍的道理人人明白,Elevenlabs 可以讓有語言障礙的人發聲,HeyGen 讓黴黴對口型説出不帶翻譯腔的中文,妙鴨相機讓人足不出户收穫精修證件照,技術的光明面和陰暗面並無長短,只是客觀存在罷了。


然而,對於很多中老年來説,智能手機和互聯網本來就玩不明白,現在 AI 又來搗亂了。

AI 時代,文字、聲音、圖片和視頻都有可能是假的,甚至以組合形式上場,騙子偽造的身份更加具體,詐騙也更加對症下藥和真情實感,讓中老年受騙的概率更高。

以魔法對抗魔法,以技術攻防技術,是個此消彼長的貓鼠遊戲,中老年未必能快速消化,我們或許從詐騙的本質入手,降低中老年上當的可能。

不管技術如何發展,很多詐騙的套路萬變不離其宗:竊取隱私,利用恐懼、貪慾、情緒價值編故事,冒充熟人或包裝自己獲取信任,圖窮匕見以錢為最終目的。


在 AI 時尚教皇出圈後,一位粉絲近 1300 萬的 X(原 Twitter)大 V 感嘆:「我以為教皇的羽絨服是真的,沒有多想。我不可能在技術的未來中倖存下來。」

對於中老年來説,眼見不等於真實、有圖未必是真相的規則更難被適應。我們可以告訴他們一些簡單、傳統但依然有效的辦法。

一類是小心駛得萬年船,不輕易相信互聯網的內容,不接騷擾電話,不點陌生鏈接,儘量不在互聯網過度暴露人臉、聲音、指紋等個人生物信息。


尤其接到可疑電話、短信時,不要盲目相信「一面之詞」,不管對方是誰,談到錢就多個心眼,通過多種方式驗證對方身份,如果對方説家人遭遇了某事,再次回撥家人電話確認情況是否屬實。

另一類是主動出擊有備無患,中老年有自己偏好的媒體,家人可以將政府部門微信公眾號等信源的反詐內容轉發給他們。如果條件允許,也可以向中老年展示如何使用 ChatGPT 等 AI 工具。

當然,對於不懂智能手機的老人,儘量在源頭解決問題,最好不要在微信、支付寶綁定銀行卡,只存少量的零錢。

AI 詐騙得逞只是最後的結果,防範 AI 騙局卻可以隨時開始。

技術應當服務於每一個人,引路人為後來者照亮數字世界的燈塔,探明水下未知的暗礁,我們才能共同走向一個技術不被恐懼而是被合理使用的未來。


資料來源:愛範兒(ifanr)

如果喜歡我們的文章,請即分享到︰