太平洋科技要聞

他們在用 AI 尋找下一個(gè)王星，警惕這些給你度身定制的「完美騙局」

appso 整合編輯：太平洋科技發(fā)布于：2025-01-19 21:25

歷時(shí)一周，被騙到緬甸電詐區(qū)的演員王星，終于安全回國。為他操心了一路，并且通過網(wǎng)絡(luò)求助解救他的嘉嘉、也就是王星的女朋友，也可以放下心來。

1 月 5 日，微博上出現(xiàn)一條引人注目的求助帖：王星的女朋友嘉嘉發(fā)帖稱，王星赴泰國進(jìn)組拍戲，于北京時(shí)間 1 月 3 日中午 12 時(shí)在泰緬邊境失聯(lián)，并貼出了詳細(xì)的經(jīng)過。

這不是簡單的失聯(lián)。王星碰到的是人口販賣，被騙到了緬甸北部的電詐區(qū)，是一場針對演員群體精心編織的詐騙。

這起案件帶來極大的震動(dòng)：王星是年輕人，受過良好的教育，是典型的專業(yè)人士。他出發(fā)前向同行詢問過，一路也算有警惕意識(shí)，進(jìn)入泰國之后，一路都跟女朋友保持聯(lián)絡(luò)、發(fā)定位，這為后來的救援提供了巨大的幫助。

但他還是陷入了極其危險(xiǎn)的境地，反映出來如今詐騙打的都是「高端局」：自以為不會(huì)被騙，其實(shí)只是沒有碰到為你量身打造的騙局。

「眼見為實(shí)」的騙局

應(yīng)該有不少人知道，去年年初時(shí)，香港爆出過一起 Deepfake 詐騙案，涉案金額高達(dá) 1.95 億港元。

Arup 是英國知名的工程建筑公司，參與過悉尼歌劇院合北京鳥巢的建設(shè)。去年一月時(shí)，Arup 在香港分公司的一名財(cái)務(wù)人員收到郵件，隨后參與了一場線上會(huì)議。同時(shí)參會(huì)的，不僅有 Arup 的公司首席財(cái)務(wù)官，還有多位其他高管。

這場會(huì)議開了攝像頭，每個(gè)人都露了臉�？吹竭@么多位高管出現(xiàn)在屏幕上，這位財(cái)務(wù)沒有多疑，遵照指示，先后 15 次轉(zhuǎn)賬給了 5 個(gè)銀行賬戶，合計(jì) 1.95 億港元。

這是一種典型的「CEO騙局」。騙子用各種合成式工具，偽裝出公司高管的聲音乃至面容，向員工下達(dá)指令轉(zhuǎn)賬。

「CEO 騙局」是專門圍繞公司高管的展開的詐騙類型。相比于普通員工，公司的高管權(quán)限更大。無論是對資金的調(diào)配，還是某些文件的簽署，都有超出基層員工的權(quán)限。

不過，他們作為職場人和社會(huì)人的經(jīng)驗(yàn)，帶來的警惕意識(shí)也很高。這跟一般詐騙所面對的老年人、務(wù)工人員很不一樣。

于是就有了兩種路線：一是大量收集高管的信息，用數(shù)字人生成工具或者語音合成工具，制造出高管本人的「分身」。在 AI 工具如此高級的今天，合成影像可以做得難辨真假，很難讓人有所懷疑。

當(dāng)親眼看到自己的老板出現(xiàn)在屏幕上，又或者聽見對方的聲音從語音里傳來，作為打工人一時(shí)半會(huì)很難會(huì)產(chǎn)生質(zhì)疑。

還有另一種「CEO 騙局」更刺激，不是偽裝成高管騙員工，而是直接就想騙高管。

全球五大廣告集團(tuán)之一的 WPP，市值 113 億美元，旗下有奧美、群邑等老牌廣告公關(guān)公司。在全球 110 個(gè)國家有分公司或辦事處，總部位于英國。

去年五月，一個(gè)自稱是 WPP 首席執(zhí)行官 Mark Read 的賬號，向多個(gè)員工發(fā)起了線上會(huì)議。除了 CEO，還有另一位 WPP 高管，在會(huì)議上他們要求一位 WPP 旗下代理機(jī)構(gòu)的領(lǐng)導(dǎo)人員，開設(shè)一家新公司。

WPP 首席執(zhí)行官 Mark Read

很顯然，會(huì)議上的聲音都是用 AI 工具合成的，所幸騙局沒有成功。Mark Read 在事后向公司發(fā)郵件強(qiáng)調(diào)，即便有照片、有聲音，也不一定代表就是他本人。

「對我們同事的網(wǎng)絡(luò)攻擊越來越復(fù)雜，尤其是針對高層領(lǐng)導(dǎo)的攻擊。」

除了騙子，還有其他別有用心的用途。

2021 年時(shí)，高盛計(jì)劃推進(jìn)一筆 4000 萬美元的投資，對象是創(chuàng)立于 2013 年的數(shù)字媒體公司 Ozy。

Ozy.com 首席執(zhí)行官 Carlos Watson

老實(shí)說，這家公司發(fā)展的還不錯(cuò)，有自己的網(wǎng)站、社媒賬號和視頻平臺(tái)賬號。CEO 強(qiáng)調(diào)他們在 Youtube 上表現(xiàn)很好，跟 Youtube 也有深度合作。

高盛想多了解一點(diǎn)，就提議了一場線上會(huì)議，Ozy 的 CEO 拉來了 Youtube 的一位部門負(fù)責(zé)人，可是臨到要開始時(shí)，負(fù)責(zé)人說自己登錄不了，只能打電話。

電話就電話吧。在電話里這位負(fù)責(zé)人大大表揚(yáng)了 Ozy 賬號的表現(xiàn)，播放量非常好。只是聽著聽著，高盛的人覺得傳過來的聲音非常奇怪，好像被數(shù)字信號處理過一樣。

會(huì)議一結(jié)束，高盛找了其他途徑，想辦法聯(lián)系到了這位 Youtube 的負(fù)責(zé)人，對方表示根本不知道有什么會(huì)議。兩方聯(lián)手的調(diào)查后，Ozy 的 CEO 只能承認(rèn)，這是讓另一位公司聯(lián)創(chuàng)使用語音軟件合成的。

「富貴險(xiǎn)中求」，難度越大收益越大，總有騙子愿意劍走偏鋒。更況且現(xiàn)在有了工具，簡直如有神助。如果當(dāng)時(shí) Deepfake 已經(jīng)面世，高盛這筆 4000 萬的投資，搞不好就真的投出去了。

而 Ozy 這家公司，不久后因?yàn)椴徽?dāng)執(zhí)業(yè)，以關(guān)門收場。

金融時(shí)報(bào)訪問了英國的從事信息安全的專家，他們認(rèn)為人工智能的用處，首先是用來抓取有關(guān)公司和高管的信息和數(shù)據(jù)，分析當(dāng)中的風(fēng)格特征。然后在生成過程中，再現(xiàn)這些特征，制作出最接近本人的內(nèi)容。

同時(shí)，AI 還可以用來了解受害者，通過分析他們在社交媒體上所關(guān)注的內(nèi)容，判斷哪些話題容易得手，量身定做出「專屬詐騙」。

最后再通過模仿出公司內(nèi)部郵件地址，打造出一個(gè)接近完美的陷阱，任誰都很難抵抗。德勤公司統(tǒng)計(jì)，由 Deepfake 和人工智能制作的騙局，一年內(nèi)就在美國造成了 120 億美元的損失，到 2027 年可能會(huì)達(dá)到 400 億元。

「現(xiàn)在詐騙的個(gè)性化和定制化程度，簡直到了讓真正的營銷人員羨慕的地步�！筕isa 信用卡的反欺詐團(tuán)隊(duì)負(fù)責(zé)人對金融時(shí)報(bào)說。

反詐只有一條路：嚴(yán)防死守

不幸的是，一旦落入陷阱，大部分騙局很難被妥善解決。

普通人面對詐騙時(shí)，很少有像王星這樣，有一個(gè)反應(yīng)迅速的女朋友，并且最大化利用他的演員身份，在最短的時(shí)間內(nèi)引起大量的關(guān)注，讓國家出面交涉。絕大多數(shù)的電詐只能依靠個(gè)人的警惕性。

對于「CEO 騙局」來說，涉案金額之大，更加是沒有哪方愿意負(fù)責(zé)。

現(xiàn)在的電信詐騙，許多是由社交媒體網(wǎng)站開始、途徑各種會(huì)議軟件、語音通話軟件，最后通過銀行的在線轉(zhuǎn)賬方式，完成整個(gè)騙局。如果涉及到公司資金轉(zhuǎn)移，也會(huì)有內(nèi)部批審流程。

運(yùn)營這些網(wǎng)站的科技公司應(yīng)該負(fù)責(zé)嗎？動(dòng)輒千萬級的用戶，科技公司根本管不了具體的賬號。