首頁(yè) > 科技要聞 > 生活> 正文

他們?cè)谟?AI 尋找下一個(gè)王星，警惕這些給你度身定制的「完美騙局」

appso 整合編輯：太平洋科技 發(fā)布于：2025-01-19 21:25

歷時(shí)一周，被騙到緬甸電詐區(qū)的演員王星，終于安全回國(guó)。為他操心了一路，并且通過(guò)網(wǎng)絡(luò)求助解救他的嘉嘉、也就是王星的女朋友，也可以放下心來(lái)。

1 月 5 日，微博上出現(xiàn)一條引人注目的求助帖：王星的女朋友嘉嘉發(fā)帖稱(chēng)，王星赴泰國(guó)進(jìn)組拍戲，于北京時(shí)間 1 月 3 日中午 12 時(shí)在泰緬邊境失聯(lián)，并貼出了詳細(xì)的經(jīng)過(guò)。

這不是簡(jiǎn)單的失聯(lián)。王星碰到的是人口販賣(mài)，被騙到了緬甸北部的電詐區(qū)，是一場(chǎng)針對(duì)演員群體精心編織的詐騙。

這起案件帶來(lái)極大的震動(dòng)：王星是年輕人，受過(guò)良好的教育，是典型的專(zhuān)業(yè)人士。他出發(fā)前向同行詢(xún)問(wèn)過(guò)，一路也算有警惕意識(shí)，進(jìn)入泰國(guó)之后，一路都跟女朋友保持聯(lián)絡(luò)、發(fā)定位，這為后來(lái)的救援提供了巨大的幫助。

但他還是陷入了極其危險(xiǎn)的境地，反映出來(lái)如今詐騙打的都是「高端局」：自以為不會(huì)被騙，其實(shí)只是沒(méi)有碰到為你量身打造的騙局。

「眼見(jiàn)為實(shí)」的騙局

應(yīng)該有不少人知道，去年年初時(shí)，香港爆出過(guò)一起 Deepfake 詐騙案，涉案金額高達(dá) 1.95 億港元。

Arup 是英國(guó)知名的工程建筑公司，參與過(guò)悉尼歌劇院合北京鳥(niǎo)巢的建設(shè)。去年一月時(shí)，Arup 在香港分公司的一名財(cái)務(wù)人員收到郵件，隨后參與了一場(chǎng)線(xiàn)上會(huì)議。同時(shí)參會(huì)的，不僅有 Arup 的公司首席財(cái)務(wù)官，還有多位其他高管。

這場(chǎng)會(huì)議開(kāi)了攝像頭，每個(gè)人都露了臉。看到這么多位高管出現(xiàn)在屏幕上，這位財(cái)務(wù)沒(méi)有多疑，遵照指示，先后 15 次轉(zhuǎn)賬給了 5 個(gè)銀行賬戶(hù)，合計(jì) 1.95 億港元。

這是一種典型的「CEO騙局」。騙子用各種合成式工具，偽裝出公司高管的聲音乃至面容，向員工下達(dá)指令轉(zhuǎn)賬。

「CEO 騙局」是專(zhuān)門(mén)圍繞公司高管的展開(kāi)的詐騙類(lèi)型。相比于普通員工，公司的高管權(quán)限更大。無(wú)論是對(duì)資金的調(diào)配，還是某些文件的簽署，都有超出基層員工的權(quán)限。

不過(guò)，他們作為職場(chǎng)人和社會(huì)人的經(jīng)驗(yàn)，帶來(lái)的警惕意識(shí)也很高。這跟一般詐騙所面對(duì)的老年人、務(wù)工人員很不一樣。

于是就有了兩種路線(xiàn)：一是大量收集高管的信息，用數(shù)字人生成工具或者語(yǔ)音合成工具，制造出高管本人的「分身」。在 AI 工具如此高級(jí)的今天，合成影像可以做得難辨真假，很難讓人有所懷疑。

當(dāng)親眼看到自己的老板出現(xiàn)在屏幕上，又或者聽(tīng)見(jiàn)對(duì)方的聲音從語(yǔ)音里傳來(lái)，作為打工人一時(shí)半會(huì)很難會(huì)產(chǎn)生質(zhì)疑。

還有另一種「CEO 騙局」更刺激，不是偽裝成高管騙員工，而是直接就想騙高管。

全球五大廣告集團(tuán)之一的 WPP，市值 113 億美元，旗下有奧美、群邑等老牌廣告公關(guān)公司。在全球 110 個(gè)國(guó)家有分公司或辦事處，總部位于英國(guó)。

去年五月，一個(gè)自稱(chēng)是 WPP 首席執(zhí)行官 Mark Read 的賬號(hào)，向多個(gè)員工發(fā)起了線(xiàn)上會(huì)議。除了 CEO，還有另一位 WPP 高管，在會(huì)議上他們要求一位 WPP 旗下代理機(jī)構(gòu)的領(lǐng)導(dǎo)人員，開(kāi)設(shè)一家新公司。

WPP 首席執(zhí)行官 Mark Read

很顯然，會(huì)議上的聲音都是用 AI 工具合成的，所幸騙局沒(méi)有成功。Mark Read 在事后向公司發(fā)郵件強(qiáng)調(diào)，即便有照片、有聲音，也不一定代表就是他本人。

「對(duì)我們同事的網(wǎng)絡(luò)攻擊越來(lái)越復(fù)雜，尤其是針對(duì)高層領(lǐng)導(dǎo)的攻擊。」

除了騙子，還有其他別有用心的用途。

2021 年時(shí)，高盛計(jì)劃推進(jìn)一筆 4000 萬(wàn)美元的投資，對(duì)象是創(chuàng)立于 2013 年的數(shù)字媒體公司 Ozy。

Ozy.com 首席執(zhí)行官 Carlos Watson

老實(shí)說(shuō)，這家公司發(fā)展的還不錯(cuò)，有自己的網(wǎng)站、社媒賬號(hào)和視頻平臺(tái)賬號(hào)。CEO 強(qiáng)調(diào)他們?cè)?Youtube 上表現(xiàn)很好，跟 Youtube 也有深度合作。

高盛想多了解一點(diǎn)，就提議了一場(chǎng)線(xiàn)上會(huì)議，Ozy 的 CEO 拉來(lái)了 Youtube 的一位部門(mén)負(fù)責(zé)人，可是臨到要開(kāi)始時(shí)，負(fù)責(zé)人說(shuō)自己登錄不了，只能打電話(huà)。

電話(huà)就電話(huà)吧。在電話(huà)里這位負(fù)責(zé)人大大表?yè)P(yáng)了 Ozy 賬號(hào)的表現(xiàn)，播放量非常好。只是聽(tīng)著聽(tīng)著，高盛的人覺(jué)得傳過(guò)來(lái)的聲音非常奇怪，好像被數(shù)字信號(hào)處理過(guò)一樣。

會(huì)議一結(jié)束，高盛找了其他途徑，想辦法聯(lián)系到了這位 Youtube 的負(fù)責(zé)人，對(duì)方表示根本不知道有什么會(huì)議。兩方聯(lián)手的調(diào)查后，Ozy 的 CEO 只能承認(rèn)，這是讓另一位公司聯(lián)創(chuàng)使用語(yǔ)音軟件合成的。

「富貴險(xiǎn)中求」，難度越大收益越大，總有騙子愿意劍走偏鋒。更況且現(xiàn)在有了工具，簡(jiǎn)直如有神助。如果當(dāng)時(shí) Deepfake 已經(jīng)面世，高盛這筆 4000 萬(wàn)的投資，搞不好就真的投出去了。

而 Ozy 這家公司，不久后因?yàn)椴徽?dāng)執(zhí)業(yè)，以關(guān)門(mén)收?qǐng)觥?/p>

金融時(shí)報(bào)訪問(wèn)了英國(guó)的從事信息安全的專(zhuān)家，他們認(rèn)為人工智能的用處，首先是用來(lái)抓取有關(guān)公司和高管的信息和數(shù)據(jù)，分析當(dāng)中的風(fēng)格特征。然后在生成過(guò)程中，再現(xiàn)這些特征，制作出最接近本人的內(nèi)容。

同時(shí)，AI 還可以用來(lái)了解受害者，通過(guò)分析他們?cè)谏缃幻襟w上所關(guān)注的內(nèi)容，判斷哪些話(huà)題容易得手，量身定做出「專(zhuān)屬詐騙」。

最后再通過(guò)模仿出公司內(nèi)部郵件地址，打造出一個(gè)接近完美的陷阱，任誰(shuí)都很難抵抗。德勤公司統(tǒng)計(jì)，由 Deepfake 和人工智能制作的騙局，一年內(nèi)就在美國(guó)造成了 120 億美元的損失，到 2027 年可能會(huì)達(dá)到 400 億元。

「現(xiàn)在詐騙的個(gè)性化和定制化程度，簡(jiǎn)直到了讓真正的營(yíng)銷(xiāo)人員羨慕的地步�！筕isa 信用卡的反欺詐團(tuán)隊(duì)負(fù)責(zé)人對(duì)金融時(shí)報(bào)說(shuō)。

反詐只有一條路：嚴(yán)防死守

不幸的是，一旦落入陷阱，大部分騙局很難被妥善解決。

普通人面對(duì)詐騙時(shí)，很少有像王星這樣，有一個(gè)反應(yīng)迅速的女朋友，并且最大化利用他的演員身份，在最短的時(shí)間內(nèi)引起大量的關(guān)注，讓國(guó)家出面交涉。絕大多數(shù)的電詐只能依靠個(gè)人的警惕性。

對(duì)于「CEO 騙局」來(lái)說(shuō)，涉案金額之大，更加是沒(méi)有哪方愿意負(fù)責(zé)。

現(xiàn)在的電信詐騙，許多是由社交媒體網(wǎng)站開(kāi)始、途徑各種會(huì)議軟件、語(yǔ)音通話(huà)軟件，最后通過(guò)銀行的在線(xiàn)轉(zhuǎn)賬方式，完成整個(gè)騙局。如果涉及到公司資金轉(zhuǎn)移，也會(huì)有內(nèi)部批審流程。

運(yùn)營(yíng)這些網(wǎng)站的科技公司應(yīng)該負(fù)責(zé)嗎？動(dòng)輒千萬(wàn)級(jí)的用戶(hù)，科技公司根本管不了具體的賬號(hào)。

怪銀行的流程還是不夠嚴(yán)密嗎？銀行大喊冤枉，對(duì)于已經(jīng)進(jìn)入個(gè)人賬戶(hù)的錢(qián)，他們也管不了太多。況且電詐案件的金額越來(lái)越大，如果由銀行來(lái)兜底的話(huà)，肯定要倒閉。

至于生成式工具的開(kāi)發(fā)公司，更加是要高舉那句經(jīng)典的「宣言」：工具沒(méi)有善惡之分，是只是被人用來(lái)作惡而已。

工具本身可能是中性的，但其設(shè)計(jì)、存在和使用方式都會(huì)對(duì)生活造成影響。這也是為什么在今天，電詐的管控非常棘手。

一旦發(fā)生后果會(huì)非常嚴(yán)重，而且發(fā)生之后再介入難度非常大。錢(qián)財(cái)?shù)膿p失還是小事，碰到王星這樣的人口販賣(mài)局，命都得搭進(jìn)去。

一切都要仰仗防范，直接在源頭上消滅。當(dāng)然，防范的難度也越來(lái)越高了，即便是在職場(chǎng)雷厲風(fēng)行、見(jiàn)多識(shí)廣的企業(yè)高管，也會(huì)成為被詐騙圍獵的對(duì)象。

誰(shuí)都不要過(guò)于自信，篤定自己不會(huì)受騙，很可能，你只是還沒(méi)遇到那個(gè)度身定制的「完美騙局」。

本文來(lái)源：Appso

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
    • 二維碼 回到頂部