你好,騙子,我是你的噩夢(mèng)。 眼前這位慈眉善目的奶奶叫 Daisy。它沒(méi)有真人的軀體,卻是一個(gè)反詐 AI 高手。 與傳統(tǒng)的反詐宣傳不同,Daisy 不會(huì)苦口婆心地提醒你謹(jǐn)防上當(dāng)受騙,而是從源頭抓起,與騙子打交道。 ![]() 天上不會(huì)掉餡餅,但騙子會(huì)給你扔一個(gè)誘餌。 打造 Daisy 的初衷在于,要用騙子的執(zhí)著消耗騙子的時(shí)間,減少后者「扔誘餌」的機(jī)會(huì),從而更好地保護(hù)其他潛在的受害者。 應(yīng)了那句話,真正的反詐勝利不是打敗騙子,而是讓詐騙變得不劃算。 與其教會(huì)一個(gè)人防騙,不如浪費(fèi)一個(gè)騙子的時(shí)間 Daisy 的幕后開(kāi)發(fā)者源自一家英國(guó)的電信公司 O2。 與 Vodafone、EE 和 Three 并列,O2 是英國(guó)四大老牌電信運(yùn)營(yíng)商之一。O2 的內(nèi)部研究顯示,67% 的英國(guó)人擔(dān)心成為詐騙受害者,四分之一的人每周都會(huì)遭遇不同程度的詐騙。 面對(duì)詐騙分子的興風(fēng)作浪,O2 也很頭疼。 于是他們想出了一個(gè)妙招,那就是打造出一個(gè) AI 奶奶——Daisy,并讓其主動(dòng)出擊,與騙子進(jìn)行最高可達(dá) 40 分鐘的通話。 方法有些舍己為人,但卻又很實(shí)用,畢竟折騰完騙子,這樣騙子就沒(méi)有時(shí)間去詐騙別人了。 Daisy 的角色設(shè)定是一位慈祥的老奶奶,映照到現(xiàn)實(shí)生活,老年人也恰恰是詐騙分子最常針對(duì)的下手群體。 在官方發(fā)布的演示 demo 中,Daisy 會(huì)跟電話那頭的騙子嘮嘮家常,繪聲繪色地分享她的愛(ài)好——編織毛衣,聊聊家里可愛(ài)的貓等等。 無(wú)它,通話時(shí)間拖得越久越好。 當(dāng)涉及銀行卡賬號(hào)/密碼等要緊信息時(shí),這位 AI 奶奶還會(huì)憑空杜撰,主打一個(gè)句句有回應(yīng),事事沒(méi)著落,睜著眼睛說(shuō)瞎話。 O2 欺詐部門(mén)主管 Murray Mackenzie 殺人誅心地指出,Daisy 的作用在于,她徹底扭轉(zhuǎn)了與騙子的博弈態(tài)勢(shì)。 「我們通過(guò)讓他們一直在線上,巧妙地在他們的『游戲』中擊敗并超越了他們! 在 Daisy 之前,其實(shí)也有不少類似的工具誕生。 據(jù)外媒 The Guardian 報(bào)道,澳洲麥考瑞大學(xué)團(tuán)隊(duì)也曾研發(fā)了一個(gè)專門(mén)和電信詐騙騙子「聊天」的 AI 機(jī)器人 Apate。 當(dāng)澳洲警方辨析并攔截了電信詐騙電話,他們就會(huì)轉(zhuǎn)接給這位「受害者機(jī)器人」。 創(chuàng)作者 Kafaar 也曾經(jīng)透露過(guò) Apate 的誕生故事。他和兩個(gè)孩子在外面野餐時(shí),給詐騙來(lái)電者講了一個(gè)笑話。 之后,他因此受到啟發(fā),開(kāi)始思考如何用無(wú)意義的閑聊來(lái)消耗騙子的時(shí)間,從而阻止他們?nèi)テ垓_更多的人。 我當(dāng)時(shí)想,這樣做的目的是欺騙騙子,浪費(fèi)他們的時(shí)間,這樣他們就不能和其他人通話了。 Apate 還擁有幾百個(gè)不同的身份,有的假裝懵懵懂懂,有的就跟老人家一樣講話愛(ài)重復(fù),主要就是為了不被騙子認(rèn)出身份。 簡(jiǎn)言之,與其教會(huì)一個(gè)人防騙,不如浪費(fèi)一個(gè)騙子的時(shí)間。 技術(shù)在升級(jí),人類的判斷力永遠(yuǎn)是最后的防線 AI 的飛速發(fā)展為 Daisy 的誕生提供了一個(gè)絕佳的契機(jī)。 Daisy 基于定制訓(xùn)練的大型語(yǔ)言模型(LLM)構(gòu)建,其工作原理與 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。 簡(jiǎn)單來(lái)說(shuō),AI 會(huì)轉(zhuǎn)錄來(lái)電者的聲音,接著這位 AI 奶奶會(huì)根據(jù)預(yù)設(shè)的角色性格來(lái)調(diào)整回答的風(fēng)格和內(nèi)容,最后再次轉(zhuǎn)換成 AI 奶奶的聲線: 1.轉(zhuǎn)錄語(yǔ)音為文本:將捕捉到的聲音轉(zhuǎn)換成文本的過(guò)程稱為「轉(zhuǎn)錄」。這樣,Daisy 可以理解來(lái)電者所說(shuō)的內(nèi)容,并準(zhǔn)備相應(yīng)的回應(yīng)。 2.生成回應(yīng):Daisy 使用一個(gè)定制的大型語(yǔ)言模型(LLM)來(lái)生成回應(yīng)。這個(gè)模型不僅能夠理解文本信息,還能夠根據(jù)上下文和預(yù)設(shè)的角色性格層(character personality layer)生成合適的回答。 3.角色性格層:「角色性格層」是指 Daisy 在生成回應(yīng)時(shí),會(huì)根據(jù)預(yù)設(shè)的角色性格來(lái)調(diào)整回答的風(fēng)格和內(nèi)容,使其更符合角色設(shè)定,比如像一個(gè)奶奶那樣親切和耐心。 4.文本轉(zhuǎn)語(yǔ)音:生成的文本回應(yīng)需要再次轉(zhuǎn)換成語(yǔ)音,以便 Daisy 可以通過(guò)電話與來(lái)電者進(jìn)行交流。這個(gè)過(guò)程也就是「文本轉(zhuǎn)語(yǔ)音」(TTS),Daisy 使用一個(gè)定制的 AI 模型來(lái)完成這一步。 并且,在訓(xùn)練的過(guò)程中,Daisy 還得到了一位 YouTube 博主 Jim Browning 的幫助。 該博主在 YouTube 上擁有 400 萬(wàn)+ 粉絲,是該平臺(tái)最具影響力的反詐騙者之一。他的視頻不只是展示詐騙手法,還會(huì)通過(guò)詳細(xì)的技術(shù)分析和實(shí)例,來(lái)揭示整個(gè)詐騙產(chǎn)業(yè)的運(yùn)作方式。 畢竟,最了解你的人永遠(yuǎn)是你的敵人,騙子也不例外。 而在 Daisy 與騙子對(duì)話的整個(gè)流程,由于從聽(tīng)取聲音、轉(zhuǎn)錄文本、生成回應(yīng)到文本轉(zhuǎn)語(yǔ)音都是實(shí)時(shí)進(jìn)行,所以幾乎沒(méi)有明顯的延遲。 不過(guò),Daisy 并不直接提供給 O2 的用戶使用。 原因很簡(jiǎn)單,O2 擔(dān)心用戶利用它對(duì)詐騙者進(jìn)行報(bào)復(fù)行動(dòng)。其內(nèi)部研究表明,71% 的英國(guó)人有過(guò)想要報(bào)復(fù)那些詐騙他們或他們親人的騙子的念頭。 此外,據(jù)外媒 techspot 報(bào)道稱,這個(gè) AI 工具已經(jīng)被列入詐騙者常用的易騙號(hào)碼列表。Daisy 能夠在 24 小時(shí)不間斷地與來(lái)電者互動(dòng),且無(wú)需人工干預(yù)。 但問(wèn)題是,現(xiàn)在的騙子分兩種,一種是不懂 AI 的,一種是懂 AI 的。 前不久,初創(chuàng)公司 Bland AI 在 X 平臺(tái)宣稱,在大模型的加持下,其產(chǎn)品將成為全球最快的對(duì)話式 AI,且可以在沒(méi)有「幻覺(jué)」的情況進(jìn)行溝通。 另外,Bland AI 機(jī)器人還擁有極其自然的生成式語(yǔ)音、以及多種語(yǔ)言切換。 除了擅長(zhǎng)模仿人類真實(shí)對(duì)話的語(yǔ)調(diào)、停頓,在外媒 WIRED 的技術(shù)測(cè)試中,Bland AI 機(jī)器人甚至可以否認(rèn)自己是 AI,并謊報(bào)其真實(shí)身份。 包括 APPSO 此前只用了 10 秒的時(shí)間就能 0 成本進(jìn)行聲音克隆。 在 AI 技術(shù)的增益之下,這些工具都能輕而易舉地被不法分子反過(guò)來(lái)欺騙我們。 吊詭的是,電話一頭連著 AI 騙子,電話一頭連著 AI Daisy,一個(gè)捧哏,一個(gè)逗哏,雙方無(wú)限循環(huán)。懂行的人都知道,這里面的道行有多深。 而更早些時(shí)候,智能電話系統(tǒng)已經(jīng)相當(dāng)完善。 只需向服務(wù)商提出需求,后者就能快速搭建管理平臺(tái)。用戶通過(guò)簡(jiǎn)單的界面操作,就能設(shè)置話術(shù)、模板、通訊線路等參數(shù),導(dǎo)入聯(lián)系人信息后即可啟動(dòng)自動(dòng)外呼功能。 為此,國(guó)內(nèi)手機(jī)廠商也在這方面做出了不少努力。比如,國(guó)內(nèi)大多數(shù)手機(jī)系統(tǒng)提供智能識(shí)別和攔截偽基站的功能。 并且,你還可以在來(lái)電攔截設(shè)置中,開(kāi)啟「在線識(shí)別陌生號(hào)碼」功能,讓系統(tǒng)更準(zhǔn)確地識(shí)別并攔截騷擾電話。 詐騙本質(zhì)上是一場(chǎng)篩選游戲,騙子不在乎失敗 999 次,他們只需要成功 1 次。 被騙了,一切歸零。 誠(chéng)然,詐騙手法千變?nèi)f化,但下面這條來(lái)自官方的反詐公式永不過(guò)時(shí)。 「人物(陌生人)+溝通(各種通信工具,反正就是見(jiàn)不到面的)+要求(轉(zhuǎn)賬匯款,反正就是談錢(qián)的)=詐騙。」 在 AI 時(shí)代,騙子和反詐技術(shù)都在升級(jí),而人類的判斷力永遠(yuǎn)是最后的防線。 本文來(lái)源:Appso |
原創(chuàng)欄目
IT百科
網(wǎng)友評(píng)論
聚超值•精選