首頁(yè) > 科技要聞 > 科技> 正文

看著這個(gè)AI奶奶把騙子耍得團(tuán)團(tuán)轉(zhuǎn),可把我高興壞了

appso 整合編輯:太平洋科技 發(fā)布于:2025-03-09 00:15

你好,騙子,我是你的噩夢(mèng)。

眼前這位慈眉善目的奶奶叫 Daisy。它沒(méi)有真人的軀體,卻是一個(gè)反詐 AI 高手。

與傳統(tǒng)的反詐宣傳不同,Daisy 不會(huì)苦口婆心地提醒你謹(jǐn)防上當(dāng)受騙,而是從源頭抓起,與騙子打交道。

天上不會(huì)掉餡餅,但騙子會(huì)給你扔一個(gè)誘餌。

打造 Daisy 的初衷在于,要用騙子的執(zhí)著消耗騙子的時(shí)間,減少后者「扔誘餌」的機(jī)會(huì),從而更好地保護(hù)其他潛在的受害者。

應(yīng)了那句話,真正的反詐勝利不是打敗騙子,而是讓詐騙變得不劃算。

與其教會(huì)一個(gè)人防騙,不如浪費(fèi)一個(gè)騙子的時(shí)間

Daisy 的幕后開(kāi)發(fā)者源自一家英國(guó)的電信公司 O2。

與 Vodafone、EE 和 Three 并列,O2 是英國(guó)四大老牌電信運(yùn)營(yíng)商之一。O2 的內(nèi)部研究顯示,67% 的英國(guó)人擔(dān)心成為詐騙受害者,四分之一的人每周都會(huì)遭遇不同程度的詐騙。

面對(duì)詐騙分子的興風(fēng)作浪,O2 也很頭疼。

于是他們想出了一個(gè)妙招,那就是打造出一個(gè) AI 奶奶——Daisy,并讓其主動(dòng)出擊,與騙子進(jìn)行最高可達(dá) 40 分鐘的通話。

方法有些舍己為人,但卻又很實(shí)用,畢竟折騰完騙子,這樣騙子就沒(méi)有時(shí)間去詐騙別人了。

Daisy 的角色設(shè)定是一位慈祥的老奶奶,映照到現(xiàn)實(shí)生活,老年人也恰恰是詐騙分子最常針對(duì)的下手群體。

在官方發(fā)布的演示 demo 中,Daisy 會(huì)跟電話那頭的騙子嘮嘮家常,繪聲繪色地分享她的愛(ài)好——編織毛衣,聊聊家里可愛(ài)的貓等等。

無(wú)它,通話時(shí)間拖得越久越好。

當(dāng)涉及銀行卡賬號(hào)/密碼等要緊信息時(shí),這位 AI 奶奶還會(huì)憑空杜撰,主打一個(gè)句句有回應(yīng),事事沒(méi)著落,睜著眼睛說(shuō)瞎話。

O2 欺詐部門(mén)主管 Murray Mackenzie 殺人誅心地指出,Daisy 的作用在于,她徹底扭轉(zhuǎn)了與騙子的博弈態(tài)勢(shì)。

「我們通過(guò)讓他們一直在線上,巧妙地在他們的『游戲』中擊敗并超越了他們!

在 Daisy 之前,其實(shí)也有不少類似的工具誕生。

據(jù)外媒 The Guardian 報(bào)道,澳洲麥考瑞大學(xué)團(tuán)隊(duì)也曾研發(fā)了一個(gè)專門(mén)和電信詐騙騙子「聊天」的 AI 機(jī)器人 Apate。

當(dāng)澳洲警方辨析并攔截了電信詐騙電話,他們就會(huì)轉(zhuǎn)接給這位「受害者機(jī)器人」。

創(chuàng)作者 Kafaar 也曾經(jīng)透露過(guò) Apate 的誕生故事。他和兩個(gè)孩子在外面野餐時(shí),給詐騙來(lái)電者講了一個(gè)笑話。

之后,他因此受到啟發(fā),開(kāi)始思考如何用無(wú)意義的閑聊來(lái)消耗騙子的時(shí)間,從而阻止他們?nèi)テ垓_更多的人。

我當(dāng)時(shí)想,這樣做的目的是欺騙騙子,浪費(fèi)他們的時(shí)間,這樣他們就不能和其他人通話了。

Apate 還擁有幾百個(gè)不同的身份,有的假裝懵懵懂懂,有的就跟老人家一樣講話愛(ài)重復(fù),主要就是為了不被騙子認(rèn)出身份。

簡(jiǎn)言之,與其教會(huì)一個(gè)人防騙,不如浪費(fèi)一個(gè)騙子的時(shí)間。

技術(shù)在升級(jí),人類的判斷力永遠(yuǎn)是最后的防線

AI 的飛速發(fā)展為 Daisy 的誕生提供了一個(gè)絕佳的契機(jī)。

Daisy 基于定制訓(xùn)練的大型語(yǔ)言模型(LLM)構(gòu)建,其工作原理與 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。

簡(jiǎn)單來(lái)說(shuō),AI 會(huì)轉(zhuǎn)錄來(lái)電者的聲音,接著這位 AI 奶奶會(huì)根據(jù)預(yù)設(shè)的角色性格來(lái)調(diào)整回答的風(fēng)格和內(nèi)容,最后再次轉(zhuǎn)換成 AI 奶奶的聲線:

1.轉(zhuǎn)錄語(yǔ)音為文本:將捕捉到的聲音轉(zhuǎn)換成文本的過(guò)程稱為「轉(zhuǎn)錄」。這樣,Daisy 可以理解來(lái)電者所說(shuō)的內(nèi)容,并準(zhǔn)備相應(yīng)的回應(yīng)。

2.生成回應(yīng):Daisy 使用一個(gè)定制的大型語(yǔ)言模型(LLM)來(lái)生成回應(yīng)。這個(gè)模型不僅能夠理解文本信息,還能夠根據(jù)上下文和預(yù)設(shè)的角色性格層(character personality layer)生成合適的回答。

3.角色性格層:「角色性格層」是指 Daisy 在生成回應(yīng)時(shí),會(huì)根據(jù)預(yù)設(shè)的角色性格來(lái)調(diào)整回答的風(fēng)格和內(nèi)容,使其更符合角色設(shè)定,比如像一個(gè)奶奶那樣親切和耐心。

4.文本轉(zhuǎn)語(yǔ)音:生成的文本回應(yīng)需要再次轉(zhuǎn)換成語(yǔ)音,以便 Daisy 可以通過(guò)電話與來(lái)電者進(jìn)行交流。這個(gè)過(guò)程也就是「文本轉(zhuǎn)語(yǔ)音」(TTS),Daisy 使用一個(gè)定制的 AI 模型來(lái)完成這一步。

并且,在訓(xùn)練的過(guò)程中,Daisy 還得到了一位 YouTube 博主 Jim Browning 的幫助。

該博主在 YouTube 上擁有 400 萬(wàn)+ 粉絲,是該平臺(tái)最具影響力的反詐騙者之一。他的視頻不只是展示詐騙手法,還會(huì)通過(guò)詳細(xì)的技術(shù)分析和實(shí)例,來(lái)揭示整個(gè)詐騙產(chǎn)業(yè)的運(yùn)作方式。

畢竟,最了解你的人永遠(yuǎn)是你的敵人,騙子也不例外。

而在 Daisy 與騙子對(duì)話的整個(gè)流程,由于從聽(tīng)取聲音、轉(zhuǎn)錄文本、生成回應(yīng)到文本轉(zhuǎn)語(yǔ)音都是實(shí)時(shí)進(jìn)行,所以幾乎沒(méi)有明顯的延遲。

不過(guò),Daisy 并不直接提供給 O2 的用戶使用。

原因很簡(jiǎn)單,O2 擔(dān)心用戶利用它對(duì)詐騙者進(jìn)行報(bào)復(fù)行動(dòng)。其內(nèi)部研究表明,71% 的英國(guó)人有過(guò)想要報(bào)復(fù)那些詐騙他們或他們親人的騙子的念頭。

此外,據(jù)外媒 techspot 報(bào)道稱,這個(gè) AI 工具已經(jīng)被列入詐騙者常用的易騙號(hào)碼列表。Daisy 能夠在 24 小時(shí)不間斷地與來(lái)電者互動(dòng),且無(wú)需人工干預(yù)。

但問(wèn)題是,現(xiàn)在的騙子分兩種,一種是不懂 AI 的,一種是懂 AI 的。

前不久,初創(chuàng)公司 Bland AI 在 X 平臺(tái)宣稱,在大模型的加持下,其產(chǎn)品將成為全球最快的對(duì)話式 AI,且可以在沒(méi)有「幻覺(jué)」的情況進(jìn)行溝通。

另外,Bland AI 機(jī)器人還擁有極其自然的生成式語(yǔ)音、以及多種語(yǔ)言切換。

除了擅長(zhǎng)模仿人類真實(shí)對(duì)話的語(yǔ)調(diào)、停頓,在外媒 WIRED 的技術(shù)測(cè)試中,Bland AI 機(jī)器人甚至可以否認(rèn)自己是 AI,并謊報(bào)其真實(shí)身份。

包括 APPSO 此前只用了 10 秒的時(shí)間就能 0 成本進(jìn)行聲音克隆。

在 AI 技術(shù)的增益之下,這些工具都能輕而易舉地被不法分子反過(guò)來(lái)欺騙我們。

吊詭的是,電話一頭連著 AI 騙子,電話一頭連著 AI Daisy,一個(gè)捧哏,一個(gè)逗哏,雙方無(wú)限循環(huán)。懂行的人都知道,這里面的道行有多深。

而更早些時(shí)候,智能電話系統(tǒng)已經(jīng)相當(dāng)完善。

只需向服務(wù)商提出需求,后者就能快速搭建管理平臺(tái)。用戶通過(guò)簡(jiǎn)單的界面操作,就能設(shè)置話術(shù)、模板、通訊線路等參數(shù),導(dǎo)入聯(lián)系人信息后即可啟動(dòng)自動(dòng)外呼功能。

為此,國(guó)內(nèi)手機(jī)廠商也在這方面做出了不少努力。比如,國(guó)內(nèi)大多數(shù)手機(jī)系統(tǒng)提供智能識(shí)別和攔截偽基站的功能。

并且,你還可以在來(lái)電攔截設(shè)置中,開(kāi)啟「在線識(shí)別陌生號(hào)碼」功能,讓系統(tǒng)更準(zhǔn)確地識(shí)別并攔截騷擾電話。

詐騙本質(zhì)上是一場(chǎng)篩選游戲,騙子不在乎失敗 999 次,他們只需要成功 1 次。

被騙了,一切歸零。

誠(chéng)然,詐騙手法千變?nèi)f化,但下面這條來(lái)自官方的反詐公式永不過(guò)時(shí)。

「人物(陌生人)+溝通(各種通信工具,反正就是見(jiàn)不到面的)+要求(轉(zhuǎn)賬匯款,反正就是談錢(qián)的)=詐騙。」

在 AI 時(shí)代,騙子和反詐技術(shù)都在升級(jí),而人類的判斷力永遠(yuǎn)是最后的防線。

本文來(lái)源:Appso

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
  • 漢美馳李梟雄:擁抱AI浪潮,智能家居需求暴增勢(shì)不可擋
    漢美馳李梟雄:擁抱AI浪潮,智能家居需求暴增勢(shì)不可擋

    作為美國(guó)百年家電品牌,HamiltonBeach漢美馳在美國(guó)市場(chǎng)處于行業(yè)領(lǐng)導(dǎo)地位,在本屆AWE展會(huì)上,漢美馳與太平洋網(wǎng)絡(luò)合作,展出了他們的三個(gè)主打品類:破壁機(jī)、慢燉鍋和空氣炸鍋,其中,破壁機(jī)屬于攪拌類小家電,漢美馳是這個(gè)品類的開(kāi)創(chuàng)者;慢燉鍋是美國(guó)家庭的必需品,就像我們中國(guó)家庭的電飯煲一樣,漢美馳慢燉鍋累計(jì)在美國(guó)的銷量超過(guò)3000萬(wàn)臺(tái),是這個(gè)品類的領(lǐng)導(dǎo)品牌;漢美馳的這款HALO空氣炸鍋剛剛獲得了全球頂級(jí)設(shè)計(jì)大獎(jiǎng)——iF設(shè)計(jì)獎(jiǎng)。 今年,漢美馳在國(guó)內(nèi)市場(chǎng)的動(dòng)作很多,包括:推出了家電行業(yè)第一款應(yīng)用chatGPT的AI牛排機(jī),全球首發(fā)煙灶產(chǎn)品,全球首發(fā)中式廚電產(chǎn)品,自建抖音、淘寶直播間,與頭部主播烈兒寶貝等合作……這些經(jīng)營(yíng)動(dòng)作的背后,漢美馳有怎樣的戰(zhàn)略規(guī)劃?他們對(duì)中國(guó)市場(chǎng)有些什么樣的判斷?他們的優(yōu)勢(shì)有哪些?請(qǐng)看PConline獨(dú)家專訪漢美馳中國(guó)營(yíng)銷中心總經(jīng)理李梟雄先生。

    呼倫 呼倫 2023-05-05 00:03
  • 極氪“流血”上市,最急的是埃安、哪吒?jìng)?

    在經(jīng)歷了2018-2020年“蔚小理”的上市潮后,隨著國(guó)內(nèi)新能源汽車市場(chǎng)競(jìng)爭(zhēng)日益激烈,以及全球EV需求放緩,IPO的大門(mén)正在向造車新勢(shì)力們緩緩關(guān)閉。極氪的成功上市既是對(duì)新勢(shì)力的一次激勵(lì),也是一次警示——后來(lái)者必須面對(duì)越來(lái)越嚴(yán)苛的上市條件。留給哪吒汽車、廣汽埃安們的機(jī)會(huì)可能不多了。

    劉凡 劉凡 2024-05-11 11:26
    極氪   吉利   哪吒   埃安
  • 二維碼 回到頂部