首頁(yè) > 科技要聞 > 科技> 正文

看著這個(gè)AI奶奶把騙子耍得團(tuán)團(tuán)轉(zhuǎn)，可把我高興壞了

appso 整合編輯：太平洋科技 發(fā)布于：2025-03-09 00:15

你好，騙子，我是你的噩夢(mèng)。

眼前這位慈眉善目的奶奶叫 Daisy。它沒(méi)有真人的軀體，卻是一個(gè)反詐 AI 高手。

與傳統(tǒng)的反詐宣傳不同，Daisy 不會(huì)苦口婆心地提醒你謹(jǐn)防上當(dāng)受騙，而是從源頭抓起，與騙子打交道。

天上不會(huì)掉餡餅，但騙子會(huì)給你扔一個(gè)誘餌。

打造 Daisy 的初衷在于，要用騙子的執(zhí)著消耗騙子的時(shí)間，減少后者「扔誘餌」的機(jī)會(huì)，從而更好地保護(hù)其他潛在的受害者。

應(yīng)了那句話，真正的反詐勝利不是打敗騙子，而是讓詐騙變得不劃算。

與其教會(huì)一個(gè)人防騙，不如浪費(fèi)一個(gè)騙子的時(shí)間

Daisy 的幕后開(kāi)發(fā)者源自一家英國(guó)的電信公司 O2。

與 Vodafone、EE 和 Three 并列，O2 是英國(guó)四大老牌電信運(yùn)營(yíng)商之一。O2 的內(nèi)部研究顯示，67% 的英國(guó)人擔(dān)心成為詐騙受害者，四分之一的人每周都會(huì)遭遇不同程度的詐騙。

面對(duì)詐騙分子的興風(fēng)作浪，O2 也很頭疼。

于是他們想出了一個(gè)妙招，那就是打造出一個(gè) AI 奶奶——Daisy，并讓其主動(dòng)出擊，與騙子進(jìn)行最高可達(dá) 40 分鐘的通話。

方法有些舍己為人，但卻又很實(shí)用，畢竟折騰完騙子，這樣騙子就沒(méi)有時(shí)間去詐騙別人了。

Daisy 的角色設(shè)定是一位慈祥的老奶奶，映照到現(xiàn)實(shí)生活，老年人也恰恰是詐騙分子最常針對(duì)的下手群體。

在官方發(fā)布的演示 demo 中，Daisy 會(huì)跟電話那頭的騙子嘮嘮家常，繪聲繪色地分享她的愛(ài)好——編織毛衣，聊聊家里可愛(ài)的貓等等。

無(wú)它，通話時(shí)間拖得越久越好。

當(dāng)涉及銀行卡賬號(hào)/密碼等要緊信息時(shí)，這位 AI 奶奶還會(huì)憑空杜撰，主打一個(gè)句句有回應(yīng)，事事沒(méi)著落，睜著眼睛說(shuō)瞎話。

O2 欺詐部門(mén)主管 Murray Mackenzie 殺人誅心地指出，Daisy 的作用在于，她徹底扭轉(zhuǎn)了與騙子的博弈態(tài)勢(shì)。

「我們通過(guò)讓他們一直在線上，巧妙地在他們的『游戲』中擊敗并超越了他們�！�

在 Daisy 之前，其實(shí)也有不少類似的工具誕生。

據(jù)外媒 The Guardian 報(bào)道，澳洲麥考瑞大學(xué)團(tuán)隊(duì)也曾研發(fā)了一個(gè)專門(mén)和電信詐騙騙子「聊天」的 AI 機(jī)器人 Apate。

當(dāng)澳洲警方辨析并攔截了電信詐騙電話，他們就會(huì)轉(zhuǎn)接給這位「受害者機(jī)器人」。

創(chuàng)作者 Kafaar 也曾經(jīng)透露過(guò) Apate 的誕生故事。他和兩個(gè)孩子在外面野餐時(shí)，給詐騙來(lái)電者講了一個(gè)笑話。

之后，他因此受到啟發(fā)，開(kāi)始思考如何用無(wú)意義的閑聊來(lái)消耗騙子的時(shí)間，從而阻止他們?nèi)テ垓_更多的人。

我當(dāng)時(shí)想，這樣做的目的是欺騙騙子，浪費(fèi)他們的時(shí)間，這樣他們就不能和其他人通話了。

Apate 還擁有幾百個(gè)不同的身份，有的假裝懵懵懂懂，有的就跟老人家一樣講話愛(ài)重復(fù)，主要就是為了不被騙子認(rèn)出身份。

簡(jiǎn)言之，與其教會(huì)一個(gè)人防騙，不如浪費(fèi)一個(gè)騙子的時(shí)間。

技術(shù)在升級(jí)，人類的判斷力永遠(yuǎn)是最后的防線

AI 的飛速發(fā)展為 Daisy 的誕生提供了一個(gè)絕佳的契機(jī)。

Daisy 基于定制訓(xùn)練的大型語(yǔ)言模型（LLM）構(gòu)建，其工作原理與 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。

簡(jiǎn)單來(lái)說(shuō)，AI 會(huì)轉(zhuǎn)錄來(lái)電者的聲音，接著這位 AI 奶奶會(huì)根據(jù)預(yù)設(shè)的角色性格來(lái)調(diào)整回答的風(fēng)格和內(nèi)容，最后再次轉(zhuǎn)換成 AI 奶奶的聲線：

1.轉(zhuǎn)錄語(yǔ)音為文本：將捕捉到的聲音轉(zhuǎn)換成文本的過(guò)程稱為「轉(zhuǎn)錄」。這樣，Daisy 可以理解來(lái)電者所說(shuō)的內(nèi)容，并準(zhǔn)備相應(yīng)的回應(yīng)。

2.生成回應(yīng)：Daisy 使用一個(gè)定制的大型語(yǔ)言模型（LLM）來(lái)生成回應(yīng)。這個(gè)模型不僅能夠理解文本信息，還能夠根據(jù)上下文和預(yù)設(shè)的角色性格層（character personality layer）生成合適的回答。

3.角色性格層：「角色性格層」是指 Daisy 在生成回應(yīng)時(shí)，會(huì)根據(jù)預(yù)設(shè)的角色性格來(lái)調(diào)整回答的風(fēng)格和內(nèi)容，使其更符合角色設(shè)定，比如像一個(gè)奶奶那樣親切和耐心。

4.文本轉(zhuǎn)語(yǔ)音：生成的文本回應(yīng)需要再次轉(zhuǎn)換成語(yǔ)音，以便 Daisy 可以通過(guò)電話與來(lái)電者進(jìn)行交流。這個(gè)過(guò)程也就是「文本轉(zhuǎn)語(yǔ)音」（TTS），Daisy 使用一個(gè)定制的 AI 模型來(lái)完成這一步。

并且，在訓(xùn)練的過(guò)程中，Daisy 還得到了一位 YouTube 博主 Jim Browning 的幫助。

該博主在 YouTube 上擁有 400 萬(wàn)+ 粉絲，是該平臺(tái)最具影響力的反詐騙者之一。他的視頻不只是展示詐騙手法，還會(huì)通過(guò)詳細(xì)的技術(shù)分析和實(shí)例，來(lái)揭示整個(gè)詐騙產(chǎn)業(yè)的運(yùn)作方式。

畢竟，最了解你的人永遠(yuǎn)是你的敵人，騙子也不例外。

而在 Daisy 與騙子對(duì)話的整個(gè)流程，由于從聽(tīng)取聲音、轉(zhuǎn)錄文本、生成回應(yīng)到文本轉(zhuǎn)語(yǔ)音都是實(shí)時(shí)進(jìn)行，所以幾乎沒(méi)有明顯的延遲。

不過(guò)，Daisy 并不直接提供給 O2 的用戶使用。

原因很簡(jiǎn)單，O2 擔(dān)心用戶利用它對(duì)詐騙者進(jìn)行報(bào)復(fù)行動(dòng)。其內(nèi)部研究表明，71% 的英國(guó)人有過(guò)想要報(bào)復(fù)那些詐騙他們或他們親人的騙子的念頭。

此外，據(jù)外媒 techspot 報(bào)道稱，這個(gè) AI 工具已經(jīng)被列入詐騙者常用的易騙號(hào)碼列表。Daisy 能夠在 24 小時(shí)不間斷地與來(lái)電者互動(dòng)，且無(wú)需人工干預(yù)。

但問(wèn)題是，現(xiàn)在的騙子分兩種，一種是不懂 AI 的，一種是懂 AI 的。

前不久，初創(chuàng)公司 Bland AI 在 X 平臺(tái)宣稱，在大模型的加持下，其產(chǎn)品將成為全球最快的對(duì)話式 AI，且可以在沒(méi)有「幻覺(jué)」的情況進(jìn)行溝通。

另外，Bland AI 機(jī)器人還擁有極其自然的生成式語(yǔ)音、以及多種語(yǔ)言切換。

除了擅長(zhǎng)模仿人類真實(shí)對(duì)話的語(yǔ)調(diào)、停頓，在外媒 WIRED 的技術(shù)測(cè)試中，Bland AI 機(jī)器人甚至可以否認(rèn)自己是 AI，并謊報(bào)其真實(shí)身份。

包括 APPSO 此前只用了 10 秒的時(shí)間就能 0 成本進(jìn)行聲音克隆。

在 AI 技術(shù)的增益之下，這些工具都能輕而易舉地被不法分子反過(guò)來(lái)欺騙我們。

吊詭的是，電話一頭連著 AI 騙子，電話一頭連著 AI Daisy，一個(gè)捧哏，一個(gè)逗哏，雙方無(wú)限循環(huán)。懂行的人都知道，這里面的道行有多深。

而更早些時(shí)候，智能電話系統(tǒng)已經(jīng)相當(dāng)完善。

只需向服務(wù)商提出需求，后者就能快速搭建管理平臺(tái)。用戶通過(guò)簡(jiǎn)單的界面操作，就能設(shè)置話術(shù)、模板、通訊線路等參數(shù)，導(dǎo)入聯(lián)系人信息后即可啟動(dòng)自動(dòng)外呼功能。

為此，國(guó)內(nèi)手機(jī)廠商也在這方面做出了不少努力。比如，國(guó)內(nèi)大多數(shù)手機(jī)系統(tǒng)提供智能識(shí)別和攔截偽基站的功能。

并且，你還可以在來(lái)電攔截設(shè)置中，開(kāi)啟「在線識(shí)別陌生號(hào)碼」功能，讓系統(tǒng)更準(zhǔn)確地識(shí)別并攔截騷擾電話。

詐騙本質(zhì)上是一場(chǎng)篩選游戲，騙子不在乎失敗 999 次，他們只需要成功 1 次。

被騙了，一切歸零。

誠(chéng)然，詐騙手法千變?nèi)f化，但下面這條來(lái)自官方的反詐公式永不過(guò)時(shí)。

「人物（陌生人）+溝通（各種通信工具，反正就是見(jiàn)不到面的）+要求（轉(zhuǎn)賬匯款，反正就是談錢(qián)的）=詐騙。」

在 AI 時(shí)代，騙子和反詐技術(shù)都在升級(jí)，而人類的判斷力永遠(yuǎn)是最后的防線。

本文來(lái)源：Appso

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
  • 漢美馳李梟雄：擁抱AI浪潮，智能家居需求暴增勢(shì)不可擋
    漢美馳李梟雄：擁抱AI浪潮，智能家居需求暴增勢(shì)不可擋

    作為美國(guó)百年家電品牌，HamiltonBeach漢美馳在美國(guó)市場(chǎng)處于行業(yè)領(lǐng)導(dǎo)地位，在本屆AWE展會(huì)上，漢美馳與太平洋網(wǎng)絡(luò)合作，展出了他們的三個(gè)主打品類：破壁機(jī)、慢燉鍋和空氣炸鍋，其中，破壁機(jī)屬于攪拌類小家電，漢美馳是這個(gè)品類的開(kāi)創(chuàng)者；慢燉鍋是美國(guó)家庭的必需品，就像我們中國(guó)家庭的電飯煲一樣，漢美馳慢燉鍋累計(jì)在美國(guó)的銷量超過(guò)3000萬(wàn)臺(tái)，是這個(gè)品類的領(lǐng)導(dǎo)品牌；漢美馳的這款HALO空氣炸鍋剛剛獲得了全球頂級(jí)設(shè)計(jì)大獎(jiǎng)——iF設(shè)計(jì)獎(jiǎng)。 今年，漢美馳在國(guó)內(nèi)市場(chǎng)的動(dòng)作很多，包括：推出了家電行業(yè)第一款應(yīng)用chatGPT的AI牛排機(jī)，全球首發(fā)煙灶產(chǎn)品，全球首發(fā)中式廚電產(chǎn)品，自建抖音、淘寶直播間，與頭部主播烈兒寶貝等合作……這些經(jīng)營(yíng)動(dòng)作的背后，漢美馳有怎樣的戰(zhàn)略規(guī)劃？他們對(duì)中國(guó)市場(chǎng)有些什么樣的判斷？他們的優(yōu)勢(shì)有哪些？請(qǐng)看PConline獨(dú)家專訪漢美馳中國(guó)營(yíng)銷中心總經(jīng)理李梟雄先生。

    呼倫 呼倫 2023-05-05 00:03
  • 極氪“流血”上市，最急的是埃安、哪吒?jìng)?

    在經(jīng)歷了2018-2020年“蔚小理”的上市潮后，隨著國(guó)內(nèi)新能源汽車市場(chǎng)競(jìng)爭(zhēng)日益激烈，以及全球EV需求放緩，IPO的大門(mén)正在向造車新勢(shì)力們緩緩關(guān)閉。極氪的成功上市既是對(duì)新勢(shì)力的一次激勵(lì)，也是一次警示——后來(lái)者必須面對(duì)越來(lái)越嚴(yán)苛的上市條件。留給哪吒汽車、廣汽埃安們的機(jī)會(huì)可能不多了。

    劉凡 劉凡 2024-05-11 11:26
    極氪   吉利   哪吒   埃安
    • 二維碼 回到頂部