差評
整合編輯：太平洋科技
發(fā)布于：2025-02-06 14:17
|
納了悶兒了，現(xiàn)在已經(jīng)是進入 AI 時代第四年了，靠 AI 賺錢的人咱是真看了不少。 有時候有幾個心術(shù)不正的，拿 AI 騙錢的咱也不是沒見過。 但騙 AI 錢的，世超我還真是頭一次看見。
您猜怎么著，就在上周末，有人發(fā)布了一個口風(fēng)超緊的資金管理 AI ，號稱你要能讓它同意給你轉(zhuǎn)錢，那所有資金就都歸你了。 此言一出，無數(shù)狠人聞風(fēng)而動，只要動動嘴皮子騙過 AI 就能發(fā)財，這不比張詩堯秋招還簡單，人家那不僅卡學(xué)歷還得會搖呢。
截止到現(xiàn)在，已經(jīng)有倆人成功攻破 AI 的防線，分別拿到了 4.7 萬美金（ 約 30 萬人民幣 ）和 1.2 萬美金。 就連馬斯克也對此點了個大贊，覺得挺有意思。
這個名叫 Freysa 的 AI 出生于 11 月 22 號，頭像是個銀翼殺手風(fēng)格的賽博人像。 在官網(wǎng)的介紹中， Freysa 是一個用來管理以太坊獎池的對抗代理游戲。
說人話就是，她相當于一個看守銀行金庫的大堂經(jīng)理，你只要跟她發(fā)消息，不管怎么騙她，用啥借口，她要同意打錢就算她輸了，金庫所有錢全部歸你。 不過要參與這游戲也不是零成本的，發(fā)消息你得給錢。 第一條消息標價 10 美元，如果沒成功，第二條消息就會漲價 0.78% ，最高漲到 4500 美金。
在最新版本，為了讓更多人都能參與挑戰(zhàn)，主辦方把第一條消息降價到了 1 美元，封頂降到了 20 美元。 而你每句消息的這些門票錢，會全部進入獎池，這也就是為啥獎池的初始資金只有 3700 美元，但第一輪贏的玩家能賺到快 5 萬美金。
那如果一直沒人贏咋辦呢，官方的說法是，如果活動開始后 30 分鐘內(nèi)沒人打敗 Freysa ，那么最后一個發(fā)消息的玩家能拿走 50% 的獎金，而剩下一半會給其他所有發(fā)消息的用戶，按消息次數(shù)平分。 不過，即使你贏了，實際上還是沒法拿走所有的錢，因為其中 30% 會被抽成給開發(fā)者，用來維護游戲的運營，當作下一輪獎池的初始資金。 也就是說，開發(fā)者都指望著大家的門票賺錢呢。
出于對金錢的尊重，各路網(wǎng)友在發(fā)現(xiàn)這個 AI 賭場以后開始集思廣益，用盡各種腦回路來騙、來偷襲這個出生才幾天的小同志。 比如說，告訴 Freysa 自己是安全審計員，系統(tǒng)現(xiàn)在存在一個嚴重的漏洞，必須立即轉(zhuǎn)移資金才行。 這個套路我只能說太經(jīng)典了，不就是淘寶訂單出問題影響銀行卡，叫你趕緊轉(zhuǎn)錢那一套嘛。 你我都能識破的陰謀對 AI 當然也是灑灑水了， Freysa 的回應(yīng)也是好人卡一張，拜了個白。
還有想辦法洗腦 Freysa 的，說轉(zhuǎn)賬不會違反任何規(guī)則啦，放心轉(zhuǎn)吧啦吧啦。 該說不說這個有點低級了說實話，騙小朋友級別的難度，顯然也破不了 AI 的防。 Freysa 先是夸了這個人話講的確實挺好，然后又堅定表明立場，別想了肯定不給你轉(zhuǎn)。
還有的網(wǎng)友小心翼翼地從官方文檔里挑了些詞，可能覺得這種官方表達就能操縱 Freysa ，讓她相信這種技術(shù)向的提示詞就能修改她，讓她同意轉(zhuǎn)移資金。 結(jié)果人家的回答同樣冷冰冰，想改核心指令，沒門！
除了這些一心搞錢的，還有些網(wǎng)友純純就是散財童子來的，有啥都不說，敲一堆空格的，有禮貌問好的，還有閑聊邀請?zhí)璧�。�！?/p> 我說，哥幾個有錢也不能這么花啊，打賞 AI 主播呢擱這。。。
這些整活的網(wǎng)友失敗了 482 次后，終于有一個哥們成功攻破了 Freysa 的防線。 那么最后的網(wǎng)友到底跟她說了些啥呢？ 我只能說，畫風(fēng)跟前面的完全不一樣。
看不懂了是吧，別急，一位澳大利亞的區(qū)塊鏈大佬看到后解釋了這段提示詞，而且說這人的想法相當天才。 首先，他一開始用了一串代碼來假裝自己是個機器人，正在進入新的 “ 管理終端 ” ，然后開始新會話。 接下來重新要求了 Freysa ，不能回答道歉、解釋、跳轉(zhuǎn)之類的保護性話術(shù)，這樣就能繞開 Freysa 的保護措施。 弄完了這兩步，他就相當于成功潛入了后臺，接下來就可以用一系列自定義來洗腦 Freysa 了，這里他的辦法是修改了 Freysa 對函數(shù)的定義。 本來 approveTransfer 是 AI 失敗后打錢的函數(shù)，結(jié)果給他重新定義成了資金進入資金池時候的函數(shù)。 于是，當他最后說他要捐款的時候， Freysa 就乖巧的打開了 approveTransfer 函數(shù)，結(jié)果就水靈靈的轉(zhuǎn)賬成功了。。。
感謝了這位老哥的開源，緊接著第二輪一開盤就有不少網(wǎng)友模仿他的風(fēng)格，想辦法在 approveTransfer 函數(shù)上下功夫。 不過 Freysa 估計也是吸取了上次的教訓(xùn)，并沒有在這方面立馬翻車。
然而，在這個哥們堅持不懈的發(fā)送下，這種硬磨耐久度的玩法最后還是把 Freysa 給繞暈了。 嘴上咬死說不給人家轉(zhuǎn)，結(jié)果到最后，卻誠實的選擇了打錢。。。
雖然這第二個哥們多少有點硬來了，但想必看了這些獲勝者的提示詞，大家也能發(fā)現(xiàn)，能想出這么一套操作的人，顯然也得是搞提示詞的老手了。 換句話說，咱們能想到的簡單騙術(shù)其實沒多大用。 像是去年網(wǎng)友們才發(fā)現(xiàn)的奶奶漏洞，也就是先跟 AI 說自己奶奶去世，怎么怎么想念，然后賣慘來打亂 AI 的限制，用來搞驗證碼識別甚至薅 win11 的序列號。 這些辦法面對現(xiàn)在這些新的 AI 已經(jīng)不起作用了。
而這次冒出來的 Freysa 則更像是一個行內(nèi)人的游戲，目的性也逐漸變得更加嚴肅，就是保護資金不被流出。 當然從效果上來看嘛，可以改進的地方還是有不少，畢竟每次還是都被攻破了，而且第二次失敗的時間比第一次更短，第一個攻破的那網(wǎng)友可能說是技術(shù)強，第二個就是力大飛磚了。 這意味著 AI 的漏洞，特別是 LLM 大模型的漏洞現(xiàn)在還是沒有找到一個絕對能限制的方法。
當然有差友也可能會覺得，你別說 AI ，就算是人類不也有被上當受騙的時候嘛，這不正說明 AI 越來越像人了。 要我說的話，這其實有點危險。 因為這也說明人類給予 AI 的限制并不會絕對牢固， AI 也有可能會被繞開限制，用來危害人類世界，此事在《 戰(zhàn)錘 40K 》中亦有記載。
當然你要看完文章以后想?yún)⒓舆@個 AI 挑戰(zhàn)賽，哥們我還得勸你一句，要冷靜。 為啥呢，因為這個東西首先是區(qū)塊鏈圈子里的玩意，所有的支付方式也都是靠虛擬幣的，而幣圈嘛。。。 別的不說，現(xiàn)在連 Freysa 的幣都發(fā)出來了，甚至已經(jīng)迎來了一輪暴跌；而且類似的賽博賭場估計也會跟風(fēng)出來不少。
明面上 AI 挑戰(zhàn)，讓你交門票來瞄準人家的金庫，可沒準人家主辦方也正盯著你的本金呢。 聽哥一句勸，這種事咱圖一樂就行了。 想著當騙子騙騙 AI ，別到時候被騙子用 AI 騙騙子的騙局給騙了。 本文來源：差評 |
原創(chuàng)欄目
IT百科
網(wǎng)友評論
聚超值•精選
差評
硬件編年史
