首頁(yè) > 科技要聞 > 科技> 正文

盤點(diǎn)年度AI假新聞：山寨的AI頂流們，騙了爸媽一整年

AI新榜 整合編輯：趙凱松 發(fā)布于：2025-01-23 15:13

“你可以在網(wǎng)上看到很多話，一句是我說的，還有千萬句都是我說的�！薄斞�

或許還有一些，是AI說的。

過去，很多假新聞可能是通過傳統(tǒng)剪輯工具進(jìn)行后期修改的，而現(xiàn)在，生成式AI正在成為虛假信息傳播的主力軍。大量虛假照片、視頻、GIF圖充斥著互聯(lián)網(wǎng)。

最近，有一名法國(guó)女子被AI生成的“布拉德·皮特”照片騙走了83萬歐元（折合人民幣約626萬）。騙子稱他需要錢做腎臟手術(shù)，因離婚個(gè)人賬戶還被鎖定了，該女子信以為真，誤以為自己一直和大明星保持聯(lián)系。

再比如，前陣子，西藏地震后災(zāi)區(qū)照片又一次將AI造假的話題推上了熱搜，AI生成的視頻被“張冠李戴”，變成此次震后的視頻圖。

盡管AI技術(shù)無處不在，網(wǎng)友們也越來越擅長(zhǎng)辨別AI生成的內(nèi)容，但事實(shí)上，真正成功欺騙大眾的圖像，往往是那些經(jīng)過“精心偽造”的圖像。

我們整理了2024年傳播度較高的十大AI假新聞事件，并分析了其中的作假手段，希望能夠幫助大家有效分辨AI生成的虛假內(nèi)容。

“三界假頂流”：

AI雷軍、AI胖東來、AI張文宏

誰(shuí)能想到，科技圈、醫(yī)療界、食品區(qū)的“頂流”們都被造假過。

2024年10月，雷軍的AI語(yǔ)音片段刷屏互聯(lián)網(wǎng)�！袄总姟庇檬煜さ目谝艟珳�(zhǔn)吐槽：“這游戲做成這樣，絕對(duì)是來?yè)v亂的�！�

因?yàn)檎Z(yǔ)氣和雷軍本人十分相似，不少網(wǎng)友都以為是雷軍親自下場(chǎng)銳評(píng)。無獨(dú)有偶，互聯(lián)網(wǎng)上還出現(xiàn)了用AI合成于東來的聲音，聲音特征也與真人無異。

2024年12月，張文宏醫(yī)生“被AI帶貨”了。只見視頻中的“張醫(yī)生”正襟危坐，反復(fù)介紹一種產(chǎn)品，聲音聽起來也很像本人。

這樣以假亂真的AI合成技術(shù)讓不少名人明星深受其擾，深度偽造也成為了AI造假的現(xiàn)象級(jí)案件。

大多數(shù)AI換臉、換聲案件都可以從面部入手來辨別。比如，觀察人物面部表情是否自然，有沒有光影出現(xiàn)。檢查嘴部周圍的紋路是否模糊，嘴唇周圍細(xì)節(jié)減少很可能是AI的痕跡。另外，只會(huì)重復(fù)說一句話，沒有連貫的語(yǔ)句就要當(dāng)心是AI換聲的原因。

成熟的3A造假團(tuán)隊(duì)

從靜態(tài)圖片到動(dòng)態(tài)視頻，從虛假文本到栩栩如生的模擬聲音，甚至2024年還出現(xiàn)了成熟的3A（AI寫稿、AI錄音、AI視頻）造假團(tuán)隊(duì)。

2024年6月2日，浙江警方因一則關(guān)于上虞工業(yè)園區(qū)的不實(shí)火災(zāi)消息，破獲了一起利用AI制作虛假視頻散布網(wǎng)絡(luò)謠言的非法謀利的案件，據(jù)稱該團(tuán)伙僅有3人，卻在一個(gè)月內(nèi)使用AI生成并發(fā)布了3000個(gè)以上的虛假視頻，散布謠言博取流量。

2024年1月，江西警方也曾因一條“西安爆炸”異常流量假新聞抓獲了一個(gè)利用AI技術(shù)造謠團(tuán)伙，該團(tuán)伙每日量產(chǎn)4000-7000條AI文章，真假難辨。

針對(duì)AI文本生成內(nèi)容，現(xiàn)在也有專門的檢測(cè)工具，比如騰訊上線了文本檢測(cè)工具，將檢測(cè)文本與大模型預(yù)測(cè)內(nèi)容進(jìn)行重疊度對(duì)比，來推斷文章的AI生成概率，幫助用戶分辨。

三只羊的“財(cái)色”錄音門

2024年，知名網(wǎng)絡(luò)主播“瘋狂小楊哥”及其創(chuàng)立的三只羊公司因多起事件引發(fā)公眾關(guān)注，特別是涉及AI技術(shù)的偽造錄音事件，也是2024年度AI領(lǐng)域的重要案例之一。

事件起因于一段網(wǎng)絡(luò)熱傳的錄音，內(nèi)容涉及三只羊公司董事長(zhǎng)盧文慶的不當(dāng)言論。錄音曝光后，盧文慶及公司形象受到嚴(yán)重質(zhì)疑。

警方調(diào)查發(fā)現(xiàn)，這段錄音系由25歲的王某某利用AI語(yǔ)音合成技術(shù)偽造。王某某通過AI工具克隆了盧文慶的聲音，僅憑約30秒的錄音片段，即生成了以假亂真的虛假錄音。

批量生成的俄羅斯美女，

拿捏中國(guó)網(wǎng)友

Olga Loiek是一名烏克蘭網(wǎng)紅，2024年3月，她被“換臉”“換聲”后出現(xiàn)在中文互聯(lián)網(wǎng)上。

在中國(guó)，Olga叫“娜塔莎”，從烏克蘭人搖身一變成為了俄羅斯人。她熱愛中國(guó)的美食和文化，想嫁個(gè)中國(guó)男人，還擁有超20萬粉絲。

更離譜的是，抖音上還有一大群“俄羅斯美女”，用著“Olga Loiek”的臉和聲音，自稱在中國(guó)生活多年，希望嫁給中國(guó)男人，然后開始帶貨��。

這些批量生成的俄羅斯假AI美女們，因高顏值拿捏了不少中國(guó)網(wǎng)友。甚至有網(wǎng)友在評(píng)論區(qū)感慨，“好不容易心動(dòng)了，你卻告訴我她是AI”。

馬斯克在互聯(lián)網(wǎng)既是人生導(dǎo)師，

還是投資專家

2024年最容易被造假的名人當(dāng)屬“馬斯克”。

互聯(lián)網(wǎng)上層出不窮的馬斯克語(yǔ)錄、馬斯克名言，馬斯克自己都不知道能在中文互聯(lián)網(wǎng)上輸出這些大道理。

但凡碰到這樣的雞湯圖片，都需要我們留個(gè)心眼

此前，還有網(wǎng)友利用Deep Live Cam制作了一個(gè)口型與聲音都高度吻合本人的AI馬斯克，并發(fā)視頻表示手上有高回報(bào)的投資機(jī)會(huì)。

乍一聽“馬斯克講投資”很合理，這一虛假視頻還騙到了一位美國(guó)老人67萬美元的退休金。

但值得一提的是，這個(gè)視頻中，馬斯克的眼睛和眨眼節(jié)奏有問題。下次我們遇到視頻的時(shí)候，可以先盯著人物的眼睛和面部紋理進(jìn)行判斷。另外，要警惕別隨便給陌生人轉(zhuǎn)賬。

永不會(huì)相融的海水

井水不犯河水，太平洋和北海（大西洋東部海灣）竟然有明顯分界線？

不知道大家有沒有刷到過這樣一條視頻 ，內(nèi)容顯示了太平洋和北海有明顯的分界線，并暗示兩者之間不會(huì)交融。這條AI生成的視頻在TikTok上播放量超2000萬。有網(wǎng)友在評(píng)論區(qū)煞有介事地表示，兩者海水密度不同，所以不相融。

細(xì)心的人如果求證一下就會(huì)發(fā)現(xiàn)，北海附近是大西洋，太平洋離它十萬八千里，怎么會(huì)交匯？��

分辨AI假新聞的最樸素的方式，往往就是從我們已知的、確定的常識(shí)入手，進(jìn)行區(qū)分。

颶風(fēng)襲擊迪士尼

2024年10月，佛羅里達(dá)州奧蘭多的迪士尼世界因颶風(fēng)風(fēng)暴登陸前出現(xiàn)的龍卷風(fēng)而關(guān)閉。與此同時(shí)，有關(guān)于迪士尼被海水淹了的新聞也在X上瘋傳。

我們?cè)趺磁袛噙@些圖片是假的？首先，這個(gè)城堡根本不對(duì)。和真實(shí)的城堡進(jìn)行一下比較，就會(huì)發(fā)現(xiàn)城堡兩側(cè)的建筑完全不符。

但其實(shí)根本不需要知道真正的灰姑娘城堡是什么樣子的，就可以判斷它是假的。我們只要放大城堡附近的塔樓，就可以看到它們的角度非常奇怪，并且城堡外表面沒有磚塊，是光滑的。

除此之外，還有一張照片顯示迪士尼人物布魯托正抱著一個(gè)孩子走出園區(qū)。但這張圖上，小孩的面部表情不清晰，會(huì)更容易區(qū)分出是AI生成的圖片。

實(shí)際上，這種“張冠李戴”已經(jīng)成為AI假新聞的常用做法。當(dāng)一個(gè)事件發(fā)生時(shí)，用AI生成的內(nèi)容充當(dāng)現(xiàn)場(chǎng)照片。比如，颶風(fēng)過后，這張小女孩在救生艇上抱著小狗哭泣的圖片，也是這一路數(shù)。

美國(guó)擁有好萊塢山？

2024年，網(wǎng)友“Mimi Ehis Ojo”在Facebook上發(fā)布了一張好萊塢山的圖片，郁郁蔥蔥的綠色山脈連接著洛杉磯的天際線。

雖然住在南加州的美國(guó)人立刻就能看出這是假的，但從未去過美國(guó)、不了解美國(guó)的網(wǎng)友還是被騙了，紛紛以為這是真的。

如果畫面看起來太干凈，或者風(fēng)格化嚴(yán)重，比如，好萊塢山的圖片很像從電影中截出的畫面，這都有可能是AI造假的。

特朗普親自下場(chǎng)，讓真假撲朔迷離

2024年美國(guó)大選前，特朗普在社交媒體上分享了一系列圖片，其中包括一張明顯由AI生成的斯威夫特圖片，上面寫著“泰勒希望你投票給唐納德·特朗普”。

如果這張圖片單獨(dú)出現(xiàn)，不少網(wǎng)友就能分辨出是AI生成的，但特朗普親自轉(zhuǎn)發(fā)了這些AI圖，便讓真假撲朔迷離。

泰勒·斯威夫特隨后在Instagram上宣布，她將在2024年11月的美國(guó)總統(tǒng)選舉中投票給副總統(tǒng)卡馬拉·哈里斯（Kamala Harris）。她強(qiáng)調(diào)，對(duì)抗虛假信息的最簡(jiǎn)單方法是公開真實(shí)的立場(chǎng)，并呼吁粉絲注冊(cè)投票。

AI給湯姆·克魯斯拍了紀(jì)錄片

湯姆·克魯斯翻拍了2013年的《奧林匹斯陷落》？

2024年巴黎奧運(yùn)會(huì)期間，有一部新電影《奧林匹斯陷落》宣稱自己重新邀請(qǐng)了阿湯哥重磅出演，并記錄了巴黎奧運(yùn)會(huì)期間奧組委的腐敗事跡。

這部電影共分為四集，每集9分鐘，開頭都有Netflix標(biāo)志性的音效和紅色的N動(dòng)畫�！霸谶@個(gè)系列中，你將發(fā)現(xiàn)全球體育產(chǎn)業(yè)的內(nèi)情”，假冒的湯姆·克魯斯還在視頻開頭如此說道。

但只要稍加注意，就能發(fā)現(xiàn)種種跡象表明這部電影不可信。首先，阿湯哥的聲音雖然逼真，但表述有些生硬。比如，他會(huì)重復(fù)一些臺(tái)詞，或者他的聲音會(huì)在沒有明顯原因的情況下突然中斷。

另外，在詞匯表達(dá)上也略有不同。第一集中的旁白提到了一場(chǎng)“hockey match”（冰球比賽），在美國(guó)，球迷們通常會(huì)說“hockey game”（冰球比賽），而不是“match”。

因此，文化或語(yǔ)言常識(shí)上的不合理也可以幫助判斷是否AI造假。

可以看到，2024年傳播度較高的十大AI假新聞主要與AI虛假圖片相關(guān)。

如果不經(jīng)過人工精心修改，AI生成圖片中出現(xiàn)的錯(cuò)誤概率依舊較高，比如經(jīng)典的“六指”、部分肢體扭曲、人物神態(tài)異常等等。

我們對(duì)物理世界的常識(shí)和規(guī)律的了解，就是識(shí)別AI圖片最有力的武器。如果能從這些細(xì)節(jié)處找到一些違背常識(shí)、違背解剖學(xué)的地方，那基本可以認(rèn)定這是一張AI生圖。

小紅書上還出現(xiàn)了一批專門做AI圖片打假的賬號(hào)，幫助大家從光影、五官、眨眼等細(xì)節(jié)分辨AI圖。

隨著AI技術(shù)逐步完善，圖片造假的能力越來越出眾，有時(shí)僅靠肉眼已難以分辨。有報(bào)道稱，人們鑒別AI生成內(nèi)容（圖片、聲音、視頻）的綜合準(zhǔn)確率僅有51.2%，接近人們隨機(jī)搖骰子的水平。

一些圖片的常識(shí)性錯(cuò)誤隱藏在比較隱秘的地方，不容易直接判斷。此時(shí)，我們只能借助AI檢測(cè)工具，用魔法打敗魔法。通常來說，這些工具可以辨別出AI生成圖片中的電子水印、隱藏的圖片特征。

近年來也有許多技術(shù)從業(yè)者和學(xué)術(shù)機(jī)構(gòu)致力于研發(fā)AI鑒偽技術(shù)，通過標(biāo)記、追蹤、分析內(nèi)容生成痕跡，來識(shí)別虛假信息。

比如，長(zhǎng)期研究AI倫理與反DeepFake技術(shù)的張欣怡帶領(lǐng)團(tuán)隊(duì)開發(fā)了反向追蹤算法，可以通過分析DeepFake視頻中的AI生成特征，還原偽造痕跡，并追蹤生成工具的來源。

此前，英國(guó)O2公司推出了AI聊天機(jī)器人“AI奶奶”Daisy，它能夠能實(shí)時(shí)偵聽和響應(yīng)欺詐電話，聲音模仿真實(shí)老人，通過與詐騙者長(zhǎng)時(shí)間交談，浪費(fèi)騙子時(shí)間，阻止其詐騙行為。

在測(cè)試中，Daisy成功纏住眾多詐騙者，通話可長(zhǎng)達(dá)40分鐘，網(wǎng)友們紛紛點(diǎn)贊，我們之前也進(jìn)行了詳細(xì)的報(bào)道：《詐騙克星“AI奶奶”來襲，騙子破大防，用AI反詐實(shí)在太爽了》。

此外，各大社交平臺(tái)也在逐步建立內(nèi)容審核機(jī)制，利用AI打假AI，相關(guān)行為規(guī)范標(biāo)準(zhǔn)也已在路上。

需要注意的是，現(xiàn)在還沒有一種100%能夠識(shí)別人工智能生成內(nèi)容與真實(shí)內(nèi)容之間區(qū)別的方法。因此，最佳的建議是時(shí)時(shí)刻刻保持懷疑心態(tài)。

我們無法完全杜絕假新聞，但我們可以用理性和科學(xué)的方法來識(shí)別它，用智慧和規(guī)則去規(guī)范它。AI可能是催化劑，但人類才是決定未來方向的掌舵者。

文章來源：AI新榜

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來
    • 二維碼 回到頂部