太平洋科技要聞

有圖無真相，終究逃不出泛濫的AI垃圾

郭佳哿編輯：林炯佳發(fā)布于：2025-01-15 18:48 PConline原創(chuàng)

當(dāng)代年輕人怎么“擁抱”AI？

打開外賣軟件，被商家用AI生成的店鋪封面圖吸引，點(diǎn)進(jìn)去看到菜單，乍一看以為打開了AI圖庫；

打開購物軟件，看到AI生成的商品圖的一句“wow”，到點(diǎn)開評論實(shí)物圖變成“woc”；

連公司門口放著的AI海報(bào)，都不用質(zhì)疑那條蛇怎么龍不龍蛇不蛇，到底是哪個(gè)部門做的，AI就能解釋一切的版權(quán)問題。

甚至，資訊平臺(tái)看的是AI新聞，小紅書刷的是AI美女圖片，公眾號(hào)下面的AI評論……不用怕跟不上時(shí)代，我們不需要擁抱AI，AI就會(huì)主動(dòng)擁抱我們。

近期，美國加州山火持續(xù)肆虐，火勢已摧毀多個(gè)社區(qū)。作為美國歷史上代價(jià)最高的氣候?yàn)?zāi)難之一，網(wǎng)上流傳的現(xiàn)場圖片簡直就像災(zāi)難現(xiàn)場，感覺整個(gè)洛杉磯天空都被野火燒成紅色。

于是，好萊塢山的標(biāo)志牌被山火燒毀的消息開始充斥互聯(lián)網(wǎng)，一陣哀嚎。

乍一眼看，你能看出真假嗎？

X平臺(tái)上不少賬號(hào)通過發(fā)布這些不同角度的“好萊塢被燒”的圖片和視頻，聲稱“這可能是好萊塢末日的開始”甚至“美國陷入危機(jī)”，引起了中外網(wǎng)友的熱議。

但事實(shí)是，這些騙過了不少人的眼睛和大腦的圖片和視頻都是AI生成的。

據(jù)法新社報(bào)道，截至1月10日，該通訊社駐洛杉磯的記者能夠確認(rèn)，坐落于山地的“HOLLYWOOD”標(biāo)志仍完好無損。

此外，由美國國家航空航天局開發(fā)的全球火情監(jiān)測系統(tǒng)FIRMS地圖上也未顯示在好萊塢標(biāo)志牌附近有火情發(fā)生。

睜大眼睛，只要認(rèn)真看視頻，就會(huì)發(fā)現(xiàn)，除了英文拼寫錯(cuò)誤，樹木搖擺的方向與山火和濃煙的運(yùn)動(dòng)方向其實(shí)并不一致，但在社交媒體上拿著手指10秒能劃過2.3個(gè)視頻的網(wǎng)友，并不會(huì)費(fèi)腦子去思考：“誒，這個(gè)視頻不會(huì)是假的吧？”嗎？

同樣是最近，在重大新聞上利用AI生圖造假的新聞并不止這一件，抖音處理了超2萬條利用AI技術(shù)制造的不實(shí)信息。

事件起因是近期在西藏發(fā)生地震災(zāi)害后，全網(wǎng)出現(xiàn)多起不當(dāng)利用 AI 技術(shù)生成災(zāi)害場景的情況，給救災(zāi)工作帶來了干擾。

圖源：新京報(bào)

看到過這張圖片嗎？一個(gè)戴帽子的小孩被重壓在倒塌的建筑物下，抖音多個(gè)賬號(hào)用這張照片配文西藏日喀則地震，引起不少網(wǎng)友的“共鳴”。

圖源：新京報(bào)

或許對已熟知AI套路的年輕人來說，這張照片從構(gòu)圖色彩，甚至五官上還能看出AI痕跡，但對更多數(shù)的網(wǎng)友來說，他們在評論區(qū)難受落淚，并不會(huì)下意識(shí)去注意圖片疑點(diǎn)并加以質(zhì)疑。

AI生成這些圖片的風(fēng)險(xiǎn)有多大？

用AI制造苦難，去刺激網(wǎng)友神經(jīng)和情緒，極易讓他們對災(zāi)情的嚴(yán)重程度產(chǎn)生過度的恐慌和焦慮，引發(fā)社會(huì)層面的不安和混亂；而狼來了的故事講多了，過度消耗網(wǎng)友的同情心和愛心，也會(huì)讓網(wǎng)友對后續(xù)真實(shí)的災(zāi)情信息產(chǎn)生懷疑和抵觸情緒。

而如今，AI生成的互聯(lián)網(wǎng)垃圾已然開始侵入我們的日常生活，并模糊網(wǎng)友的判斷。

從大模型爆發(fā)至今，AI發(fā)展了2年后，還有什么東西是AI不能生成的呢。

近日，阿里推出商用級圖生視頻AI應(yīng)用，目前已對淘寶天貓商家開放使用。而早前，淘寶商家就已經(jīng)可以通過拍個(gè)商品的平面圖，讓AI模特一鍵上身。更別說，有些商品圖片都是AI生成的。

怎么說呢，用AI產(chǎn)品圖，套到AI美女身上，然后用AI使其變成視頻。

一條龍服務(wù)，淘寶賺錢了、商家省錢了，只有消費(fèi)者，在一堆AI圖片中，迷失在買家秀和賣家秀中開始容貌焦慮。

圖源：小紅書

就連餐飲行業(yè)，也已經(jīng)有AI應(yīng)用能一鍵生圖，只需要導(dǎo)入文字菜單，就能幫你自動(dòng)生成圖片，還能自動(dòng)生成菜品描述。但這是消費(fèi)者想看到的“菜單”嗎？

不僅日常消費(fèi)，AI早在去年也已經(jīng)讓學(xué)術(shù)論文出現(xiàn)毛病。

據(jù)硅星人報(bào)道，去年初，西安交大一篇論文因?yàn)槭褂肁I生成的配圖而被撤稿，相關(guān)圖片中，大鼠長出了詭異的器官，細(xì)胞信號(hào)傳導(dǎo)圖像電路板。而在另一篇論文的一張配圖中，小腿和手臂的骨骼數(shù)量出現(xiàn)了明顯的錯(cuò)誤。

就連近期，我想著臨近過年，便在搜索引擎搜索“蛇年海報(bào)”想著看點(diǎn)素材，一看，AI占比過半。

“有圖有真相”時(shí)代已然不再，讓公眾在面對每一則信息、每一張圖片、每一條視頻前，都要先去判斷是否是AI，實(shí)在是互聯(lián)網(wǎng)的不該。

更重要的是，這些AI內(nèi)容其實(shí)都是人類“創(chuàng)造”出來的，生成式AI的輸出需要大量數(shù)據(jù)的訓(xùn)練，而這些數(shù)據(jù)就來自我們?nèi)祟愔皠?chuàng)造出來的每一個(gè)字符。

隨著互聯(lián)網(wǎng)開始充斥大量AI垃圾，圖片庫被污染，視頻庫被污染，這些AI生成的內(nèi)容重新流入互聯(lián)網(wǎng)，垃圾進(jìn)垃圾出，最終又會(huì)成為訓(xùn)練未來AI模型的一部分?jǐn)?shù)據(jù)。

就像現(xiàn)在的蟑螂藥，它不會(huì)立刻毒死蟑螂，而是在體內(nèi)積累，待蟑螂回到巢穴時(shí)發(fā)作，再一窩端。

當(dāng)AI成為污染源，互聯(lián)網(wǎng)將如何面對信息質(zhì)量的危機(jī)？

早在去年，抖音、視頻號(hào)就已經(jīng)開始限制數(shù)字人直播，包括幾個(gè)月前抖音也開始針對那些利用AI騙取老年人互動(dòng)的視頻進(jìn)行整治。但AI治理不能永遠(yuǎn)等到問題發(fā)生后才進(jìn)行補(bǔ)救，關(guān)于AI內(nèi)容的審核、治理和監(jiān)管，平臺(tái)要承擔(dān)起主體責(zé)任，采取主動(dòng)和預(yù)防性的管制體系。

AI時(shí)代的到來已成定勢。AI治理或?qū)⒊蔀榛ヂ?lián)網(wǎng)下一個(gè)五年的共同命題。

AI垃圾 AI生成信息質(zhì)量

郭佳哿

原創(chuàng)欄目