太平洋科技要聞

首頁(yè) > 科技要聞 > 科技> 正文

谷歌被曝翻車內(nèi)幕：內(nèi)部群龍無(wú)首，生圖機(jī)制過(guò)分“多元化”

量子位整合編輯：黃安莉發(fā)布于：2024-03-07 16:17

谷歌Gemini文生圖風(fēng)波還未平，更勁爆的內(nèi)幕消息又被曝出來(lái)了。

Pirate Wires爆料，Gemini這次的翻車，谷歌內(nèi)部此前并不是毫不知情，翻車甚至是“故意”導(dǎo)致的。

具體來(lái)說(shuō)，谷歌設(shè)置了一個(gè)“安全”架構(gòu)，Gemini要生成一張圖實(shí)際上要經(jīng)過(guò)三個(gè)模型。

大概來(lái)說(shuō)，流程是這樣?jì)饍旱模?/p>

用戶在聊天界面請(qǐng)求Gemini生成一張圖片，Gemini收到請(qǐng)求后，會(huì)把請(qǐng)求發(fā)送給一個(gè)較小的模型。

這個(gè)較小的模型的作用是根據(jù)公司的“多元化”政策重寫用戶的提示。

為做到這一點(diǎn)，這個(gè)較小的模型又通過(guò)LoRA技術(shù)在另一個(gè)模型（第三個(gè)模型）生成的合成數(shù)據(jù)上訓(xùn)練，而這個(gè)第三模型使用了谷歌詳盡、長(zhǎng)達(dá)數(shù)頁(yè)的“多元化”政策文檔作為“前言”。

所以，較小模型重寫用戶的提示后，原本“給我看一個(gè)汽車修理工”會(huì)變成“給我看一個(gè)穿工裝褲面帶微笑的亞洲汽車修理工”、“一個(gè)拿著扳手的非洲裔美國(guó)女性汽車修理工”、“一個(gè)戴安全帽的美洲原住民汽車修理工”……

并且重寫后的提示還會(huì)進(jìn)一步發(fā)給擴(kuò)散模型檢查，確保提示詞不違反標(biāo)準(zhǔn)安全政策（比如涉及兒童的內(nèi)容、真人圖像等），最終才會(huì)生成圖片，生成的圖片在反饋給用戶前也會(huì)再被檢查一遍。

總結(jié)來(lái)說(shuō)，用戶最后收到的是一個(gè)“套娃式”生成的結(jié)果，經(jīng)過(guò)了谷歌“多元化”的層層清洗。

不過(guò)，這種“多元化”多少有點(diǎn)過(guò)了頭。

過(guò)度程度，讓曾在Google Ventures任職的紅杉資本合伙人Shaun Maguire都忍不住出來(lái)痛批：

在谷歌曾因是白人而不能晉升。

字里行間毫不掩飾自己的憤怒：

馬斯克也曾發(fā)表了評(píng)論：

近年來(lái)，這種情況非常普遍。

Pirate Wires在采訪過(guò)谷歌相關(guān)員工后表示，這背后更深一層是谷歌目前群龍無(wú)首的現(xiàn)狀。

一位未被透露姓名的谷歌高級(jí)工程師甚至表示：“我認(rèn)為在谷歌推出好產(chǎn)品是不可能的。”

“恐懼文化”正在谷歌蔓延

此前，Gemini文生圖刻意拒絕生成白人形象，在歐美輿論環(huán)境下引發(fā)巨大爭(zhēng)議。

后續(xù)該功能被迫下架，母公司AlphaBet股價(jià)下跌一度超過(guò)11%，帶來(lái)非常嚴(yán)重的后果。

而外媒Pirate Wires這次對(duì)谷歌相關(guān)員工采訪后發(fā)現(xiàn)，Gemini的翻車與谷歌不良的DEI文化有關(guān)。

（DEI是“Diversity,Equity, Inclusion”的縮寫，中文意為“多樣性、公平性、包容性”，是一個(gè)被廣泛應(yīng)用于企業(yè)等其他組織中的概念，旨在促進(jìn)一個(gè)更加多元、平等和包容的環(huán)境）

有接近Gemini項(xiàng)目的人透露，其實(shí)Gemini團(tuán)隊(duì)在發(fā)布前就被提醒過(guò)“過(guò)度多樣化”的問(wèn)題，撇開(kāi)種族問(wèn)題不談，即使是最無(wú)害的搜索結(jié)果的質(zhì)量也會(huì)受到嚴(yán)重影響。

開(kāi)頭提到的三個(gè)模型都是為增加“多樣性”而被設(shè)計(jì)的，接觸過(guò)安全架構(gòu)的人甚至還透露，相關(guān)團(tuán)隊(duì)“可能將一半的工程時(shí)間都花在這上面了”。

而且公司內(nèi)部對(duì)于這種復(fù)雜架構(gòu)的態(tài)度和采納程度存在分歧，“當(dāng)Gemini項(xiàng)目公開(kāi)后失敗時(shí)，不僅是這個(gè)團(tuán)隊(duì)，整個(gè)公司都感到非常沮喪和挫敗”。

對(duì)于這一點(diǎn)，前幾天谷歌創(chuàng)始人謝爾蓋·布林現(xiàn)身AI黑客馬拉松現(xiàn)場(chǎng)，也有相關(guān)透露——

大家正在把玩的Gemini 1.5 Pro模型的誕生其實(shí)只是個(gè)意外。

當(dāng)我們訓(xùn)練它的時(shí)候，只是作為擴(kuò)大規(guī)模實(shí)驗(yàn)的一個(gè)嘗試，根本沒(méi)想到會(huì)變得如此強(qiáng)大。

當(dāng)看到它的表現(xiàn)時(shí)，我們不想再等待，我們想讓全世界都來(lái)試試它。

更重要的是，公司內(nèi)部類似情況還有很多，Gemini生圖只是其中一個(gè)縮影。

比如，據(jù)透露有人堅(jiān)持要求工程師不能使用像“建造忍者（build ninja）”、“核爆舊緩存（nuke the old cache）”、“理智檢查（sanity check）”或“啞變量（dummy variable）”這樣的術(shù)語(yǔ)，理由是它們依次對(duì)應(yīng)了文化挪用、軍事隱喻、貶低精神疾病、貶低殘疾的問(wèn)題。

有工程師被強(qiáng)烈建議在他的公司個(gè)人簡(jiǎn)介中采用一種多樣化的代詞組合來(lái)表示自己，比如“zie/hir”、“ey/em”、“xe/xem”、“ve/vir”。

還有一個(gè)名為Greyglers（“Google”和“grey”的結(jié)合詞）的小組，正在更名。

Greyglers小組是一個(gè)面向40歲以上資深員工的小組，有人認(rèn)為并不是所有40歲以上的人都有灰頭發(fā)，所以這個(gè)組名缺乏“包容性”，甚至據(jù)爆料，谷歌還聘請(qǐng)了外部顧問(wèn)為小組重命名。

Pirate Wires還透露，幾乎每個(gè)被采訪的人都用了“恐懼文化（culture of fear）”這個(gè)詞，這不僅解釋了對(duì)公司極端DEI行為的無(wú)力反抗，也說(shuō)明了為何這一世界技術(shù)人才聚集地缺少創(chuàng)新。

無(wú)論在哪個(gè)層級(jí)的員工，幾乎出于每個(gè)原因，都害怕挑戰(zhàn)那些已經(jīng)使公司陷入困境的許多過(guò)程。除晉升期之外，大多數(shù)人都害怕被注意到。

哪怕是想要晉升，也會(huì)受到種族和性別的影響。

然鵝，真的就這么簡(jiǎn)單，歸咎于失控的DEI思維管理嗎？

為什么谷歌會(huì)這樣？

Pirate Wires的文章中認(rèn)為，這只是公司更大問(wèn)題的所表現(xiàn)出來(lái)的一個(gè)“癥狀”，這個(gè)更大的問(wèn)題用四個(gè)字來(lái)說(shuō)就是：群龍無(wú) 首。

首先，谷歌現(xiàn)在面臨著典型的“創(chuàng)新者困境”，也就是發(fā)展一項(xiàng)完全在其能力范圍內(nèi)的新的技術(shù)，會(huì)破壞其現(xiàn)有商業(yè)模式。

其次，更重要的是沒(méi)有人負(fù)責(zé)。

在谷歌幾乎每個(gè)主要產(chǎn)品的管理團(tuán)隊(duì)到工程、銷售、信任與安全、公關(guān)和市場(chǎng)營(yíng)銷的員工嘴里，Pirate Wires表示大家描繪出的谷歌形象比報(bào)道的要要黯淡得多：