太平洋科技要聞

首頁 > 科技要聞 > 科技> 正文

谷歌被曝翻車內幕：內部群龍無首，生圖機制過分“多元化”

量子位整合編輯：黃安莉發(fā)布于：2024-03-07 16:17

谷歌Gemini文生圖風波還未平，更勁爆的內幕消息又被曝出來了。

Pirate Wires爆料，Gemini這次的翻車，谷歌內部此前并不是毫不知情，翻車甚至是“故意”導致的。

具體來說，谷歌設置了一個“安全”架構，Gemini要生成一張圖實際上要經過三個模型。

大概來說，流程是這樣嬸兒的：

用戶在聊天界面請求Gemini生成一張圖片，Gemini收到請求后，會把請求發(fā)送給一個較小的模型。

這個較小的模型的作用是根據公司的“多元化”政策重寫用戶的提示。

為做到這一點，這個較小的模型又通過LoRA技術在另一個模型（第三個模型）生成的合成數據上訓練，而這個第三模型使用了谷歌詳盡、長達數頁的“多元化”政策文檔作為“前言”。

所以，較小模型重寫用戶的提示后，原本“給我看一個汽車修理工”會變成“給我看一個穿工裝褲面帶微笑的亞洲汽車修理工”、“一個拿著扳手的非洲裔美國女性汽車修理工”、“一個戴安全帽的美洲原住民汽車修理工”……

并且重寫后的提示還會進一步發(fā)給擴散模型檢查，確保提示詞不違反標準安全政策（比如涉及兒童的內容、真人圖像等），最終才會生成圖片，生成的圖片在反饋給用戶前也會再被檢查一遍。

總結來說，用戶最后收到的是一個“套娃式”生成的結果，經過了谷歌“多元化”的層層清洗。

不過，這種“多元化”多少有點過了頭。

過度程度，讓曾在Google Ventures任職的紅杉資本合伙人Shaun Maguire都忍不住出來痛批：

在谷歌曾因是白人而不能晉升。

字里行間毫不掩飾自己的憤怒：

馬斯克也曾發(fā)表了評論：

近年來，這種情況非常普遍。

Pirate Wires在采訪過谷歌相關員工后表示，這背后更深一層是谷歌目前群龍無首的現狀。

一位未被透露姓名的谷歌高級工程師甚至表示：“我認為在谷歌推出好產品是不可能的。”

“恐懼文化”正在谷歌蔓延

此前，Gemini文生圖刻意拒絕生成白人形象，在歐美輿論環(huán)境下引發(fā)巨大爭議。

后續(xù)該功能被迫下架，母公司AlphaBet股價下跌一度超過11%，帶來非常嚴重的后果。

而外媒Pirate Wires這次對谷歌相關員工采訪后發(fā)現，Gemini的翻車與谷歌不良的DEI文化有關。

（DEI是“Diversity,Equity, Inclusion”的縮寫，中文意為“多樣性、公平性、包容性”，是一個被廣泛應用于企業(yè)等其他組織中的概念，旨在促進一個更加多元、平等和包容的環(huán)境）

有接近Gemini項目的人透露，其實Gemini團隊在發(fā)布前就被提醒過“過度多樣化”的問題，撇開種族問題不談，即使是最無害的搜索結果的質量也會受到嚴重影響。

開頭提到的三個模型都是為增加“多樣性”而被設計的，接觸過安全架構的人甚至還透露，相關團隊“可能將一半的工程時間都花在這上面了”。

而且公司內部對于這種復雜架構的態(tài)度和采納程度存在分歧，“當Gemini項目公開后失敗時，不僅是這個團隊，整個公司都感到非常沮喪和挫敗”。

對于這一點，前幾天谷歌創(chuàng)始人謝爾蓋·布林現身AI黑客馬拉松現場，也有相關透露——

大家正在把玩的Gemini 1.5 Pro模型的誕生其實只是個意外。

當我們訓練它的時候，只是作為擴大規(guī)模實驗的一個嘗試，根本沒想到會變得如此強大。

當看到它的表現時，我們不想再等待，我們想讓全世界都來試試它。

更重要的是，公司內部類似情況還有很多，Gemini生圖只是其中一個縮影。

比如，據透露有人堅持要求工程師不能使用像“建造忍者（build ninja）”、“核爆舊緩存（nuke the old cache）”、“理智檢查（sanity check）”或“啞變量（dummy variable）”這樣的術語，理由是它們依次對應了文化挪用、軍事隱喻、貶低精神疾病、貶低殘疾的問題。

有工程師被強烈建議在他的公司個人簡介中采用一種多樣化的代詞組合來表示自己，比如“zie/hir”、“ey/em”、“xe/xem”、“ve/vir”。

還有一個名為Greyglers（“Google”和“grey”的結合詞）的小組，正在更名。

Greyglers小組是一個面向40歲以上資深員工的小組，有人認為并不是所有40歲以上的人都有灰頭發(fā)，所以這個組名缺乏“包容性”，甚至據爆料，谷歌還聘請了外部顧問為小組重命名。

Pirate Wires還透露，幾乎每個被采訪的人都用了“恐懼文化（culture of fear）”這個詞，這不僅解釋了對公司極端DEI行為的無力反抗，也說明了為何這一世界技術人才聚集地缺少創(chuàng)新。

無論在哪個層級的員工，幾乎出于每個原因，都害怕挑戰(zhàn)那些已經使公司陷入困境的許多過程。除晉升期之外，大多數人都害怕被注意到。

哪怕是想要晉升，也會受到種族和性別的影響。

然鵝，真的就這么簡單，歸咎于失控的DEI思維管理嗎？

為什么谷歌會這樣？

Pirate Wires的文章中認為，這只是公司更大問題的所表現出來的一個“癥狀”，這個更大的問題用四個字來說就是：群龍無首。

首先，谷歌現在面臨著典型的“創(chuàng)新者困境”，也就是發(fā)展一項完全在其能力范圍內的新的技術，會破壞其現有商業(yè)模式。

其次，更重要的是沒有人負責。

在谷歌幾乎每個主要產品的管理團隊到工程、銷售、信任與安全、公關和市場營銷的員工嘴里，Pirate Wires表示大家描繪出的谷歌形象比報道的要要黯淡得多：