當(dāng) ChatGPT 的日活躍用戶突破 1.2 億,每天處理超過 10 億次查詢時,AI 已不再是一個高高在上的科技概念,而是深刻改變著人們的日常生活。 在這場席卷全球的技術(shù)浪潮中,OpenAI CEO Sam Altman 無疑是最重要的領(lǐng)軍人物之一。 昨天,Altman 化身產(chǎn)品經(jīng)理,在線發(fā)起了 2025 年的產(chǎn)品意見征集: what would you like openai to build/fix in 2025? 你希望 OpenAI 在 2025 年能打造或改進(jìn)什么? 我們整理了網(wǎng)友的一些高贊回答,看看你更喜歡哪一項功能? 同樣在去年的 12 月份,Altman 也發(fā)起了類似的意見征集貼,2024 年即將過去,回顧 OpenAI 過去一年的產(chǎn)品,你覺得完成度如何? 而在近日,《自由新聞》記者 Bari Weiss 更是對 Altman 進(jìn)行了一次深度專訪。 「如果你回想我們在 2023 年 4 月時為之興奮的 AI 技術(shù),相比我們現(xiàn)在擁有的技術(shù),那時的技術(shù)簡直是原始的。」Altman 說。 在他看來,AI 不僅是一項革命性技術(shù),更可能像晶體管一樣,成為推動人類社會進(jìn)步的基礎(chǔ)性力量。 然而,OpenAI 的狂飆突進(jìn)也帶來了一系列挑戰(zhàn)。 今年以來,馬斯克多次提起訴訟,試圖阻止 OpenAI 推進(jìn)其商業(yè)化進(jìn)程。對此,Altman 并未否認(rèn)馬斯克前期對 OpenAI 的幫助,但也對他的行為嗤之以鼻。 他是一個偉大的企業(yè)家,但也是一個惡霸。 與此同時,除了非營利組織到商業(yè)化的轉(zhuǎn)型所引發(fā)的爭議,在 AI 安全和監(jiān)管問題,中美技術(shù)競爭日趨激烈等關(guān)鍵議題上,Altman 也提供了關(guān)于他的視角和思考。 省流不看版如下: AI 在近 18 個月內(nèi)發(fā)展迅速,從 2023 年 4 月到 2024 年 12 月進(jìn)步顯著,ChatGPT 的搜索功能整合讓 Altman 使用量翻倍,逐漸取代傳統(tǒng)搜索引擎。Altman 預(yù)測「超級智能」將在未來幾年出現(xiàn),可能顯著加快全球科技進(jìn)步速度。 開發(fā)模型需要巨額資金支持(或超過 1000 億美元),對此,Altman 承認(rèn)早期對營利模式的擔(dān)憂有些「天真」。他強(qiáng)調(diào)非營利部門將繼續(xù)存在,商業(yè)化不影響公司使命。 馬斯克多次起訴 OpenAI,質(zhì)疑其商業(yè)化轉(zhuǎn)型,Altman 表示最初推動營利轉(zhuǎn)型的實際是馬斯克,認(rèn)為爭議實質(zhì)是關(guān)于 AI 控制權(quán)的競爭。 Altman 支持適度監(jiān)管,但反對過度監(jiān)管抑制競爭,建議監(jiān)管重點關(guān)注最前沿的 AI 技術(shù),而非所有 AI 項目。他并不認(rèn)同將 AI 與核武器完全類比,認(rèn)為使用場景和影響很不同。 對于中美 AI 競爭,Altman 承認(rèn)存在 AI 軍備競賽,但主張通過領(lǐng)先和合作實現(xiàn)和平,強(qiáng)調(diào)美國需要加強(qiáng)國內(nèi) AI 基礎(chǔ)設(shè)施建設(shè)和供應(yīng)鏈,呼吁在競爭中保持清醒,避免過度對抗。 Altman 認(rèn)為完全中立的 AI 系統(tǒng)是不可能的,強(qiáng)調(diào)用戶自由選擇和系統(tǒng)默認(rèn)設(shè)置的重要性,并主張在模型規(guī)格中保持透明度,公開說明任何修改。 全文共 1.8 萬個字,由 APPSO 編譯,enjoy it~ 我 chat 了一下,AI 是如何在 18個月內(nèi)進(jìn)入我們的生活? Bari Weiss:Sam Altman,非常感謝你能來參加這個節(jié)目,真的感謝。 Sam Altman:謝謝。 Bari Weiss:我們上次交談是在 2023 年 4 月,我知道從那以后你接受了無數(shù)次采訪,但那次談話似乎已經(jīng)是很久以前的事了。 當(dāng)時 ChatGPT 剛剛發(fā)布,人們才剛開始從抽象的層面試圖理解這項技術(shù)是什么,以及它可能會如何改變他們的日常生活。 而現(xiàn)在,坐在這里,已經(jīng)是 2024 年 12 月了,ChatGPT 已經(jīng)成了家喻戶曉的名字,OpenAI 也是如此。 當(dāng)然,你的一些競爭對手也一樣,比如 Perplexity、Gemini 和 Claude。普通美國人每天都在使用這些工具,從數(shù)學(xué)輔導(dǎo)到調(diào)試代碼,再到撰寫文稿,它們在這些方面表現(xiàn)非常出色。 告訴我,ChatGPT 以及更廣義上的 AI 技術(shù)自我們上次交談以來的一年半時間里發(fā)生了怎樣的變化?它是否達(dá)到了你今天的預(yù)期,還是已經(jīng)超出了? Sam Altman:我認(rèn)為這里有兩個不同的方面需要討論。 一個是技術(shù)本身的變化,這一點確實變得好了太多。 如果你回想我們在 2023 年 4 月時為之興奮的 AI 技術(shù),相比我們現(xiàn)在擁有的技術(shù),那時的技術(shù)簡直是原始的。 現(xiàn)在的技術(shù)能力令我感到非常震撼。但更令人震驚的是,在接下來的一年里,這種技術(shù)改進(jìn)的速度。 如果我們在 18 個月后再回來討論它能做什么,我認(rèn)為從 2023 年 4 月到 2024 年 12 月的技術(shù)差距,可能會像我們向前再看 20 個月的變化一樣大,甚至更大。 另一個發(fā)生的事情是,這項技術(shù)已經(jīng)真正融入了社會。 回到那個時候,它仍然是一個新奇的東西,許多人聽說過它,但現(xiàn)在,人們確實大量使用它,不管是在工作還是個人生活中。 我從未見過一項技術(shù)以這樣的速度被廣泛采用——不僅僅是人們隨便嘗試一下,而是他們真正開始像你提到的那樣,在各個方面都使用它。所以,這種采用曲線比我想象的要快得多。我本來預(yù)計技術(shù)會發(fā)展得很快,但這種社會接受的速度還是超出了我的預(yù)期。 Bari Weiss:你在日常生活中是如何使用你幫助創(chuàng)造的這個工具的?就像我認(rèn)識的很多人在用它的方式一樣,比如 Tyler Cowan 和很多熱衷于技術(shù)的早期用戶,幾乎可以說它已經(jīng)取代了他們的 Google。 對他們來說,ChatGPT 就像是一個更深入、更強(qiáng)大的 Google。這是它的工作方式嗎? Sam Altman:我用它來完成各種事情。但最新的一點是,幾個月前我們發(fā)布了搜索整合功能,現(xiàn)在 ChatGPT 可以在互聯(lián)網(wǎng)上搜索實時信息。 在我們發(fā)布過的所有功能中,這個功能讓我一下子把使用量翻了一倍。從那以后,我或許還用過 Google 做什么事情,但我已經(jīng)記不清是什么了。 而且我已經(jīng)把 ChatGPT 設(shè)置為 Chrome 中的默認(rèn)搜索引擎,從那之后,我再也沒有回頭看過傳統(tǒng)的搜索方式。 對于一個如此深深嵌入我行為模式中的東西,這種改變的程度讓我印象深刻,F(xiàn)在,當(dāng)我回想起過去的搜索方式時,我覺得,那種方式就像是「哦,天啊,那是個前 iPhone 時代」的感覺。這種行為上的轉(zhuǎn)變,給我的感受就是這樣的。 這也是過去幾個月讓我最感到驚訝的變化——現(xiàn)在我所有的搜索都在 ChatGPT 里完成了。 Bari Weiss:你怎么稱呼它?你會叫它「搜索」嗎,還是有一個像「Google」那樣的動詞? Sam Altman:一個動詞?我還是叫它「搜索」。不過,我聽說其他人,比如有些人會說「我用 chat 查了一下」或者「我 chat 了一下」。 Bari Weiss:「我 chat 了一下」? Sam Altman:對,尤其是年輕人,他們似乎只把它稱為「chat」,但我還是說「搜索」。 Bari Weiss:Sam,就在幾個月前的 9 月,你在自己的網(wǎng)站上發(fā)表了一篇宣言,預(yù)測超級智能的出現(xiàn)會在未來幾年,或者正如你令人印象深刻的說法,是在未來幾千天內(nèi)。 給我們解釋一下什么是超級智能。告訴我們?nèi)绾沃浪娴膩砹,以及它將在未來幾十年如何改變(nèi)藗兊纳睢?/p> Sam Altman:我用來構(gòu)建自己思維框架的一種方式是觀察科學(xué)進(jìn)步的速度。 如果全球科學(xué)進(jìn)步的速度突然變?yōu)槿,甚至是十倍,比如那些我們原本預(yù)計需要 10 年才能實現(xiàn)的發(fā)現(xiàn)或技術(shù)進(jìn)步,每年都能實現(xiàn),然后一代接著一代地累積下去。 對我來說,這種狀態(tài)會讓我覺得超級智能已經(jīng)到來了。我認(rèn)為,這在很多方面會改變社會和經(jīng)濟(jì)的運(yùn)行方式。 但它不會改變的東西,我認(rèn)為很多 AI 評論員對此有誤解,那就是它不會改變?nèi)祟惿顚哟蔚幕掘?qū)動力。 所以從這個意義上來說,我們已經(jīng)經(jīng)歷了許多次技術(shù)革命,而那些我們傾向于關(guān)心的事情,以及驅(qū)動我們所有人的動力,大多數(shù)情況下幾乎沒有改變,或者完全沒有改變。但我們所生存的世界將會發(fā)生巨大變化。 馬斯克是一個傳奇的企業(yè)家,但他顯然也是一個惡霸 Bari Weiss:好的,Sam,我們今天想和你進(jìn)行這次對話的一個原因,不僅僅是因為我們想聽你談 AI 如何改變我們的生活和工作方式,還因為你目前正與 OpenAI 的原始聯(lián)合創(chuàng)始人埃隆·馬斯克陷入一場非常公開的爭斗。 我想可以這樣說,大多數(shù)聽眾可能只是模糊地知道埃隆·馬斯克和你之間的沖突,與他旗下的某家公司有關(guān),或者他的許多公司之一。 他們肯定沒有在關(guān)注那些錯綜復(fù)雜的訴訟細(xì)節(jié)或整體沖突。我想盡量以最公正的方式為你總結(jié)一下,然后你告訴我是否有哪里說錯了,或者我是否超出了限度。 OpenAI 于 2015 年成立,并以非營利組織的形式起步。在同年 12 月的一篇博客文章中,你們向世界介紹了 OpenAI,你是這樣寫的: 「OpenAI 是一家非營利的人工智能研究公司。我們的目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能的發(fā)展,而不受產(chǎn)生經(jīng)濟(jì)回報的需求所限制。由于我們的研究沒有財務(wù)義務(wù),我們可以更好地專注于對人類的積極影響! 這成為了 OpenAI 品牌的核心理念之一。 到了 2019 年,OpenAI 轉(zhuǎn)變?yōu)樗^的混合模式,也就是擁有一個盈利部門的模式。當(dāng)年,微軟對其進(jìn)行了 10 億美元的投資。 從那以后,微軟向 OpenAI 投入了大約 130 億美元,或者可能是更高的數(shù)字。而埃隆從一開始就是 OpenAI 的聯(lián)合創(chuàng)始人之一,但隨著時間的推移,他與公司的關(guān)系惡化,因為他不同意我剛才描述的這種轉(zhuǎn)變,即從非營利模式轉(zhuǎn)向混合模式。最終,他離開了公司,并辭去了董事會職務(wù)。 今年,埃隆迄今為止已經(jīng)多次起訴你和 OpenAI。他還接受了許多采訪,并在社交媒體上發(fā)布了無數(shù)條推文或「X」動態(tài),內(nèi)容都圍繞這一沖突。 他所有的訴訟都聲稱,你們在推進(jìn) AI 的過程中,將利潤置于公眾利益之上,從而違反了某種合同。而在上個月,也就是最近的進(jìn)展中,埃隆要求加州的一位地區(qū)法官阻止 OpenAI 轉(zhuǎn)換為這種盈利性結(jié)構(gòu)。 好了,這信息量有點大。我總結(jié)得對嗎?有沒有什么關(guān)鍵的點被遺漏了,或者哪里有誤? Sam Altman:你的總結(jié)是對的,不過,實際上最初最想讓 OpenAI 轉(zhuǎn)變?yōu)橛詸C(jī)構(gòu)的正是埃隆。 他曾經(jīng)提出過許多方案,比如讓 OpenAI 成為特斯拉的一部分,或者創(chuàng)建一個全新的盈利機(jī)構(gòu),他將完全控制。所以除了這一點以外,你的總結(jié)基本上是正確的。我對此有很多想法和看法,但作為事實陳述,你的總結(jié)基本正確。 Bari Weiss:請用一個高度概括的視角總結(jié)一下埃隆·馬斯克與他的各種盟友(包括 Meta 在內(nèi))之間,以及你們之間的根本沖突是什么?這種分歧到底是什么? Sam Altman:我無法進(jìn)入埃隆的腦海,所以這只是一些推測。埃隆確實在 OpenAI 的早期階段做了很多貢獻(xiàn)。 盡管如此,我對此非常感激,并且我認(rèn)為他是一個傳奇的企業(yè)家,但他顯然也是一個惡霸,并且顯然喜歡與人爭斗。目前是和我,之前是貝佐斯、蓋茨、扎克伯格以及很多其他人。我認(rèn)為從根本上來說,這和 OpenAI 做得非常好有關(guān),而埃隆非常在意做得非常好。 埃隆現(xiàn)在創(chuàng)立并運(yùn)營了一家非常直接的競爭對手公司,這家公司試圖做與 OpenAI 完全相同的事情。從結(jié)構(gòu)上來看,我聽說他的公司是一個公共利益公司(PBC),而且埃隆擁有多數(shù)股權(quán)和控制權(quán),這似乎是他會做的合理的事情。 我認(rèn)為媒體在這一點上有很多錯誤報道。即使我們考慮了一些轉(zhuǎn)換或發(fā)展想法,也并不意味著非營利機(jī)構(gòu)會消失。 非營利機(jī)構(gòu)不會因為某些發(fā)展計劃就停止成為非營利機(jī)構(gòu)。我們公開討論過,也許我們會將目前的 LLC 演變成 PBC,但無論我們做什么,都會加強(qiáng)非營利機(jī)構(gòu)的作用。 非營利機(jī)構(gòu)將繼續(xù)存在,我們也會繼續(xù)努力實現(xiàn)相同的目標(biāo),也就是你之前提到的:開發(fā)這項不可思議的技術(shù),以我們認(rèn)為對人類最有益的方式開發(fā),并將其推廣到全世界。 我們會繼續(xù)這樣做,我對我們迄今為止的表現(xiàn)感到非常自豪。正如你之前提到的,人們使用并喜歡 ChatGPT。ChatGPT 有一個不可思議的免費版本,我們在這上面虧了錢,它也沒有廣告支持或其他商業(yè)模式。 我們只是想把 AI 放在用戶手中。我們希望通過技術(shù)的部署,讓人們與之共同進(jìn)化、理解它,并經(jīng)歷目前全球在應(yīng)對 AI 的過程中所經(jīng)歷的一切。最終,世界將面對 AGI(通用人工智能)的思考。 我們正在做的一切都是朝著這個方向推進(jìn)的。我相信,如果埃隆不掌控 OpenAI,他會為我們所做的一切感到高興。 他離開公司時認(rèn)為我們會失敗,并且他不想?yún)⑴c到一個他無法完全控制的 OpenAI 中。但我認(rèn)為這些爭議有點像無關(guān)緊要的鬧劇。 對我們來說,正確的做法是繼續(xù)進(jìn)行出色的研究,持續(xù)推出人們喜愛的產(chǎn)品,最重要的是,堅持追求「讓 AGI 造福人類」的使命,并將其推向世界。 Bari Weiss:對于剛剛接觸這個話題的人來說,為什么 OpenAI 轉(zhuǎn)換為盈利性公司,或者以你們一直在討論的方式進(jìn)行轉(zhuǎn)換,對 OpenAI 的成長至關(guān)重要呢?為什么這是不可或缺的? Sam Altman:當(dāng)我們創(chuàng)立 OpenAI 時,我們覺得很難回想起 2015 年的情況有多么不同。當(dāng)時還沒有語言模型和聊天機(jī)器人, ChatGPT 更是遙不可及。 我們當(dāng)時在進(jìn)行研究,發(fā)表論文,研究可以玩電子游戲和控制機(jī)器人手的人工智能之類的東西。我們本來以為能籌到 10 億美元,但最終沒有成功。 我們當(dāng)時覺得,靠這 10 億美元可以在我們試圖實現(xiàn)的目標(biāo)上取得實質(zhì)性的進(jìn)展。 然而,隨著我們不斷深入學(xué)習(xí)并進(jìn)入大規(guī)模語言模型的世界,我們意識到這不僅僅需要 10 億美元,甚至不止 100 億美元,而是可能需要超過 1000 億美元的投入。 而作為一家非營利機(jī)構(gòu),我們根本無法做到這一點。所以,這是轉(zhuǎn)型的根本原因。 Bari Weiss:那么,換句話說,也許可以這樣理解:獲得計算能力的支持對于創(chuàng)造這項技術(shù)來說是絕對必要的。 Sam Altman:沒錯,而且其他所有從事AI的努力也已經(jīng)意識到了這一點,并以某種方式設(shè)立了能夠接觸資本市場的機(jī)制。 Bari Weiss:最近你對埃隆說了很多不同的話。在一次采訪中,Andrew Ross Sorkin 問到你對這場沖突的感受時,你的回答是「感到難過」。你還說你認(rèn)為埃隆的公司很棒。 然后他問你,是否認(rèn)為埃隆會利用他新獲得的政治影響力來懲罰你、懲罰 OpenAI 或懲罰他的競爭對手。你在采訪中表示,你認(rèn)為他會做正確的事。這與你剛剛告訴我的話——埃隆是個欺凌者——怎么協(xié)調(diào)呢?欺凌者通常不會做正確的事吧? Sam Altman:我覺得這兩件事是完全可以并存的。我認(rèn)為有些人在推特上真的可能表現(xiàn)得很糟糕,但這并不意味著他們會濫用一個國家的體系——特別是在他們現(xiàn)在處于一個極具影響力的政治角色時。這對我來說是完全不同的事情。 Bari Weiss:到目前為止,這場爭斗——對于那些長期在線、時刻刷推特的人來說——主要通過推文、隱晦的推文進(jìn)行,我們都在推特上實時關(guān)注這場沖突的進(jìn)展。而 OpenAI 基本上處于一種回應(yīng)模式,有時甚至是完全忽視的狀態(tài)。我覺得這是可以這樣描述的。 這種狀態(tài)在幾天前發(fā)生了改變,你們在 OpenAI 的網(wǎng)站上發(fā)表了一篇非常非常長的備忘錄。它像是一篇博客文章,推薦大家去閱讀一下。這篇文章幾乎完全是一條時間線,從 2015 年開始回顧,展示了你們的觀點,通過電子郵件、短信截圖及其解釋,證明埃隆早在那時就對 OpenAI 成為一家盈利性機(jī)構(gòu)持開放態(tài)度。我讀了整整29頁內(nèi)容。如果有人不想讀,可以去讓 ChatGPT 總結(jié)一下。ChatGPT 告訴我,這是它的總結(jié): 「這篇文章詳細(xì)描述了埃隆·馬斯克與 OpenAI 領(lǐng)導(dǎo)層,尤其是 Sam Altman 之間的分歧,源于馬斯克對 OpenAI 從非盈利模式轉(zhuǎn)向混合盈利模式的不滿。這場爭端很重要,因為它突出了 AI 應(yīng)該如何開發(fā)和控制的更廣泛倫理難題——是否應(yīng)該優(yōu)先考慮公眾利益還是公司利潤,尤其是在強(qiáng)大的 AI 技術(shù)對社會和經(jīng)濟(jì)的影響日益增長的情況下! 我覺得這個總結(jié)挺不錯的,你怎么看? Sam Altman:不,但關(guān)于你的總體觀點,你是對的,我們確實沒有在推特上來回爭吵。這次發(fā)布聲明的原因是我們必須提交法律文件,并希望提供一些背景說明。我們以前也曾因類似情況發(fā)布過一次聲明,那也是因為我們不得不提交法律文件。我已經(jīng)記不清埃隆起訴了我們多少次了,我想大概有 4 次吧。 他撤回了、修改了,然后又申請臨時禁令等等。我們的任務(wù)是以造福人類的方式構(gòu)建 AGI,并找到安全且廣泛分發(fā)它的方法。我們的任務(wù)不是與埃隆在推特上打嘴仗,但如果我們必須對法律文件做出回應(yīng),我們會這樣做,有時也會提供背景說明。我想我們只做過兩次這樣的事情。 Bari Weiss:在 OpenAI 早期階段,它的品牌形象——至少在我看來——是透明和非營利性,這些是它反復(fù)強(qiáng)調(diào)的內(nèi)容。你說過,你不能持有任何股份,你拿的薪水也很低,因為你說,「我不想有利益沖突。我想始終以最符合人類利益的事情為動力! 2015 年 12 月 OpenAI 剛成立后的第二天,你在接受《名利場》的采訪時將其描述為一家「致力于拯救世界免于反烏托邦未來的非營利公司」。 你還說過,試圖讓 OpenAI 成為一家盈利性公司將導(dǎo)致「與世界整體利益不一致的激勵機(jī)制」,這是次優(yōu)的選擇。我想問一下,你是否仍然同意這個觀點,還是只是因為開發(fā)這些模型需要數(shù)百億資金而不得不適應(yīng)現(xiàn)實? Sam Altman:兩點。首先,我覺得自己當(dāng)時有點錯了。雖然我對這一點始終有擔(dān)憂,但我對我們以及其他 AI 實驗室在這方面的表現(xiàn)感到印象深刻。盡管它們有各種市場或經(jīng)濟(jì)激勵機(jī)制,但它們確實非常專注于開發(fā)安全的模型。 我認(rèn)為這其中有很多因素。一方面,我們在技術(shù)發(fā)展的方向上有些幸運(yùn);但另一方面,如果你以一種對人類有害的方式部署這些模型,我相信你很快就會失去運(yùn)營許可。這一點是顯而易見的。 當(dāng)然,也有一些微妙的錯誤可能會發(fā)生,比如我認(rèn)為社交媒體就是一個例子,當(dāng)時可能沒有明顯的危害,但隨著規(guī)模的擴(kuò)大出現(xiàn)了一些突發(fā)性的屬性。 你可以想象類似的事情可能發(fā)生。但激勵機(jī)制問題比我當(dāng)時想象的要好一些。我愿意坦率地承認(rèn),10 年前我對世界的運(yùn)行方式有些天真,而現(xiàn)在我對此感到更有信心。 Bari Weiss:天真?怎么說? Sam Altman:來自社會的壓力——尤其是對大公司的壓力,以及研究人員推動他們的公司做正確事情的力量——即便是在巨大的利潤動機(jī)面前,表現(xiàn)都還算不錯。 但有一件事我當(dāng)時就不覺得天真,現(xiàn)在依然如此,那就是:這種事情竟然發(fā)生在少數(shù)幾家私營公司手中,這讓我依然覺得非常不可思議。 對我而言,這感覺就像我們這個時代的曼哈頓計劃或阿波羅計劃。而這些計劃不是由私營公司完成的,我認(rèn)為這反而是一個功能良好的社會的標(biāo)志。 Bari Weiss:你認(rèn)為我們需要一個曼哈頓計劃嗎? Sam Altman:我認(rèn)為公司會做正確的事情,一切會順利進(jìn)行。而且在當(dāng)前的世界里,我認(rèn)為政府主導(dǎo)的努力根本行不通。老實說,即使它真的成功了,我也不覺得那是件好事。我只是希望我們生活在一個讓我覺得那才是應(yīng)該的方式并正在發(fā)生的世界里。 Bari Weiss:Meta 現(xiàn)在顯然站在了埃隆一邊。幾天前,Meta 要求加州檢察長阻止 OpenAI 轉(zhuǎn)變?yōu)闋I利性機(jī)構(gòu)。他們在信中這樣寫道:「OpenAI 的行為可能會對硅谷產(chǎn)生巨大的影響。如果 OpenAI 的新商業(yè)模式被認(rèn)可,那么非營利投資者將能夠獲得與傳統(tǒng)方式投資盈利性公司相同的利潤,同時還能夠享受政府提供的稅收減免! 這呼應(yīng)了馬斯克去年說的話,他當(dāng)時表示:「我很困惑,一個我捐贈過的非營利機(jī)構(gòu)怎么會變成一個市值巨大的盈利性機(jī)構(gòu)。換句話說,如果這是合法的,為什么大家不都這么做?」 Sam Altman:我不知道 Meta 為什么要發(fā)那封信,但我知道他們知道事實并非如此。我知道在這些領(lǐng)域,沒有人會因為非營利組織的捐贈而直接獲益于某種盈利性股權(quán)。當(dāng)然,他們也知道這一點。 你可以想象 Meta 發(fā)這封信有很多其他的原因。比如,他們可能想討好埃隆;他們可能覺得這樣做有助于他們與我們競爭;或者他們可能因為認(rèn)為我們對開源持反對態(tài)度而對我們感到不滿——盡管我不認(rèn)為這是準(zhǔn)確的,也不是我所感受到的原因。我不知道,你可以去問問他們真正的原因是什么。 Bari Weiss:對于普通人來說,聽到這些可能會困惑:一個非營利組織如何變成一個盈利性機(jī)構(gòu)?答案是什么? Sam Altman:非營利組織仍然是非營利組織。我相信 OpenAI 的非營利組織正在走上一條軌跡,我希望如果我們做得好,它將成為史上最大、最有影響力的非營利組織。 非營利組織不會變成其他任何東西。就像其他許多事情一樣,我們的生態(tài)系統(tǒng)中可以有一個盈利性的業(yè)務(wù)存在,但這并不意味著非營利組織會轉(zhuǎn)變。非營利組織不會消失,也不會停止從事非營利性的事情。 誰是從 OpenAI 中獲利最多的人 Bari Weiss:最終,Sam,誰將從 OpenAI 的成功中獲利最多? Sam Altman:所有人。我告訴你,我希望每個人都可以用他們的比喻來描述這場技術(shù)革命最像什么。有人說這是工業(yè)革命,有人說這是電力革命,也有人說它像互聯(lián)網(wǎng)。但我希望它像晶體管。 我們發(fā)現(xiàn)了一項新的重要的基礎(chǔ)性物理規(guī)律,或者你愿意叫什么都行。 我們進(jìn)行了大量研究,其他人也進(jìn)行了研究,而它將滲透到經(jīng)濟(jì)、產(chǎn)品以及一切事物的各個方面。 今天你我正在使用許多含有晶體管的設(shè)備,才讓這次播客成為可能。計算機(jī)里有一些,你的麥克風(fēng)里有一些,你我之間所有的互聯(lián)網(wǎng)設(shè)備里都有很多,但我們并不會坐在這里去思考晶體管的存在。 而晶體管公司也不會坐在這里賺取所有的財富。這一令人驚嘆的科學(xué)發(fā)現(xiàn)已經(jīng)滲透到我們生活的方方面面,每個人都從中賺到了錢。這就是我希望 AI 能夠成為的樣子,我認(rèn)為這也是最好的類比之一。 Bari Weiss:你有沒有股份?或者你在這個新的盈利封頂公司中有什么樣的權(quán)益? Sam Altman:目前我們還沒有成立一個新實體。我們顯然考慮過成立一個新實體,或者可能將我們現(xiàn)有的 LLC 轉(zhuǎn)變?yōu)橐粋更準(zhǔn)確的實體。 我通過一個早期 YC 基金持有少量股份。我過去通過紅杉資本基金持有一些股份,但那部分后來更容易出售,也沒有繼續(xù)保留。 所以我持有的股份非常少,對我來說幾乎沒有意義。我未來是否會有股份,目前沒有任何計劃或承諾。如果我得到了什么,也不會像外界那些荒謬的傳聞那樣,傳聞的數(shù)字是不可能發(fā)生的。 Bari Weiss:你知道為什么人們對這個問題如此關(guān)注。 Sam Altman:正如我之前多次說過的,如果我能回到過去,我會選擇持有股份。我現(xiàn)在更能理解當(dāng)初我的擔(dān)憂為何是錯位的。我也明白現(xiàn)在去持有股份會顯得有些奇怪,畢竟之前沒有。 但另一方面,我真希望不用再回答這個問題,成為一家正常的公司,我管理它,有一些股權(quán)投資者,不需要擔(dān)心我在其中是否有利益沖突。 整個關(guān)于「沒有任何股份」的懷疑氣氛,是我對 OpenAI 結(jié)構(gòu)中最遺憾的決定之一。但我理解為什么人們對它如此執(zhí)著,這也很合理。 Bari Weiss:如果你能回到過去,你會從一開始就怎么做?讓我們把時間倒回到 2015 年。 Sam Altman:如果當(dāng)時有一個預(yù)言家能告訴我,在 2015 年 11 月之前: 第一,你將需要超過 1000 億美元; 第二,盡管今天你完全不知道如何將其產(chǎn)品化,而且你認(rèn)為自己是一個研究實驗室,但最終你會變成一家能夠產(chǎn)品化并形成商業(yè)模式的公司,這樣你才能向投資者解釋他們?yōu)槭裁床粌H僅是在資助一個研究實驗室; 第三,參與這個領(lǐng)域的人們的激勵機(jī)制將更自然地受到控制,因為它不會像我和許多人當(dāng)時認(rèn)為的那樣,是一個遙遙領(lǐng)先于所有人的單一努力,而是更像晶體管那樣逐步滲透到各個領(lǐng)域,并因此形成更好的平衡動態(tài)。 如果一個預(yù)言家提前告訴我這三點內(nèi)容,我會說:「很好,讓我們成為一家公共利益公司(PBC)! Bari Weiss:埃隆在推動 OpenAI 起步時有多關(guān)鍵?如果預(yù)言家也告訴你后來你們之間會發(fā)生這場沖突,而他是你曾經(jīng)視為親密朋友的人,你會說,「沒關(guān)系,我可以自己完成」嗎? Sam Altman:不會,他真的幫了很大的忙。我對此非常感激。 Bari Weiss:我第一次看到埃隆·馬斯克是在一個會議的舞臺上,當(dāng)時你在采訪他。你們之間的互動非常棒,看起來像是非常好的朋友。 他對你說了一些非常嚴(yán)厲的話,比如把你比作《權(quán)力的游戲》里的小指頭(Littlefinger),最具殺傷力的一句話是:「我不信任他,我不希望世界上最強(qiáng)大的 AI 被一個不值得信任的人掌控!顾麨槭裁催@么說? Sam Altman:我想是因為他希望世界上最強(qiáng)大的 AI 由他來掌控。另外,我見過埃隆對許多人、包括我的很多朋友發(fā)起攻擊。每個人都會有被他抨擊過,但這些看起來都是他一貫的行為方式。 Bari Weiss:我試圖站在一個前朋友、前合作伙伴的角度,想象他說出那種話。我覺得你對這件事似乎相對冷靜。 Sam Altman:不,我對此當(dāng)然很難過。我最近和一個我認(rèn)為關(guān)系很親近的人聊到這件事時,我說:「埃隆沒有朋友,埃隆不做同伴,埃隆不交朋友! 這讓我覺得很遺憾,因為我確實把他當(dāng)作朋友。但我也不知道,我能以一種相對冷靜的方式看待這件事。我記得他曾經(jīng)說過 OpenAI 成功的可能性是零,說「你們這些人是笨蛋」,然后撤資并表示他會自己干。 在那之后,有些時刻讓我覺得他似乎想要和解,并找到一種合作的方式。但我也記得有些時候,他只是在推特上做自己的事。如果這些攻擊只是針對我一個人,我覺得會更加痛苦。但你知道,他在推特上的行為,大家都看得見。 所以我可以用一種相對不帶個人感情的方式看待這些,把它當(dāng)作關(guān)于埃隆的問題,而不是關(guān)于我的問題。但這仍然讓我難受。我想,我花了很長時間才習(xí)慣這種感覺吧。 Bari Weiss:最近在 OpenAI 網(wǎng)站上發(fā)表的那篇博客文章提到,埃隆應(yīng)該「在市場上競爭,而不是在法庭上競爭」。 當(dāng)然,從一個憤世嫉俗的角度來看,正如你在這次談話中暗示的那樣,埃隆現(xiàn)在擁有一家與 OpenAI 競爭的公司 xAI,他起訴你們并不是因為他真的關(guān)心AI安全或者其他什么問題,而只是想?yún)⑴c競爭。對此你怎么看?憤世嫉俗的觀點是真的嗎?這真的是一場為了爭奪市場主導(dǎo)地位的競爭嗎? Sam Altman:你應(yīng)該去問他。我希望你能邀請他來節(jié)目。 AI 不可能完全中立,支持有限度的監(jiān)管 Bari Weiss:好吧。你不僅被認(rèn)為是世界上最重要的 AI CEO 和 AI 開發(fā)者之一,還被廣泛認(rèn)為是 AI 監(jiān)管的積極倡導(dǎo)者。 這里的一個憤世嫉俗的觀點是,就像你可以質(zhì)疑埃隆的動機(jī)一樣,也可以認(rèn)為你推動 AI 監(jiān)管的方式是為了抑制競爭,從而使你的公司受益。顯然,你以前聽過這樣的論點。 Sam Altman:我認(rèn)為過多的監(jiān)管顯然會對社會產(chǎn)生巨大的負(fù)面影響。目前在許多地方,我們的監(jiān)管已經(jīng)過多了。我是說,埃隆和其他大多數(shù)大型 AI 項目的負(fù)責(zé)人也都在積極呼吁 AI 監(jiān)管。 當(dāng)你登上一架飛機(jī)時,你會覺得飛行的安全性非常高。當(dāng)你在美國吃食物時,你不會太多考慮食品安全的問題。一些監(jiān)管顯然是好事。當(dāng)然,我可以想象一些 AI 監(jiān)管的版本可能會帶來真正的問題,并對小型項目造成不利影響。 我認(rèn)為那會是一個真正的錯誤。但針對最強(qiáng)大的系統(tǒng)進(jìn)行一些安全保護(hù)措施,這種措施應(yīng)該只影響那些站在技術(shù)前沿的公司,比如 OpenAI 以及少數(shù)其他公司。我不認(rèn)為我們目前的這些系統(tǒng)已經(jīng)達(dá)到巨大的安全隱患級別,但我也不認(rèn)為我們離那個程度還非常遙遠(yuǎn)。 Bari Weiss:一些初創(chuàng)公司提出的論點,比如一家叫 Hugging Face 的 AI 初創(chuàng)公司(這個名字真有意思),還有一家叫 Stability AI 的公司的創(chuàng)始人。 他們基本上在說,Sam 和其他大型公司,比如 OpenAI、Google 和蘋果,正在試圖通過政府的監(jiān)管為自己建立護(hù)城河,并通過監(jiān)管俘獲來抑制競爭。 你對此怎么看?這就像大科技公司和小科技公司之間的爭論。這個問題可以用多種方式來詮釋。對于那些說「我們想?yún)⑴c競爭,但像 Sam 這樣的人的監(jiān)管主張會傷害我們而有利于他們」的人,你有什么想說的嗎? Sam Altman:如果他們的意思是說,「我們落后于 OpenAI,所以這不重要」,而我們呼吁的僅僅是針對前沿技術(shù)的監(jiān)管,比如那些全新且未經(jīng)測試的東西,而對于其他方面,比如想發(fā)布什么開源模型都可以,我覺得他們這樣辯解是不合理的。 我不知道。我很好奇你是怎么想的。如果我們成功了,開發(fā)出了一個超級智能,一個可能比整個人類加起來還要聰明、更有能力的計算機(jī)程序,你認(rèn)為對此應(yīng)該有任何監(jiān)管嗎?還是說他們會說「完全不需要」? Bari Weiss:我當(dāng)然認(rèn)為,首先,我甚至不太明白當(dāng)我們談?wù)摮壷悄軙r到底在談什么。你對它的含義和影響有著我完全不具備的理解,這是第一點。 第二點,如果這項技術(shù)真的像你、埃隆以及其他很多與它接觸更近的人所說的那樣強(qiáng)大,那么我當(dāng)然認(rèn)為它應(yīng)該以某種方式受到監(jiān)管。至于如何監(jiān)管、何時監(jiān)管,顯然是一個非常重要的問題。 Sam Altman:如何監(jiān)管以及何時監(jiān)管確實非常重要。我同意這一點,我也可以很容易想象到這件事可能會出問題。 Bari Weiss:最近,馬克·安德森在這個節(jié)目中談到他對拜登政府在 AI 技術(shù)方面所做努力的看法。他在節(jié)目中講了一個他親身經(jīng)歷的故事。 他說,拜登政府試圖完全控制 AI,他們的目標(biāo)是讓政府對 AI 的監(jiān)管非常嚴(yán)格。用他的話說,這樣最終只會有兩到三家大公司能夠與政府合作,而他們這樣做的目的是為了保護(hù)這些公司免受競爭。這是真的嗎?你知道他提到的是否與 OpenAI 有關(guān),OpenAI 是不是其中之一? Sam Altman:我不知道他提到的具體內(nèi)容。我也要非常明確地說,我認(rèn)為任何減少 AI 競爭的監(jiān)管都是非常糟糕的事情。 Bari Weiss:所以,OpenAI 并不是那些公司之一? Sam Altman:不是,我其實不知道他說的是什么,但我們肯定不是。 Bari Weiss:據(jù)我所知,你從未與拜登政府和其他 AI 公司一起出現(xiàn)在某個會議室里? Sam Altman:我甚至不認(rèn)為拜登政府有足夠的能力做到這一點。我是說,我們確實和他們一起開過會,但從來沒有其他公司參與,也從來沒有出現(xiàn)什么陰謀論之類的,比如「我們只允許少數(shù)幾家公司能開發(fā) AI」這種事情,從來沒有發(fā)生過。 Bari Weiss:你對拜登政府在 AI 和科技領(lǐng)域的總體態(tài)度怎么看?你剛才提到你覺得他們沒有足夠的能力。 Sam Altman:我覺得 Gina Raimondo 很棒,我和她的每次對話都讓我覺得她很明白其中的關(guān)鍵。不過總體來說,我認(rèn)為這個政府的效率并不高。我認(rèn)為他們應(yīng)該優(yōu)先考慮的事情——也是我希望下一屆政府能夠優(yōu)先考慮的事情——是建立美國國內(nèi)的大規(guī)模AI基礎(chǔ)設(shè)施,以及在美國國內(nèi)建立供應(yīng)鏈等類似的事情。 Bari Weiss:當(dāng)馬克來節(jié)目時,我請他試著為拜登政府的立場辯護(hù),或者為AI應(yīng)該受到嚴(yán)格監(jiān)管的觀點辯護(hù)。他基本上把這個問題類比為曼哈頓計劃和原子彈的研發(fā),當(dāng)時政府認(rèn)為有必要確保這一新科學(xué)和創(chuàng)新首先保持機(jī)密化。 你覺得這個類比恰當(dāng)嗎?如果你同意這個類比,并且認(rèn)為 AI 的力量與核武器相當(dāng),那是否意味著這應(yīng)該是聯(lián)邦政府的項目,而不是 OpenAI、Gemini 和 Claude 的項目? Sam Altman:我覺得所有的類比都有難點,因為它們在某些方面成立,但在其他方面又不成立。比如,你可以指出一些與核時代類似的事情。 你可以談到,比如濃縮鈾需要巨大的資源和能量,而另一方面,生產(chǎn)這些模型也需要大量的資源和能量。所以你可以找到一些類似的地方。但使用這些模型和使用核武器是完全不同的事情,其政治影響也完全不同。 我認(rèn)為,如果要為那些說「這就像核武器」的人辯護(hù),我覺得他們的意思是:這項技術(shù)極其昂貴,同時具有深遠(yuǎn)的地緣政治后果。我們不知道這些后果具體是什么,也不知道該如何看待它們。但正因為我們不確切知道這些后果是什么,難道我們不應(yīng)該有一個讓政府決定的原則嗎? 我可以想象,在歷史上其他時期的其他政府中,我們會非常歡迎這種結(jié)果。但我認(rèn)為,讓當(dāng)前的美國政府負(fù)責(zé)以比我們的競爭對手更快更好的方式開發(fā) AGI,可能不會有好的結(jié)果。我認(rèn)為,美國的國家能力的衰退并不是一個新觀察,但卻是一個令人悲哀的現(xiàn)象。 Bari Weiss:在核時代的開端,我們國家有些人幾乎像首席科學(xué)官一樣發(fā)揮作用,對吧?我想到的是像萬尼瓦爾·布什這樣的人,他幫助啟動了曼哈頓計劃,創(chuàng)立了國家科學(xué)基金會,并在核能初期那些非常關(guān)鍵的幾年中指導(dǎo)了美國的政策,F(xiàn)在有沒有這樣的人存在,不管他們是不是在華盛頓? 如果我們想要有一個這樣的人,他們理解這項技術(shù),沒有任何經(jīng)濟(jì)利益,并能夠與總統(tǒng)無論是拜登、特朗普還是他們之后的領(lǐng)導(dǎo)人討論,不僅僅是 AI 開發(fā)的問題,還有與中國的競爭問題,現(xiàn)在美國有沒有這樣的人?或者說,這個人可能是你? Sam Altman:我覺得這種意愿正在稍微恢復(fù)一點,但很長一段時間里,美國公眾對科學(xué)和技術(shù)未來發(fā)展的熱情已經(jīng)消失了。如果讓我選擇一個時間點,我認(rèn)為這種熱情是在核武器出現(xiàn)時消失的。 其實,在原子彈投放后,有幾十年的「低迷期」,直到一代人更迭,那些經(jīng)歷過核彈時代的人變老并掌握權(quán)力后,我認(rèn)為美國從未再像過去那樣,完全擁抱科學(xué)和技術(shù)推動世界進(jìn)步的興奮感和信念。 你讀到那些關(guān)于過去人們所做事情的故事,會發(fā)現(xiàn)他們對科學(xué)技術(shù)是多么敬畏,人們相信科學(xué)技術(shù)的進(jìn)步會更廣泛地讓世界變得更好。但這種信念現(xiàn)在似乎缺失了,我不認(rèn)為這是因為我們?nèi)鄙倌軌蛲苿舆@一信念的個人,而是因為政府不想要,公眾也不想要。 Bari Weiss:不僅僅是政治氛圍的變化,你怎么看我們自 11 月 5 日以來經(jīng)歷的這種文化氛圍的變化?如果你在 8 周前跟我說這些,我會覺得 Sam 可能是對的。但現(xiàn)在感覺像是一個不同的國家。 Sam Altman:確實有巨大的文化氛圍變化,我認(rèn)為在很多方面都有非常積極的動能。但我不確定這種變化是否包括「我們重新認(rèn)為科學(xué)非常重要,科學(xué)會拯救我們,解決我們所有問題」的觀點。你覺得有這種變化嗎?還是說這是唯一一個我沒感覺到的領(lǐng)域? Bari Weiss:我只是覺得現(xiàn)在的趨勢更傾向于「增長是好事,技術(shù)進(jìn)步是好事,虛無主義顯得過時了,正在失去人們的青睞」。我感覺到這種變化正在發(fā)生,而且是以一種戲劇性的方式發(fā)生的。也許這是因為我花了很多時間在 X 平臺上,這種趨勢似乎在那里醞釀,然后從線上蔓延到了現(xiàn)實世界。所以,如果你去哥倫比亞大學(xué)找一個普通的博士生聊聊,我覺得他們可能不會有和我一樣的感受,因為每個人的體驗都太不同了。 Sam Altman:我之前提到「分裂化」(balkanized),我覺得即使是在現(xiàn)場,這種情況也有所好轉(zhuǎn)。我非常同意你提到的那種總體上對增長和成功、讓國家和經(jīng)濟(jì)表現(xiàn)良好的興趣的轉(zhuǎn)變。 我也部分同意我之前提到的觀點,即我認(rèn)為即使是對科學(xué)的興趣,也比它曾經(jīng)的最低谷要好一些了。但當(dāng)你談到那些被視為國家科學(xué)大使的人,以及那些人們真正愿意傾聽和感到興奮的科學(xué)倡導(dǎo)者時,我還是不太確定是否真的存在這種角色。我覺得這種興奮更多是關(guān)于商業(yè),而不是科學(xué)。 Bari Weiss:嗯,有一家公司讓我感到興奮,或許這么說有些爭議,但我確實覺得它的創(chuàng)始人是這個國家最有趣的人之一,那就是 Palmer Luckey 和他的公司 Anduril Industries。 而 OpenAI 最近達(dá)成了一項協(xié)議,共同開發(fā)具有軍事應(yīng)用的AI。此前,OpenAI 曾明確禁止將其技術(shù)用于武器化。 當(dāng)然,現(xiàn)在的前提是你們專注于防御系統(tǒng),比如可以防御無人機(jī)群攻擊的系統(tǒng),這或許與目前新澤西正在發(fā)生的事情有關(guān)。我想談?wù)勥@個話題。是什么讓你在根本上改變了主意,決定將公司的技術(shù)整合到甚至是防御性武器系統(tǒng)中? Sam Altman:我們建立了一套原則,并批準(zhǔn)了符合這些原則的一些用例。但我認(rèn)為,如果美國的領(lǐng)先努力不能幫助保衛(wèi)美國及其盟友免受對手的威脅,我們將處于一個非常糟糕的境地。因此,我們需要找到應(yīng)對這一挑戰(zhàn)的辦法。 Bari Weiss:一年半前,當(dāng)我們聊天時,部分討論內(nèi)容是關(guān)于我們是否正在進(jìn)行與中國的 AI 軍備競賽。而現(xiàn)在,很明顯,我們確實深陷與中國的 AI 軍備競賽中。即使是那些擔(dān)心 AI 力量的人也會覺得,如果只能在我們和中國之間選擇,那必須是我們獲勝。 Sam,你一定經(jīng)常思考這個問題,能否為我們描繪一下,如果中國贏得 AI 軍備競賽,會發(fā)生什么?對美國來說會怎樣?對世界來說又會怎樣? Sam Altman:那就是中國想要的東西。 Bari Weiss:你認(rèn)為這種可能性是真實存在的嗎? Sam Altman:是的,我的意思是,我們會拼盡全力確保這種情況不會發(fā)生。 Bari Weiss:我們怎么知道他們是否在贏得這場競賽? Sam Altman:這就是困難的地方,對吧?我們知道他們公開發(fā)布的內(nèi)容,但不知道他們未公開的內(nèi)容。我們有很多信號來源,也有情報系統(tǒng)。但就我個人立場而言,我們必須盡力合作。 軍備競賽對所有參與者來說都是不利的。這是歷史上我們一次又一次學(xué)到的教訓(xùn),但如果有需要,我們也必須能夠贏得這場競賽。 我希望這能成為促進(jìn)世界和平的一個偉大契機(jī),我相信如果有一個時機(jī)能讓全人類團(tuán)結(jié)起來,這似乎是一個很好的候選機(jī)會。我希望我們能達(dá)到那個目標(biāo)。但我們不能對此抱有天真的想法。 Bari Weiss:特朗普總統(tǒng)經(jīng)常談?wù)撏ㄟ^實力實現(xiàn)和平。那么,Sam Altman 和 OpenAI 的「通過實力實現(xiàn)和平」版本是否意味著我們必須在 AI 領(lǐng)域擊敗對手,遙遙領(lǐng)先,從而讓中國無從選擇? Sam Altman:不是擊敗對手,而是需要領(lǐng)先,并且我們需要盡可能地愿意合作。我認(rèn)為這在某種程度上類似于「通過實力實現(xiàn)和平」。也就是說,如果有一場軍備競賽,我們會贏,但我們并不希望有這場競賽。 Bari Weiss:意思是,如果有軍備競賽,我們希望贏,但我們根本不希望有這場競賽,對嗎? Sam Altman:但我們會贏。這甚至不只是這樣。更像是,如果有任何可能以合作方式完成這件事的路徑,我們就應(yīng)該這樣做,但我們無法控制其他實體的行為。 Bari Weiss:你是說合作嗎? Sam Altman:是的,我們與中國合作。實際上,我可以直接說,我認(rèn)為我們經(jīng)常在戰(zhàn)略利益所在的領(lǐng)域與那些我們并不和睦的人合作。而我認(rèn)為,這正是關(guān)乎全世界利益的一個領(lǐng)域,當(dāng)然也是我們公司使命所決定的領(lǐng)域。如果真正的合作是可能的,我們就應(yīng)該這樣做。 Bari Weiss:那我們現(xiàn)在在 AI 領(lǐng)域與中國進(jìn)行合作嗎? Sam Altman:你知道的可能比我還多?我本來想說,你可能確實比我了解更多。這將是新一屆政府面臨的一個重大問題,但這不會在公司層面上解決,而是會發(fā)生在兩國總統(tǒng)的層面上。 Bari Weiss:如果特朗普明天給你打電話說:「嘿,Sam,我想讓你擔(dān)任 AI 或 AI 監(jiān)管的負(fù)責(zé)人,你可以在這個職位上做任何你想做的事情!鼓闶紫葧鍪裁?這個職位最重要的事情是什么? Sam Altman:美國的基礎(chǔ)設(shè)施和供應(yīng)鏈。 Bari Weiss:對那些不知道這是什么意思的人稍微解釋一下。 Sam Altman:在美國國內(nèi)生產(chǎn)芯片,建立足夠的能源供應(yīng)來運(yùn)行數(shù)據(jù)中心,改變現(xiàn)有的條件,在這里建設(shè)數(shù)據(jù)中心,但關(guān)鍵是要能夠建立極其昂貴且復(fù)雜的供應(yīng)鏈,以及極其昂貴的基礎(chǔ)設(shè)施,這一切都要在美國完成。 Bari Weiss:AI 中的偏見和審查是一個巨大的話題,也是我們在《自由新聞》中經(jīng)常思考的議題。最明顯的例子之一就是幾天來人們熱議的,并且大家都在嘲笑的事情——Gemini 生成了那些「黑人喬治·華盛頓」和「跨性別」的圖像。 雖然這很搞笑,但某種程度上這也是一個非常嚴(yán)肅的問題,因為這似乎只是這個問題的一個極端、夸張且顯而易見的例子,而這個問題實際上是一個更深層次的系統(tǒng)性問題:這些技術(shù)中內(nèi)嵌的偏見,不僅來源于編程這些技術(shù)的人,還來源于它們從互聯(lián)網(wǎng)上抓取的信息。 和我們聊聊你們在 ChatGPT 上是如何看待這個問題的吧,因為顯然最接近現(xiàn)實的系統(tǒng)最終才會勝出。如果 ChatGPT告訴我喬治·華盛頓是跨性別者,我肯定不會再依賴它。你怎么看待偏見這個問題?你們是如何解決的? Sam Altman:我認(rèn)為有兩件事很重要。第一是用戶在讓系統(tǒng)按照他們想要的方式運(yùn)行時的靈活性。我認(rèn)為我們應(yīng)該設(shè)定非常寬泛的界限。 比如,有些事情顯然是不允許的,比如你不希望一個系統(tǒng)告訴你如何制造核武器。好吧,這點我們都能達(dá)成共識。但如果你希望系統(tǒng)變得具有攻擊性,并且你明確要求它這樣做,我認(rèn)為對齊的一部分就是在社會廣泛認(rèn)可的界限內(nèi)完成用戶的要求。 第二件非常重要的事情是系統(tǒng)的默認(rèn)設(shè)置。如果你不做任何個性化調(diào)整(大多數(shù)用戶不會這么做),而是隨便問一個有爭議的問題,那么系統(tǒng)應(yīng)該如何回應(yīng)? 我們在這兩方面都投入了大量工作。我們還嘗試寫出模型應(yīng)該如何表現(xiàn)的規(guī)范。我們稱之為模型規(guī)格(model spec),這樣你就可以判斷出它是否是一個漏洞,還是你不同意我們的一些立場。 Bari Weiss:是否有可能構(gòu)建一個像 ChatGPT 這樣的東西,或者其他我們甚至還無法想象的技術(shù),這些技術(shù)完全沒有政治觀點?這難道不是不可避免的嗎? Sam Altman:我認(rèn)為,不管你試圖讓這個東西多么中立,它要么變得毫無用處,因為它會直接回答「我不能回答,因為任何問題都有政治背景」;要么它會表現(xiàn)出某種觀點。這也是為什么我們認(rèn)為可以做的是寫下我們對默認(rèn)設(shè)置的意圖,人們可以就此展開辯論。 如果存在漏洞,我們可以查找漏洞。如果我們對默認(rèn)設(shè)置的定義有問題,我們可以改變定義并重新訓(xùn)練系統(tǒng)。但確實,我認(rèn)為沒有任何系統(tǒng)能夠被所有人認(rèn)為是完全無偏的。這也是個性化為什么如此重要的另一個原因。 Bari Weiss:你認(rèn)為 AI 或者 ChatGPT 有責(zé)任去對抗有害的思想嗎?讓我舉一個例子來說明我的意思。 比如說,如果你知道通過以一種極其微小的方式施加影響,你可能能夠促成一個世界,那里種族主義、厭女癥會減少,甚至可能會對人們來說是不可見的,因為他們根本不知道。 在某種程度上,就像我們剛才討論的,這可能會成為我們所有信息的控制層。你是如何看待這個問題的? Sam Altman:實際上,最近我在作為一個原則性問題思考一件事。OpenAI 完全沒有采納這一點,但這只是一個想法,我認(rèn)為它觸及到了你剛才提到的問題。 假設(shè)我們發(fā)現(xiàn)了一些新東西,比如,如果 ChatGPT 總是以蘇格拉底式的方法回應(yīng),或者其他方式,用戶的學(xué)習(xí)效果會顯著提高。 但假設(shè)用戶的偏好并不是想要蘇格拉底式的回答,而是直接要求系統(tǒng)回答他們的問題。那么,在這種情況下,我們應(yīng)該如何決定默認(rèn)的行為? 我最近越來越多地在思考一個想法:如果我們總是非常明確地說明我們對模型規(guī)格的任何修改會怎么樣?這樣你就不會像一些平臺,比如推特那樣,把一些東西隱藏在算法背后,用一些奇怪的方法來施加影響。 我們會始終告訴你模型的預(yù)期行為是什么,如果我們對其進(jìn)行了更改,我們會解釋原因。 但如果我們確實發(fā)現(xiàn)了像你剛才提到的那樣的情況,或者像我剛才舉例提到的情況,我們說,好吧,當(dāng)用戶在進(jìn)行教育用途時,我們將使用蘇格拉底式的方法,因為這確實似乎帶來了可衡量的效果。那么我們可以說清楚為什么我們這么做,并且公開對此進(jìn)行討論。 也許我們會改變默認(rèn)設(shè)置。如果你有其他看法并說服了我們,任何人當(dāng)然都可以在他們的用戶偏好中更改默認(rèn)設(shè)置,因為 AI 就像一個工具,應(yīng)該做用戶想要的事情。 但我認(rèn)為,錯誤的做法是我們更改了默認(rèn)設(shè)置卻沒有在模型規(guī)范中反映這一點,也沒有告知用戶我們進(jìn)行了更改。比如說,推特算法的「黑箱」讓我感覺并不好。 Bari Weiss:Sam,你曾向特朗普的就職典禮捐贈了 100 萬美元,這引起了一些關(guān)注,因為過去你稱他是種族主義者和陰謀論者等等。多年來,你一直是民主黨候選人和事業(yè)的慷慨捐助者。 但現(xiàn)在你說特朗普將引領(lǐng)我們進(jìn)入 AI 時代,你很期待支持他確保美國保持領(lǐng)先的努力。這是心態(tài)的轉(zhuǎn)變、政治立場的演變,還是你內(nèi)心發(fā)生了某種「氛圍轉(zhuǎn)變」?到底發(fā)生了什么? Sam Altman:這可能是以上所有的原因。此外我也希望,因為他是我們的總統(tǒng),我希望他能在任何方面取得成功。如果我們能夠支持他在這方面的努力,那也是我們想做的。 Bari Weiss:你的「氛圍轉(zhuǎn)變」是什么?我們知道硅谷和整個文化中都在發(fā)生一種「氛圍轉(zhuǎn)變」。過去幾年里,你自己發(fā)生了怎樣的變化? Sam Altman:我覺得發(fā)生了很多變化,其中之一是,在過去大約 10 到 12 年里,我看著事情變得偏離了正軌。 在某些方面情況是好的,但在如何看待增長和經(jīng)濟(jì)成功的重要性以及對國家和整個世界更廣泛的正確目標(biāo)的關(guān)注上,我認(rèn)為確實偏離了方向。 而我會說,這種「氛圍轉(zhuǎn)變」是一種希望,希望在我們正面臨技術(shù)歷史上最重要的時刻之一時,能夠推動「氛圍轉(zhuǎn)變」回到我深信不疑的方向,那就是增長是唯一正確的前進(jìn)之路。 Bari Weiss:你認(rèn)為 OpenAI 的增長,以及 AI 更廣泛的增長是一種愛國義務(wù)嗎? Sam Altman:是的。我實際上寫過類似的東西。有人剛剛把它發(fā)回給我,我大概在 10 多年前寫過一篇文章,好像是我第一篇博客文章,內(nèi)容是關(guān)于增長是民主運(yùn)轉(zhuǎn)良好的核心要素。 我認(rèn)為世界對這一點有了嚴(yán)重的誤解,我很高興看到它被重新看到。 本文來源:Appso |
原創(chuàng)欄目
IT百科
網(wǎng)友評論
聚超值•精選