太平洋科技 要聞

當(dāng) ChatGPT 的日活躍用戶突破 1.2 億，每天處理超過 10 億次查詢時，AI 已不再是一個高高在上的科技概念，而是深刻改變著人們的日常生活。

在這場席卷全球的技術(shù)浪潮中，OpenAI CEO Sam Altman 無疑是最重要的領(lǐng)軍人物之一。

昨天，Altman 化身產(chǎn)品經(jīng)理，在線發(fā)起了 2025 年的產(chǎn)品意見征集：

what would you like openai to build/fix in 2025? 你希望 OpenAI 在 2025 年能打造或改進(jìn)什么？

我們整理了網(wǎng)友的一些高贊回答，看看你更喜歡哪一項功能？

同樣在去年的 12 月份，Altman 也發(fā)起了類似的意見征集貼，2024 年即將過去，回顧 OpenAI 過去一年的產(chǎn)品，你覺得完成度如何？

而在近日，《自由新聞》記者 Bari Weiss 更是對 Altman 進(jìn)行了一次深度專訪。

「如果你回想我們在 2023 年 4 月時為之興奮的 AI 技術(shù)，相比我們現(xiàn)在擁有的技術(shù)，那時的技術(shù)簡直是原始的。」Altman 說。

在他看來，AI 不僅是一項革命性技術(shù)，更可能像晶體管一樣，成為推動人類社會進(jìn)步的基礎(chǔ)性力量。

然而，OpenAI 的狂飆突進(jìn)也帶來了一系列挑戰(zhàn)。

今年以來，馬斯克多次提起訴訟，試圖阻止 OpenAI 推進(jìn)其商業(yè)化進(jìn)程。對此，Altman 并未否認(rèn)馬斯克前期對 OpenAI 的幫助，但也對他的行為嗤之以鼻。

他是一個偉大的企業(yè)家，但也是一個惡霸。

與此同時，除了非營利組織到商業(yè)化的轉(zhuǎn)型所引發(fā)的爭議，在 AI 安全和監(jiān)管問題，中美技術(shù)競爭日趨激烈等關(guān)鍵議題上，Altman 也提供了關(guān)于他的視角和思考。

省流不看版如下：

全文共 1.8 萬個字，由 APPSO 編譯，enjoy it~

我 chat 了一下，AI 是如何在 18個月內(nèi)進(jìn)入我們的生活？

Bari Weiss：Sam Altman，非常感謝你能來參加這個節(jié)目，真的感謝。

Sam Altman：謝謝。

Bari Weiss：我們上次交談是在 2023 年 4 月，我知道從那以后你接受了無數(shù)次采訪，但那次談話似乎已經(jīng)是很久以前的事了。

當(dāng)時 ChatGPT 剛剛發(fā)布，人們才剛開始從抽象的層面試圖理解這項技術(shù)是什么，以及它可能會如何改變他們的日常生活。

而現(xiàn)在，坐在這里，已經(jīng)是 2024 年 12 月了，ChatGPT 已經(jīng)成了家喻戶曉的名字，OpenAI 也是如此。

當(dāng)然，你的一些競爭對手也一樣，比如 Perplexity、Gemini 和 Claude。普通美國人每天都在使用這些工具，從數(shù)學(xué)輔導(dǎo)到調(diào)試代碼，再到撰寫文稿，它們在這些方面表現(xiàn)非常出色。

告訴我，ChatGPT 以及更廣義上的 AI 技術(shù)自我們上次交談以來的一年半時間里發(fā)生了怎樣的變化？它是否達(dá)到了你今天的預(yù)期，還是已經(jīng)超出了？

Sam Altman：我認(rèn)為這里有兩個不同的方面需要討論。

一個是技術(shù)本身的變化，這一點確實變得好了太多。

如果你回想我們在 2023 年 4 月時為之興奮的 AI 技術(shù)，相比我們現(xiàn)在擁有的技術(shù)，那時的技術(shù)簡直是原始的。

現(xiàn)在的技術(shù)能力令我感到非常震撼。但更令人震驚的是，在接下來的一年里，這種技術(shù)改進(jìn)的速度。

如果我們在 18 個月后再回來討論它能做什么，我認(rèn)為從 2023 年 4 月到 2024 年 12 月的技術(shù)差距，可能會像我們向前再看 20 個月的變化一樣大，甚至更大。

另一個發(fā)生的事情是，這項技術(shù)已經(jīng)真正融入了社會。

回到那個時候，它仍然是一個新奇的東西，許多人聽說過它，但現(xiàn)在，人們確實大量使用它，不管是在工作還是個人生活中。

我從未見過一項技術(shù)以這樣的速度被廣泛采用——不僅僅是人們隨便嘗試一下，而是他們真正開始像你提到的那樣，在各個方面都使用它。所以，這種采用曲線比我想象的要快得多。我本來預(yù)計技術(shù)會發(fā)展得很快，但這種社會接受的速度還是超出了我的預(yù)期。

Bari Weiss：你在日常生活中是如何使用你幫助創(chuàng)造的這個工具的？就像我認(rèn)識的很多人在用它的方式一樣，比如 Tyler Cowan 和很多熱衷于技術(shù)的早期用戶，幾乎可以說它已經(jīng)取代了他們的 Google。

對他們來說，ChatGPT 就像是一個更深入、更強(qiáng)大的 Google。這是它的工作方式嗎？

Sam Altman：我用它來完成各種事情。但最新的一點是，幾個月前我們發(fā)布了搜索整合功能，現(xiàn)在 ChatGPT 可以在互聯(lián)網(wǎng)上搜索實時信息。

在我們發(fā)布過的所有功能中，這個功能讓我一下子把使用量翻了一倍。從那以后，我或許還用過 Google 做什么事情，但我已經(jīng)記不清是什么了。

而且我已經(jīng)把 ChatGPT 設(shè)置為 Chrome 中的默認(rèn)搜索引擎，從那之后，我再也沒有回頭看過傳統(tǒng)的搜索方式。

對于一個如此深深嵌入我行為模式中的東西，這種改變的程度讓我印象深刻�，F(xiàn)在，當(dāng)我回想起過去的搜索方式時，我覺得，那種方式就像是「哦，天啊，那是個前 iPhone 時代」的感覺。這種行為上的轉(zhuǎn)變，給我的感受就是這樣的。

這也是過去幾個月讓我最感到驚訝的變化——現(xiàn)在我所有的搜索都在 ChatGPT 里完成了。

Bari Weiss：你怎么稱呼它？你會叫它「搜索」嗎，還是有一個像「Google」那樣的動詞？

Sam Altman：一個動詞？我還是叫它「搜索」。不過，我聽說其他人，比如有些人會說「我用 chat 查了一下」或者「我 chat 了一下」。

Bari Weiss：「我 chat 了一下」？

Sam Altman：對，尤其是年輕人，他們似乎只把它稱為「chat」，但我還是說「搜索」。

Bari Weiss：Sam，就在幾個月前的 9 月，你在自己的網(wǎng)站上發(fā)表了一篇宣言，預(yù)測超級智能的出現(xiàn)會在未來幾年，或者正如你令人印象深刻的說法，是在未來幾千天內(nèi)。

給我們解釋一下什么是超級智能。告訴我們?nèi)绾沃�道它真的來了，以及它將在未來幾十年如何改變�(nèi)藗兊纳�活�?/p>

Sam Altman：我用來構(gòu)建自己思維框架的一種方式是觀察科學(xué)進(jìn)步的速度。

如果全球科學(xué)進(jìn)步的速度突然變?yōu)槿�倍，甚至是十倍，比如那些我們原本預(yù)計需要 10 年才能實現(xiàn)的發(fā)現(xiàn)或技術(shù)進(jìn)步，每年都能實現(xiàn)，然后一代接著一代地累積下去。

對我來說，這種狀態(tài)會讓我覺得超級智能已經(jīng)到來了。我認(rèn)為，這在很多方面會改變社會和經(jīng)濟(jì)的運(yùn)行方式。

但它不會改變的東西，我認(rèn)為很多 AI 評論員對此有誤解，那就是它不會改變?nèi)祟惿顚哟蔚幕�本�?qū)動力。

所以從這個意義上來說，我們已經(jīng)經(jīng)歷了許多次技術(shù)革命，而那些我們傾向于關(guān)心的事情，以及驅(qū)動我們所有人的動力，大多數(shù)情況下幾乎沒有改變，或者完全沒有改變。但我們所生存的世界將會發(fā)生巨大變化。

馬斯克是一個傳奇的企業(yè)家，但他顯然也是一個惡霸

Bari Weiss：好的，Sam，我們今天想和你進(jìn)行這次對話的一個原因，不僅僅是因為我們想聽你談 AI 如何改變我們的生活和工作方式，還因為你目前正與 OpenAI 的原始聯(lián)合創(chuàng)始人埃隆·馬斯克陷入一場非常公開的爭斗。

我想可以這樣說，大多數(shù)聽眾可能只是模糊地知道埃隆·馬斯克和你之間的沖突，與他旗下的某家公司有關(guān)，或者他的許多公司之一。

他們肯定沒有在關(guān)注那些錯綜復(fù)雜的訴訟細(xì)節(jié)或整體沖突。我想盡量以最公正的方式為你總結(jié)一下，然后你告訴我是否有哪里說錯了，或者我是否超出了限度。

OpenAI 于 2015 年成立，并以非營利組織的形式起步。在同年 12 月的一篇博客文章中，你們向世界介紹了 OpenAI，你是這樣寫的：

「OpenAI 是一家非營利的人工智能研究公司。我們的目標(biāo)是以最有可能造福全人類的方式推進(jìn)數(shù)字智能的發(fā)展，而不受產(chǎn)生經(jīng)濟(jì)回報的需求所限制。由于我們的研究沒有財務(wù)義務(wù)，我們可以更好地專注于對人類的積極影響�！� 這成為了 OpenAI 品牌的核心理念之一。

到了 2019 年，OpenAI 轉(zhuǎn)變?yōu)樗�謂的混合模式，也就是擁有一個盈利部門的模式。當(dāng)年，微軟對其進(jìn)行了 10 億美元的投資。

從那以后，微軟向 OpenAI 投入了大約 130 億美元，或者可能是更高的數(shù)字。而埃隆從一開始就是 OpenAI 的聯(lián)合創(chuàng)始人之一，但隨著時間的推移，他與公司的關(guān)系惡化，因為他不同意我剛才描述的這種轉(zhuǎn)變，即從非營利模式轉(zhuǎn)向混合模式。最終，他離開了公司，并辭去了董事會職務(wù)。

今年，埃隆迄今為止已經(jīng)多次起訴你和 OpenAI。他還接受了許多采訪，并在社交媒體上發(fā)布了無數(shù)條推文或「X」動態(tài)，內(nèi)容都圍繞這一沖突。

他所有的訴訟都聲稱，你們在推進(jìn) AI 的過程中，將利潤置于公眾利益之上，從而違反了某種合同。而在上個月，也就是最近的進(jìn)展中，埃隆要求加州的一位地區(qū)法官阻止 OpenAI 轉(zhuǎn)換為這種盈利性結(jié)構(gòu)。

好了，這信息量有點大。我總結(jié)得對嗎？有沒有什么關(guān)鍵的點被遺漏了，或者哪里有誤？

Sam Altman：你的總結(jié)是對的，不過，實際上最初最想讓 OpenAI 轉(zhuǎn)變?yōu)橛�利性機(jī)構(gòu)的正是埃隆。

他曾經(jīng)提出過許多方案，比如讓 OpenAI 成為特斯拉的一部分，或者創(chuàng)建一個全新的盈利機(jī)構(gòu)，他將完全控制。所以除了這一點以外，你的總結(jié)基本上是正確的。我對此有很多想法和看法，但作為事實陳述，你的總結(jié)基本正確。

Bari Weiss：請用一個高度概括的視角總結(jié)一下埃隆·馬斯克與他的各種盟友（包括 Meta 在內(nèi)）之間，以及你們之間的根本沖突是什么？這種分歧到底是什么？

Sam Altman：我無法進(jìn)入埃隆的腦海，所以這只是一些推測。埃隆確實在 OpenAI 的早期階段做了很多貢獻(xiàn)。

盡管如此，我對此非常感激，并且我認(rèn)為他是一個傳奇的企業(yè)家，但他顯然也是一個惡霸，并且顯然喜歡與人爭斗。目前是和我，之前是貝佐斯、蓋茨、扎克伯格以及很多其他人。我認(rèn)為從根本上來說，這和 OpenAI 做得非常好有關(guān)，而埃隆非常在意做得非常好。

埃隆現(xiàn)在創(chuàng)立并運(yùn)營了一家非常直接的競爭對手公司，這家公司試圖做與 OpenAI 完全相同的事情。從結(jié)構(gòu)上來看，我聽說他的公司是一個公共利益公司（PBC），而且埃隆擁有多數(shù)股權(quán)和控制權(quán)，這似乎是他會做的合理的事情。

我認(rèn)為媒體在這一點上有很多錯誤報道。即使我們考慮了一些轉(zhuǎn)換或發(fā)展想法，也并不意味著非營利機(jī)構(gòu)會消失。

非營利機(jī)構(gòu)不會因為某些發(fā)展計劃就停止成為非營利機(jī)構(gòu)。我們公開討論過，也許我們會將目前的 LLC 演變成 PBC，但無論我們做什么，都會加強(qiáng)非營利機(jī)構(gòu)的作用。

非營利機(jī)構(gòu)將繼續(xù)存在，我們也會繼續(xù)努力實現(xiàn)相同的目標(biāo)，也就是你之前提到的：開發(fā)這項不可思議的技術(shù)，以我們認(rèn)為對人類最有益的方式開發(fā)，并將其推廣到全世界。

我們會繼續(xù)這樣做，我對我們迄今為止的表現(xiàn)感到非常自豪。正如你之前提到的，人們使用并喜歡 ChatGPT。ChatGPT 有一個不可思議的免費版本，我們在這上面虧了錢，它也沒有廣告支持或其他商業(yè)模式。

我們只是想把 AI 放在用戶手中。我們希望通過技術(shù)的部署，讓人們與之共同進(jìn)化、理解它，并經(jīng)歷目前全球在應(yīng)對 AI 的過程中所經(jīng)歷的一切。最終，世界將面對 AGI（通用人工智能）的思考。

我們正在做的一切都是朝著這個方向推進(jìn)的。我相信，如果埃隆不掌控 OpenAI，他會為我們所做的一切感到高興。

他離開公司時認(rèn)為我們會失敗，并且他不想?yún)⑴c到一個他無法完全控制的 OpenAI 中。但我認(rèn)為這些爭議有點像無關(guān)緊要的鬧劇。

對我們來說，正確的做法是繼續(xù)進(jìn)行出色的研究，持續(xù)推出人們喜愛的產(chǎn)品，最重要的是，堅持追求「讓 AGI 造福人類」的使命，并將其推向世界。

Bari Weiss：對于剛剛接觸這個話題的人來說，為什么 OpenAI 轉(zhuǎn)換為盈利性公司，或者以你們一直在討論的方式進(jìn)行轉(zhuǎn)換，對 OpenAI 的成長至關(guān)重要呢？為什么這是不可或缺的？

Sam Altman：當(dāng)我們創(chuàng)立 OpenAI 時，我們覺得很難回想起 2015 年的情況有多么不同。當(dāng)時還沒有語言模型和聊天機(jī)器人， ChatGPT 更是遙不可及。

我們當(dāng)時在進(jìn)行研究，發(fā)表論文，研究可以玩電子游戲和控制機(jī)器人手的人工智能之類的東西。我們本來以為能籌到 10 億美元，但最終沒有成功。

我們當(dāng)時覺得，靠這 10 億美元可以在我們試圖實現(xiàn)的目標(biāo)上取得實質(zhì)性的進(jìn)展。

然而，隨著我們不斷深入學(xué)習(xí)并進(jìn)入大規(guī)模語言模型的世界，我們意識到這不僅僅需要 10 億美元，甚至不止 100 億美元，而是可能需要超過 1000 億美元的投入。

而作為一家非營利機(jī)構(gòu)，我們根本無法做到這一點。所以，這是轉(zhuǎn)型的根本原因。

Bari Weiss：那么，換句話說，也許可以這樣理解：獲得計算能力的支持對于創(chuàng)造這項技術(shù)來說是絕對必要的。

Sam Altman：沒錯，而且其他所有從事AI的努力也已經(jīng)意識到了這一點，并以某種方式設(shè)立了能夠接觸資本市場的機(jī)制。

Bari Weiss：最近你對埃隆說了很多不同的話。在一次采訪中，Andrew Ross Sorkin 問到你對這場沖突的感受時，你的回答是「感到難過」。你還說你認(rèn)為埃隆的公司很棒。

然后他問你，是否認(rèn)為埃隆會利用他新獲得的政治影響力來懲罰你、懲罰 OpenAI 或懲罰他的競爭對手。你在采訪中表示，你認(rèn)為他會做正確的事。這與你剛剛告訴我的話——埃隆是個欺凌者——怎么協(xié)調(diào)呢？欺凌者通常不會做正確的事吧？

Sam Altman：我覺得這兩件事是完全可以并存的。我認(rèn)為有些人在推特上真的可能表現(xiàn)得很糟糕，但這并不意味著他們會濫用一個國家的體系——特別是在他們現(xiàn)在處于一個極具影響力的政治角色時。這對我來說是完全不同的事情。

Bari Weiss：到目前為止，這場爭斗——對于那些長期在線、時刻刷推特的人來說——主要通過推文、隱晦的推文進(jìn)行，我們都在推特上實時關(guān)注這場沖突的進(jìn)展。而 OpenAI 基本上處于一種回應(yīng)模式，有時甚至是完全忽視的狀態(tài)。我覺得這是可以這樣描述的。

這種狀態(tài)在幾天前發(fā)生了改變，你們在 OpenAI 的網(wǎng)站上發(fā)表了一篇非常非常長的備忘錄。它像是一篇博客文章，推薦大家去閱讀一下。這篇文章幾乎完全是一條時間線，從 2015 年開始回顧，展示了你們的觀點，通過電子郵件、短信截圖及其解釋，證明埃隆早在那時就對 OpenAI 成為一家盈利性機(jī)構(gòu)持開放態(tài)度。我讀了整整29頁內(nèi)容。如果有人不想讀，可以去讓 ChatGPT 總結(jié)一下。ChatGPT 告訴我，這是它的總結(jié)：

「這篇文章詳細(xì)描述了埃隆·馬斯克與 OpenAI 領(lǐng)導(dǎo)層，尤其是 Sam Altman 之間的分歧，源于馬斯克對 OpenAI 從非盈利模式轉(zhuǎn)向混合盈利模式的不滿。這場爭端很重要，因為它突出了 AI 應(yīng)該如何開發(fā)和控制的更廣泛倫理難題——是否應(yīng)該優(yōu)先考慮公眾利益還是公司利潤，尤其是在強(qiáng)大的 AI 技術(shù)對社會和經(jīng)濟(jì)的影響日益增長的情況下�！�

我覺得這個總結(jié)挺不錯的，你怎么看？

Sam Altman：不，但關(guān)于你的總體觀點，你是對的，我們確實沒有在推特上來回爭吵。這次發(fā)布聲明的原因是我們必須提交法律文件，并希望提供一些背景說明。我們以前也曾因類似情況發(fā)布過一次聲明，那也是因為我們不得不提交法律文件。我已經(jīng)記不清埃隆起訴了我們多少次了，我想大概有 4 次吧。

他撤回了、修改了，然后又申請臨時禁令等等。我們的任務(wù)是以造福人類的方式構(gòu)建 AGI，并找到安全且廣泛分發(fā)它的方法。我們的任務(wù)不是與埃隆在推特上打嘴仗，但如果我們必須對法律文件做出回應(yīng)，我們會這樣做，有時也會提供背景說明。我想我們只做過兩次這樣的事情。

Bari Weiss：在 OpenAI 早期階段，它的品牌形象——至少在我看來——是透明和非營利性，這些是它反復(fù)強(qiáng)調(diào)的內(nèi)容。你說過，你不能持有任何股份，你拿的薪水也很低，因為你說，「我不想有利益沖突。我想始終以最符合人類利益的事情為動力�！�

2015 年 12 月 OpenAI 剛成立后的第二天，你在接受《名利場》的采訪時將其描述為一家「致力于拯救世界免于反烏托邦未來的非營利公司」。

你還說過，試圖讓 OpenAI 成為一家盈利性公司將導(dǎo)致「與世界整體利益不一致的激勵機(jī)制」，這是次優(yōu)的選擇。我想問一下，你是否仍然同意這個觀點，還是只是因為開發(fā)這些模型需要數(shù)百億資金而不得不適應(yīng)現(xiàn)實？

Sam Altman：兩點。首先，我覺得自己當(dāng)時有點錯了。雖然我對這一點始終有擔(dān)憂，但我對我們以及其他 AI 實驗室在這方面的表現(xiàn)感到印象深刻。盡管它們有各種市場或經(jīng)濟(jì)激勵機(jī)制，但它們確實非常專注于開發(fā)安全的模型。

我認(rèn)為這其中有很多因素。一方面，我們在技術(shù)發(fā)展的方向上有些幸運(yùn)；但另一方面，如果你以一種對人類有害的方式部署這些模型，我相信你很快就會失去運(yùn)營許可。這一點是顯而易見的。

當(dāng)然，也有一些微妙的錯誤可能會發(fā)生，比如我認(rèn)為社交媒體就是一個例子，當(dāng)時可能沒有明顯的危害，但隨著規(guī)模的擴(kuò)大出現(xiàn)了一些突發(fā)性的屬性。

你可以想象類似的事情可能發(fā)生。但激勵機(jī)制問題比我當(dāng)時想象的要好一些。我愿意坦率地承認(rèn)，10 年前我對世界的運(yùn)行方式有些天真，而現(xiàn)在我對此感到更有信心。

Bari Weiss：天真？怎么說？

Sam Altman：來自社會的壓力——尤其是對大公司的壓力，以及研究人員推動他們的公司做正確事情的力量——即便是在巨大的利潤動機(jī)面前，表現(xiàn)都還算不錯。

但有一件事我當(dāng)時就不覺得天真，現(xiàn)在依然如此，那就是：這種事情竟然發(fā)生在少數(shù)幾家私營公司手中，這讓我依然覺得非常不可思議。

對我而言，這感覺就像我們這個時代的曼哈頓計劃或阿波羅計劃。而這些計劃不是由私營公司完成的，我認(rèn)為這反而是一個功能良好的社會的標(biāo)志。

Bari Weiss：你認(rèn)為我們需要一個曼哈頓計劃嗎？

Sam Altman：我認(rèn)為公司會做正確的事情，一切會順利進(jìn)行。而且在當(dāng)前的世界里，我認(rèn)為政府主導(dǎo)的努力根本行不通。老實說，即使它真的成功了，我也不覺得那是件好事。我只是希望我們生活在一個讓我覺得那才是應(yīng)該的方式并正在發(fā)生的世界里。

Bari Weiss：Meta 現(xiàn)在顯然站在了埃隆一邊。幾天前，Meta 要求加州檢察長阻止 OpenAI 轉(zhuǎn)變?yōu)闋I利性機(jī)構(gòu)。他們在信中這樣寫道：「OpenAI 的行為可能會對硅谷產(chǎn)生巨大的影響。如果 OpenAI 的新商業(yè)模式被認(rèn)可，那么非營利投資者將能夠獲得與傳統(tǒng)方式投資盈利性公司相同的利潤，同時還能夠享受政府提供的稅收減免�！�

這呼應(yīng)了馬斯克去年說的話，他當(dāng)時表示：「我很困惑，一個我捐贈過的非營利機(jī)構(gòu)怎么會變成一個市值巨大的盈利性機(jī)構(gòu)。換句話說，如果這是合法的，為什么大家不都這么做？」

Sam Altman：我不知道 Meta 為什么要發(fā)那封信，但我知道他們知道事實并非如此。我知道在這些領(lǐng)域，沒有人會因為非營利組織的捐贈而直接獲益于某種盈利性股權(quán)。當(dāng)然，他們也知道這一點。

你可以想象 Meta 發(fā)這封信有很多其他的原因。比如，他們可能想討好埃隆；他們可能覺得這樣做有助于他們與我們競爭；或者他們可能因為認(rèn)為我們對開源持反對態(tài)度而對我們感到不滿——盡管我不認(rèn)為這是準(zhǔn)確的，也不是我所感受到的原因。我不知道，你可以去問問他們真正的原因是什么。

Bari Weiss：對于普通人來說，聽到這些可能會困惑：一個非營利組織如何變成一個盈利性機(jī)構(gòu)？答案是什么？

Sam Altman：非營利組織仍然是非營利組織。我相信 OpenAI 的非營利組織正在走上一條軌跡，我希望如果我們做得好，它將成為史上最大、最有影響力的非營利組織。

非營利組織不會變成其他任何東西。就像其他許多事情一樣，我們的生態(tài)系統(tǒng)中可以有一個盈利性的業(yè)務(wù)存在，但這并不意味著非營利組織會轉(zhuǎn)變。非營利組織不會消失，也不會停止從事非營利性的事情。

誰是從 OpenAI 中獲利最多的人

Bari Weiss：最終，Sam，誰將從 OpenAI 的成功中獲利最多？

Sam Altman：所有人。我告訴你，我希望每個人都可以用他們的比喻來描述這場技術(shù)革命最像什么。有人說這是工業(yè)革命，有人說這是電力革命，也有人說它像互聯(lián)網(wǎng)。但我希望它像晶體管。

我們發(fā)現(xiàn)了一項新的重要的基礎(chǔ)性物理規(guī)律，或者你愿意叫什么都行。

我們進(jìn)行了大量研究，其他人也進(jìn)行了研究，而它將滲透到經(jīng)濟(jì)、產(chǎn)品以及一切事物的各個方面。

今天你我正在使用許多含有晶體管的設(shè)備，才讓這次播客成為可能。計算機(jī)里有一些，你的麥克風(fēng)里有一些，你我之間所有的互聯(lián)網(wǎng)設(shè)備里都有很多，但我們并不會坐在這里去思考晶體管的存在。

而晶體管公司也不會坐在這里賺取所有的財富。這一令人驚嘆的科學(xué)發(fā)現(xiàn)已經(jīng)滲透到我們生活的方方面面，每個人都從中賺到了錢。這就是我希望 AI 能夠成為的樣子，我認(rèn)為這也是最好的類比之一。

Bari Weiss：你有沒有股份？或者你在這個新的盈利封頂公司中有什么樣的權(quán)益？

Sam Altman：目前我們還沒有成立一個新實體。我們顯然考慮過成立一個新實體，或者可能將我們現(xiàn)有的 LLC 轉(zhuǎn)變?yōu)橐粋�更準(zhǔn)確的實體。

我通過一個早期 YC 基金持有少量股份。我過去通過紅杉資本基金持有一些股份，但那部分后來更容易出售，也沒有繼續(xù)保留。

所以我持有的股份非常少，對我來說幾乎沒有意義。我未來是否會有股份，目前沒有任何計劃或承諾。如果我得到了什么，也不會像外界那些荒謬的傳聞那樣，傳聞的數(shù)字是不可能發(fā)生的。

Bari Weiss：你知道為什么人們對這個問題如此關(guān)注。

Sam Altman：正如我之前多次說過的，如果我能回到過去，我會選擇持有股份。我現(xiàn)在更能理解當(dāng)初我的擔(dān)憂為何是錯位的。我也明白現(xiàn)在去持有股份會顯得有些奇怪，畢竟之前沒有。

但另一方面，我真希望不用再回答這個問題，成為一家正常的公司，我管理它，有一些股權(quán)投資者，不需要擔(dān)心我在其中是否有利益沖突。

整個關(guān)于「沒有任何股份」的懷疑氣氛，是我對 OpenAI 結(jié)構(gòu)中最遺憾的決定之一。但我理解為什么人們對它如此執(zhí)著，這也很合理。

Bari Weiss：如果你能回到過去，你會從一開始就怎么做？讓我們把時間倒回到 2015 年。

Sam Altman：如果當(dāng)時有一個預(yù)言家能告訴我，在 2015 年 11 月之前：

如果一個預(yù)言家提前告訴我這三點內(nèi)容，我會說：「很好，讓我們成為一家公共利益公司（PBC）�！�

Bari Weiss：埃隆在推動 OpenAI 起步時有多關(guān)鍵？如果預(yù)言家也告訴你后來你們之間會發(fā)生這場沖突，而他是你曾經(jīng)視為親密朋友的人，你會說，「沒關(guān)系，我可以自己完成」嗎？

Sam Altman：不會，他真的幫了很大的忙。我對此非常感激。

Bari Weiss：我第一次看到埃隆·馬斯克是在一個會議的舞臺上，當(dāng)時你在采訪他。你們之間的互動非常棒，看起來像是非常好的朋友。

他對你說了一些非常嚴(yán)厲的話，比如把你比作《權(quán)力的游戲》里的小指頭（Littlefinger），最具殺傷力的一句話是：「我不信任他，我不希望世界上最強(qiáng)大的 AI 被一個不值得信任的人掌控�！顾麨槭裁催@么說？

Sam Altman：我想是因為他希望世界上最強(qiáng)大的 AI 由他來掌控。另外，我見過埃隆對許多人、包括我的很多朋友發(fā)起攻擊。每個人都會有被他抨擊過，但這些看起來都是他一貫的行為方式。

Bari Weiss：我試圖站在一個前朋友、前合作伙伴的角度，想象他說出那種話。我覺得你對這件事似乎相對冷靜。

Sam Altman：不，我對此當(dāng)然很難過。我最近和一個我認(rèn)為關(guān)系很親近的人聊到這件事時，我說：「埃隆沒有朋友，埃隆不做同伴，埃隆不交朋友�！�

這讓我覺得很遺憾，因為我確實把他當(dāng)作朋友。但我也不知道，我能以一種相對冷靜的方式看待這件事。我記得他曾經(jīng)說過 OpenAI 成功的可能性是零，說「你們這些人是笨蛋」，然后撤資并表示他會自己干。

在那之后，有些時刻讓我覺得他似乎想要和解，并找到一種合作的方式。但我也記得有些時候，他只是在推特上做自己的事。如果這些攻擊只是針對我一個人，我覺得會更加痛苦。但你知道，他在推特上的行為，大家都看得見。

所以我可以用一種相對不帶個人感情的方式看待這些，把它當(dāng)作關(guān)于埃隆的問題，而不是關(guān)于我的問題。但這仍然讓我難受。我想，我花了很長時間才習(xí)慣這種感覺吧。

Bari Weiss：最近在 OpenAI 網(wǎng)站上發(fā)表的那篇博客文章提到，埃隆應(yīng)該「在市場上競爭，而不是在法庭上競爭」。

當(dāng)然，從一個憤世嫉俗的角度來看，正如你在這次談話中暗示的那樣，埃隆現(xiàn)在擁有一家與 OpenAI 競爭的公司 xAI，他起訴你們并不是因為他真的關(guān)心AI安全或者其他什么問題，而只是想?yún)⑴c競爭。對此你怎么看？憤世嫉俗的觀點是真的嗎？這真的是一場為了爭奪市場主導(dǎo)地位的競爭嗎？

Sam Altman：你應(yīng)該去問他。我希望你能邀請他來節(jié)目。

AI 不可能完全中立，支持有限度的監(jiān)管

Bari Weiss：好吧。你不僅被認(rèn)為是世界上最重要的 AI CEO 和 AI 開發(fā)者之一，還被廣泛認(rèn)為是 AI 監(jiān)管的積極倡導(dǎo)者。

這里的一個憤世嫉俗的觀點是，就像你可以質(zhì)疑埃隆的動機(jī)一樣，也可以認(rèn)為你推動 AI 監(jiān)管的方式是為了抑制競爭，從而使你的公司受益。顯然，你以前聽過這樣的論點。

Sam Altman：我認(rèn)為過多的監(jiān)管顯然會對社會產(chǎn)生巨大的負(fù)面影響。目前在許多地方，我們的監(jiān)管已經(jīng)過多了。我是說，埃隆和其他大多數(shù)大型 AI 項目的負(fù)責(zé)人也都在積極呼吁 AI 監(jiān)管。

當(dāng)你登上一架飛機(jī)時，你會覺得飛行的安全性非常高。當(dāng)你在美國吃食物時，你不會太多考慮食品安全的問題。一些監(jiān)管顯然是好事。當(dāng)然，我可以想象一些 AI 監(jiān)管的版本可能會帶來真正的問題，并對小型項目造成不利影響。

我認(rèn)為那會是一個真正的錯誤。但針對最強(qiáng)大的系統(tǒng)進(jìn)行一些安全保護(hù)措施，這種措施應(yīng)該只影響那些站在技術(shù)前沿的公司，比如 OpenAI 以及少數(shù)其他公司。我不認(rèn)為我們目前的這些系統(tǒng)已經(jīng)達(dá)到巨大的安全隱患級別，但我也不認(rèn)為我們離那個程度還非常遙遠(yuǎn)。

Bari Weiss：一些初創(chuàng)公司提出的論點，比如一家叫 Hugging Face 的 AI 初創(chuàng)公司（這個名字真有意思），還有一家叫 Stability AI 的公司的創(chuàng)始人。

他們基本上在說，Sam 和其他大型公司，比如 OpenAI、Google 和蘋果，正在試圖通過政府的監(jiān)管為自己建立護(hù)城河，并通過監(jiān)管俘獲來抑制競爭。

你對此怎么看？這就像大科技公司和小科技公司之間的爭論。這個問題可以用多種方式來詮釋。對于那些說「我們想?yún)⑴c競爭，但像 Sam 這樣的人的監(jiān)管主張會傷害我們而有利于他們」的人，你有什么想說的嗎？

Sam Altman：如果他們的意思是說，「我們落后于 OpenAI，所以這不重要」，而我們呼吁的僅僅是針對前沿技術(shù)的監(jiān)管，比如那些全新且未經(jīng)測試的東西，而對于其他方面，比如想發(fā)布什么開源模型都可以，我覺得他們這樣辯解是不合理的。

我不知道。我很好奇你是怎么想的。如果我們成功了，開發(fā)出了一個超級智能，一個可能比整個人類加起來還要聰明、更有能力的計算機(jī)程序，你認(rèn)為對此應(yīng)該有任何監(jiān)管嗎？還是說他們會說「完全不需要」？

Bari Weiss：我當(dāng)然認(rèn)為，首先，我甚至不太明白當(dāng)我們談?wù)摮�級智能時到底在談什么。你對它的含義和影響有著我完全不具備的理解，這是第一點。

第二點，如果這項技術(shù)真的像你、埃隆以及其他很多與它接觸更近的人所說的那樣強(qiáng)大，那么我當(dāng)然認(rèn)為它應(yīng)該以某種方式受到監(jiān)管。至于如何監(jiān)管、何時監(jiān)管，顯然是一個非常重要的問題。

Sam Altman：如何監(jiān)管以及何時監(jiān)管確實非常重要。我同意這一點，我也可以很容易想象到這件事可能會出問題。

Bari Weiss：最近，馬克·安德森在這個節(jié)目中談到他對拜登政府在 AI 技術(shù)方面所做努力的看法。他在節(jié)目中講了一個他親身經(jīng)歷的故事。

他說，拜登政府試圖完全控制 AI，他們的目標(biāo)是讓政府對 AI 的監(jiān)管非常嚴(yán)格。用他的話說，這樣最終只會有兩到三家大公司能夠與政府合作，而他們這樣做的目的是為了保護(hù)這些公司免受競爭。這是真的嗎？你知道他提到的是否與 OpenAI 有關(guān)，OpenAI 是不是其中之一？

Sam Altman：我不知道他提到的具體內(nèi)容。我也要非常明確地說，我認(rèn)為任何減少 AI 競爭的監(jiān)管都是非常糟糕的事情。

Bari Weiss：所以，OpenAI 并不是那些公司之一？

Sam Altman：不是，我其實不知道他說的是什么，但我們肯定不是。

Bari Weiss：據(jù)我所知，你從未與拜登政府和其他 AI 公司一起出現(xiàn)在某個會議室里？

Sam Altman：我甚至不認(rèn)為拜登政府有足夠的能力做到這一點。我是說，我們確實和他們一起開過會，但從來沒有其他公司參與，也從來沒有出現(xiàn)什么陰謀論之類的，比如「我們只允許少數(shù)幾家公司能開發(fā) AI」這種事情，從來沒有發(fā)生過。

Bari Weiss：你對拜登政府在 AI 和科技領(lǐng)域的總體態(tài)度怎么看？你剛才提到你覺得他們沒有足夠的能力。

Sam Altman：我覺得 Gina Raimondo 很棒，我和她的每次對話都讓我覺得她很明白其中的關(guān)鍵。不過總體來說，我認(rèn)為這個政府的效率并不高。我認(rèn)為他們應(yīng)該優(yōu)先考慮的事情——也是我希望下一屆政府能夠優(yōu)先考慮的事情——是建立美國國內(nèi)的大規(guī)模AI基礎(chǔ)設(shè)施，以及在美國國內(nèi)建立供應(yīng)鏈等類似的事情。

Bari Weiss：當(dāng)馬克來節(jié)目時，我請他試著為拜登政府的立場辯護(hù)，或者為AI應(yīng)該受到嚴(yán)格監(jiān)管的觀點辯護(hù)。他基本上把這個問題類比為曼哈頓計劃和原子彈的研發(fā)，當(dāng)時政府認(rèn)為有必要確保這一新科學(xué)和創(chuàng)新首先保持機(jī)密化。

你覺得這個類比恰當(dāng)嗎？如果你同意這個類比，并且認(rèn)為 AI 的力量與核武器相當(dāng)，那是否意味著這應(yīng)該是聯(lián)邦政府的項目，而不是 OpenAI、Gemini 和 Claude 的項目？

Sam Altman：我覺得所有的類比都有難點，因為它們在某些方面成立，但在其他方面又不成立。比如，你可以指出一些與核時代類似的事情。

你可以談到，比如濃縮鈾需要巨大的資源和能量，而另一方面，生產(chǎn)這些模型也需要大量的資源和能量。所以你可以找到一些類似的地方。但使用這些模型和使用核武器是完全不同的事情，其政治影響也完全不同。

我認(rèn)為，如果要為那些說「這就像核武器」的人辯護(hù)，我覺得他們的意思是：這項技術(shù)極其昂貴，同時具有深遠(yuǎn)的地緣政治后果。我們不知道這些后果具體是什么，也不知道該如何看待它們。但正因為我們不確切知道這些后果是什么，難道我們不應(yīng)該有一個讓政府決定的原則嗎？

我可以想象，在歷史上其他時期的其他政府中，我們會非常歡迎這種結(jié)果。但我認(rèn)為，讓當(dāng)前的美國政府負(fù)責(zé)以比我們的競爭對手更快更好的方式開發(fā) AGI，可能不會有好的結(jié)果。我認(rèn)為，美國的國家能力的衰退并不是一個新觀察，但卻是一個令人悲哀的現(xiàn)象。

Bari Weiss：在核時代的開端，我們國家有些人幾乎像首席科學(xué)官一樣發(fā)揮作用，對吧？我想到的是像萬尼瓦爾·布什這樣的人，他幫助啟動了曼哈頓計劃，創(chuàng)立了國家科學(xué)基金會，并在核能初期那些非常關(guān)鍵的幾年中指導(dǎo)了美國的政策�，F(xiàn)在有沒有這樣的人存在，不管他們是不是在華盛頓？

如果我們想要有一個這樣的人，他們理解這項技術(shù)，沒有任何經(jīng)濟(jì)利益，并能夠與總統(tǒng)無論是拜登、特朗普還是他們之后的領(lǐng)導(dǎo)人討論，不僅僅是 AI 開發(fā)的問題，還有與中國的競爭問題，現(xiàn)在美國有沒有這樣的人？或者說，這個人可能是你？

Sam Altman：我覺得這種意愿正在稍微恢復(fù)一點，但很長一段時間里，美國公眾對科學(xué)和技術(shù)未來發(fā)展的熱情已經(jīng)消失了。如果讓我選擇一個時間點，我認(rèn)為這種熱情是在核武器出現(xiàn)時消失的。

其實，在原子彈投放后，有幾十年的「低迷期」，直到一代人更迭，那些經(jīng)歷過核彈時代的人變老并掌握權(quán)力后，我認(rèn)為美國從未再像過去那樣，完全擁抱科學(xué)和技術(shù)推動世界進(jìn)步的興奮感和信念。

你讀到那些關(guān)于過去人們所做事情的故事，會發(fā)現(xiàn)他們對科學(xué)技術(shù)是多么敬畏，人們相信科學(xué)技術(shù)的進(jìn)步會更廣泛地讓世界變得更好。但這種信念現(xiàn)在似乎缺失了，我不認(rèn)為這是因為我們?nèi)鄙倌軌蛲苿舆@一信念的個人，而是因為政府不想要，公眾也不想要。

Bari Weiss：不僅僅是政治氛圍的變化，你怎么看我們自 11 月 5 日以來經(jīng)歷的這種文化氛圍的變化？如果你在 8 周前跟我說這些，我會覺得 Sam 可能是對的。但現(xiàn)在感覺像是一個不同的國家。

Sam Altman：確實有巨大的文化氛圍變化，我認(rèn)為在很多方面都有非常積極的動能。但我不確定這種變化是否包括「我們重新認(rèn)為科學(xué)非常重要，科學(xué)會拯救我們，解決我們所有問題」的觀點。你覺得有這種變化嗎？還是說這是唯一一個我沒感覺到的領(lǐng)域？

Bari Weiss：我只是覺得現(xiàn)在的趨勢更傾向于「增長是好事，技術(shù)進(jìn)步是好事，虛無主義顯得過時了，正在失去人們的青睞」。我感覺到這種變化正在發(fā)生，而且是以一種戲劇性的方式發(fā)生的。也許這是因為我花了很多時間在 X 平臺上，這種趨勢似乎在那里醞釀，然后從線上蔓延到了現(xiàn)實世界。所以，如果你去哥倫比亞大學(xué)找一個普通的博士生聊聊，我覺得他們可能不會有和我一樣的感受，因為每個人的體驗都太不同了。

Sam Altman：我之前提到「分裂化」（balkanized），我覺得即使是在現(xiàn)場，這種情況也有所好轉(zhuǎn)。我非常同意你提到的那種總體上對增長和成功、讓國家和經(jīng)濟(jì)表現(xiàn)良好的興趣的轉(zhuǎn)變。

我也部分同意我之前提到的觀點，即我認(rèn)為即使是對科學(xué)的興趣，也比它曾經(jīng)的最低谷要好一些了。但當(dāng)你談到那些被視為國家科學(xué)大使的人，以及那些人們真正愿意傾聽和感到興奮的科學(xué)倡導(dǎo)者時，我還是不太確定是否真的存在這種角色。我覺得這種興奮更多是關(guān)于商業(yè)，而不是科學(xué)。

Bari Weiss：嗯，有一家公司讓我感到興奮，或許這么說有些爭議，但我確實覺得它的創(chuàng)始人是這個國家最有趣的人之一，那就是 Palmer Luckey 和他的公司 Anduril Industries。

而 OpenAI 最近達(dá)成了一項協(xié)議，共同開發(fā)具有軍事應(yīng)用的AI。此前，OpenAI 曾明確禁止將其技術(shù)用于武器化。

當(dāng)然，現(xiàn)在的前提是你們專注于防御系統(tǒng)，比如可以防御無人機(jī)群攻擊的系統(tǒng)，這或許與目前新澤西正在發(fā)生的事情有關(guān)。我想談?wù)勥@個話題。是什么讓你在根本上改變了主意，決定將公司的技術(shù)整合到甚至是防御性武器系統(tǒng)中？

Sam Altman：我們建立了一套原則，并批準(zhǔn)了符合這些原則的一些用例。但我認(rèn)為，如果美國的領(lǐng)先努力不能幫助保衛(wèi)美國及其盟友免受對手的威脅，我們將處于一個非常糟糕的境地。因此，我們需要找到應(yīng)對這一挑戰(zhàn)的辦法。

Bari Weiss：一年半前，當(dāng)我們聊天時，部分討論內(nèi)容是關(guān)于我們是否正在進(jìn)行與中國的 AI 軍備競賽。而現(xiàn)在，很明顯，我們確實深陷與中國的 AI 軍備競賽中。即使是那些擔(dān)心 AI 力量的人也會覺得，如果只能在我們和中國之間選擇，那必須是我們獲勝。

Sam，你一定經(jīng)常思考這個問題，能否為我們描繪一下，如果中國贏得 AI 軍備競賽，會發(fā)生什么？對美國來說會怎樣？對世界來說又會怎樣？

Sam Altman：那就是中國想要的東西。

Bari Weiss：你認(rèn)為這種可能性是真實存在的嗎？

Sam Altman：是的，我的意思是，我們會拼盡全力確保這種情況不會發(fā)生。

Bari Weiss：我們怎么知道他們是否在贏得這場競賽？

Sam Altman：這就是困難的地方，對吧？我們知道他們公開發(fā)布的內(nèi)容，但不知道他們未公開的內(nèi)容。我們有很多信號來源，也有情報系統(tǒng)。但就我個人立場而言，我們必須盡力合作。

軍備競賽對所有參與者來說都是不利的。這是歷史上我們一次又一次學(xué)到的教訓(xùn)，但如果有需要，我們也必須能夠贏得這場競賽。

我希望這能成為促進(jìn)世界和平的一個偉大契機(jī)，我相信如果有一個時機(jī)能讓全人類團(tuán)結(jié)起來，這似乎是一個很好的候選機(jī)會。我希望我們能達(dá)到那個目標(biāo)。但我們不能對此抱有天真的想法。

Bari Weiss：特朗普總統(tǒng)經(jīng)常談?wù)撏ㄟ^實力實現(xiàn)和平。那么，Sam Altman 和 OpenAI 的「通過實力實現(xiàn)和平」版本是否意味著我們必須在 AI 領(lǐng)域擊敗對手，遙遙領(lǐng)先，從而讓中國無從選擇？

Sam Altman：不是擊敗對手，而是需要領(lǐng)先，并且我們需要盡可能地愿意合作。我認(rèn)為這在某種程度上類似于「通過實力實現(xiàn)和平」。也就是說，如果有一場軍備競賽，我們會贏，但我們并不希望有這場競賽。

Bari Weiss：意思是，如果有軍備競賽，我們希望贏，但我們根本不希望有這場競賽，對嗎？

Sam Altman：但我們會贏。這甚至不只是這樣。更像是，如果有任何可能以合作方式完成這件事的路徑，我們就應(yīng)該這樣做，但我們無法控制其他實體的行為。

Bari Weiss：你是說合作嗎？

Sam Altman：是的，我們與中國合作。實際上，我可以直接說，我認(rèn)為我們經(jīng)常在戰(zhàn)略利益所在的領(lǐng)域與那些我們并不和睦的人合作。而我認(rèn)為，這正是關(guān)乎全世界利益的一個領(lǐng)域，當(dāng)然也是我們公司使命所決定的領(lǐng)域。如果真正的合作是可能的，我們就應(yīng)該這樣做。

Bari Weiss：那我們現(xiàn)在在 AI 領(lǐng)域與中國進(jìn)行合作嗎？

Sam Altman：你知道的可能比我還多？我本來想說，你可能確實比我了解更多。這將是新一屆政府面臨的一個重大問題，但這不會在公司層面上解決，而是會發(fā)生在兩國總統(tǒng)的層面上。

Bari Weiss：如果特朗普明天給你打電話說：「嘿，Sam，我想讓你擔(dān)任 AI 或 AI 監(jiān)管的負(fù)責(zé)人，你可以在這個職位上做任何你想做的事情�！鼓闶紫葧�做什么？這個職位最重要的事情是什么？

Sam Altman：美國的基礎(chǔ)設(shè)施和供應(yīng)鏈。

Bari Weiss：對那些不知道這是什么意思的人稍微解釋一下。

Sam Altman：在美國國內(nèi)生產(chǎn)芯片，建立足夠的能源供應(yīng)來運(yùn)行數(shù)據(jù)中心，改變現(xiàn)有的條件，在這里建設(shè)數(shù)據(jù)中心，但關(guān)鍵是要能夠建立極其昂貴且復(fù)雜的供應(yīng)鏈，以及極其昂貴的基礎(chǔ)設(shè)施，這一切都要在美國完成。

Bari Weiss：AI 中的偏見和審查是一個巨大的話題，也是我們在《自由新聞》中經(jīng)常思考的議題。最明顯的例子之一就是幾天來人們熱議的，并且大家都在嘲笑的事情——Gemini 生成了那些「黑人喬治·華盛頓」和「跨性別」的圖像。

雖然這很搞笑，但某種程度上這也是一個非常嚴(yán)肅的問題，因為這似乎只是這個問題的一個極端、夸張且顯而易見的例子，而這個問題實際上是一個更深層次的系統(tǒng)性問題：這些技術(shù)中內(nèi)嵌的偏見，不僅來源于編程這些技術(shù)的人，還來源于它們從互聯(lián)網(wǎng)上抓取的信息。

和我們聊聊你們在 ChatGPT 上是如何看待這個問題的吧，因為顯然最接近現(xiàn)實的系統(tǒng)最終才會勝出。如果 ChatGPT告訴我喬治·華盛頓是跨性別者，我肯定不會再依賴它。你怎么看待偏見這個問題？你們是如何解決的？

Sam Altman：我認(rèn)為有兩件事很重要。第一是用戶在讓系統(tǒng)按照他們想要的方式運(yùn)行時的靈活性。我認(rèn)為我們應(yīng)該設(shè)定非常寬泛的界限。

比如，有些事情顯然是不允許的，比如你不希望一個系統(tǒng)告訴你如何制造核武器。好吧，這點我們都能達(dá)成共識。但如果你希望系統(tǒng)變得具有攻擊性，并且你明確要求它這樣做，我認(rèn)為對齊的一部分就是在社會廣泛認(rèn)可的界限內(nèi)完成用戶的要求。

第二件非常重要的事情是系統(tǒng)的默認(rèn)設(shè)置。如果你不做任何個性化調(diào)整（大多數(shù)用戶不會這么做），而是隨便問一個有爭議的問題，那么系統(tǒng)應(yīng)該如何回應(yīng)？

我們在這兩方面都投入了大量工作。我們還嘗試寫出模型應(yīng)該如何表現(xiàn)的規(guī)范。我們稱之為模型規(guī)格（model spec），這樣你就可以判斷出它是否是一個漏洞，還是你不同意我們的一些立場。

Bari Weiss：是否有可能構(gòu)建一個像 ChatGPT 這樣的東西，或者其他我們甚至還無法想象的技術(shù)，這些技術(shù)完全沒有政治觀點？這難道不是不可避免的嗎？

Sam Altman：我認(rèn)為，不管你試圖讓這個東西多么中立，它要么變得毫無用處，因為它會直接回答「我不能回答，因為任何問題都有政治背景」；要么它會表現(xiàn)出某種觀點。這也是為什么我們認(rèn)為可以做的是寫下我們對默認(rèn)設(shè)置的意圖，人們可以就此展開辯論。

如果存在漏洞，我們可以查找漏洞。如果我們對默認(rèn)設(shè)置的定義有問題，我們可以改變定義并重新訓(xùn)練系統(tǒng)。但確實，我認(rèn)為沒有任何系統(tǒng)能夠被所有人認(rèn)為是完全無偏的。這也是個性化為什么如此重要的另一個原因。

Bari Weiss：你認(rèn)為 AI 或者 ChatGPT 有責(zé)任去對抗有害的思想嗎？讓我舉一個例子來說明我的意思。

比如說，如果你知道通過以一種極其微小的方式施加影響，你可能能夠促成一個世界，那里種族主義、厭女癥會減少，甚至可能會對人們來說是不可見的，因為他們根本不知道。

在某種程度上，就像我們剛才討論的，這可能會成為我們所有信息的控制層。你是如何看待這個問題的？

Sam Altman：實際上，最近我在作為一個原則性問題思考一件事。OpenAI 完全沒有采納這一點，但這只是一個想法，我認(rèn)為它觸及到了你剛才提到的問題。

假設(shè)我們發(fā)現(xiàn)了一些新東西，比如，如果 ChatGPT 總是以蘇格拉底式的方法回應(yīng)，或者其他方式，用戶的學(xué)習(xí)效果會顯著提高。

但假設(shè)用戶的偏好并不是想要蘇格拉底式的回答，而是直接要求系統(tǒng)回答他們的問題。那么，在這種情況下，我們應(yīng)該如何決定默認(rèn)的行為？

我最近越來越多地在思考一個想法：如果我們總是非常明確地說明我們對模型規(guī)格的任何修改會怎么樣？這樣你就不會像一些平臺，比如推特那樣，把一些東西隱藏在算法背后，用一些奇怪的方法來施加影響。

我們會始終告訴你模型的預(yù)期行為是什么，如果我們對其進(jìn)行了更改，我們會解釋原因。

但如果我們確實發(fā)現(xiàn)了像你剛才提到的那樣的情況，或者像我剛才舉例提到的情況，我們說，好吧，當(dāng)用戶在進(jìn)行教育用途時，我們將使用蘇格拉底式的方法，因為這確實似乎帶來了可衡量的效果。那么我們可以說清楚為什么我們這么做，并且公開對此進(jìn)行討論。

也許我們會改變默認(rèn)設(shè)置。如果你有其他看法并說服了我們，任何人當(dāng)然都可以在他們的用戶偏好中更改默認(rèn)設(shè)置，因為 AI 就像一個工具，應(yīng)該做用戶想要的事情。

但我認(rèn)為，錯誤的做法是我們更改了默認(rèn)設(shè)置卻沒有在模型規(guī)范中反映這一點，也沒有告知用戶我們進(jìn)行了更改。比如說，推特算法的「黑箱」讓我感覺并不好。

Bari Weiss：Sam，你曾向特朗普的就職典禮捐贈了 100 萬美元，這引起了一些關(guān)注，因為過去你稱他是種族主義者和陰謀論者等等。多年來，你一直是民主黨候選人和事業(yè)的慷慨捐助者。

但現(xiàn)在你說特朗普將引領(lǐng)我們進(jìn)入 AI 時代，你很期待支持他確保美國保持領(lǐng)先的努力。這是心態(tài)的轉(zhuǎn)變、政治立場的演變，還是你內(nèi)心發(fā)生了某種「氛圍轉(zhuǎn)變」？到底發(fā)生了什么？

Sam Altman：這可能是以上所有的原因。此外我也希望，因為他是我們的總統(tǒng)，我希望他能在任何方面取得成功。如果我們能夠支持他在這方面的努力，那也是我們想做的。

Bari Weiss：你的「氛圍轉(zhuǎn)變」是什么？我們知道硅谷和整個文化中都在發(fā)生一種「氛圍轉(zhuǎn)變」。過去幾年里，你自己發(fā)生了怎樣的變化？

Sam Altman：我覺得發(fā)生了很多變化，其中之一是，在過去大約 10 到 12 年里，我看著事情變得偏離了正軌。

在某些方面情況是好的，但在如何看待增長和經(jīng)濟(jì)成功的重要性以及對國家和整個世界更廣泛的正確目標(biāo)的關(guān)注上，我認(rèn)為確實偏離了方向。

而我會說，這種「氛圍轉(zhuǎn)變」是一種希望，希望在我們正面臨技術(shù)歷史上最重要的時刻之一時，能夠推動「氛圍轉(zhuǎn)變」回到我深信不疑的方向，那就是增長是唯一正確的前進(jìn)之路。

Bari Weiss：你認(rèn)為 OpenAI 的增長，以及 AI 更廣泛的增長是一種愛國義務(wù)嗎？

Sam Altman：是的。我實際上寫過類似的東西。有人剛剛把它發(fā)回給我，我大概在 10 多年前寫過一篇文章，好像是我第一篇博客文章，內(nèi)容是關(guān)于增長是民主運(yùn)轉(zhuǎn)良好的核心要素。

我認(rèn)為世界對這一點有了嚴(yán)重的誤解，我很高興看到它被重新看到。