太平洋科技要聞

首頁 > 科技要聞 > 人物> 正文

黃仁勛致畢業(yè)生：勇于進入0億美元市場，希望你能找到自己的GPU

量子位整合編輯：太平洋科技發(fā)布于：2024-06-18 16:17

英偉達CEO黃仁勛的最新大學畢業(yè)典禮演講，被熱議了。

“相信非傳統(tǒng)，勇于探索未知�！�

這是黃院士對加州理工2024屆畢業(yè)生的勸勉，也似乎是英偉達發(fā)展史和老黃創(chuàng)業(yè)的寫照。

當然，黃院士也從英偉達的視角講述了一段微縮版的計算科學發(fā)展歷史。

當今計算機是最重要的知識工具，它是每個科學領域每個行業(yè)的基礎。當你進入這個行業(yè)時，了解正在發(fā)生的事情很重要。

眾所周知，黃仁勛沒有博士學位，他移民美國后，本科就讀于俄勒岡州立大學，然后1990年獲得斯坦福大學電子工程碩士學位，1993年創(chuàng)辦了英偉達，并在1999年面向游戲領域發(fā)明了GPU。

之所以來加州理工做畢業(yè)典禮演講，老黃也直言不諱：

我是來招聘的。我是一個好老板。

演講要點

一些違反直覺的教訓：在面對技術和業(yè)務挑戰(zhàn)時，堅持知識誠實和謙遜，以及在必要時采取戰(zhàn)略性撤退

人工智能是老黃所知的唯一一項同時以多個指數(shù)級發(fā)展的技術

現(xiàn)代計算可以追溯到IBM System 360，它的主要思想、架構和戰(zhàn)略仍然主導著今天的計算機行業(yè)

基于Carver Mead在加州理工學院關于芯片設計方法和教科書的開創(chuàng)性工作，徹底改變了IC設計。它使我們這一代人能夠設計出超大型芯片，并最終設計出CPU。

NARD縮放、晶體管縮放和指令級并行性的限制降低了CPU性能。CPU性能提升速度放緩之際，計算需求持續(xù)呈指數(shù)級增長。計算需求與計算機能力之間呈指數(shù)級增長的差距，如果不加以解決，計算能源消耗和成本以及通貨膨脹，最終將扼殺每個行業(yè)。

人工智能的下一波浪潮是機器人技術，這是一個“0億美元市場”，但未來將價值數(shù)十億美元，就像 Nvidia 剛起步時的 GPU 加速計算一樣。
……

以下為黃仁勛演講全文：

尊敬的校長羅森鮑姆教授、敬愛的教職工、尊貴的來賓、自豪的家長們，尤其是加州理工學院2024屆的畢業(yè)生們：

今天對你們來說真是一個快樂的日子，你們必須看起來更興奮一些。你們即將從加州理工學院畢業(yè)，這所學校孕育了偉大的理查德·費曼、萊納斯·鮑林，以及對我們的行業(yè)產(chǎn)生了深遠影響的卡弗·米德。這的確是一件大事。

今天是一個充滿自豪和喜悅的日子。這不僅僅是你們的夢想成真，也是你們的父母和家人無數(shù)犧牲的結果。讓我們借此機會向他們表示祝賀和感謝，并讓他們知道你們愛他們。不要忘記這一點，因為你們可能不知道將來會在家里住多久。

作為一名自豪的父親，我非常喜歡我的孩子們還住在家里，每天都能見到他們。但現(xiàn)在他們已經(jīng)搬出去了，這讓我有些難過。所以，希望你們能花些時間陪伴父母。

你們在這里的旅程證明了你們的性格、決心和為夢想做出犧牲的意愿，你們應該為此感到自豪。在生活中，你們將需要這種做出犧牲、忍受痛苦和折磨的能力。

NVIDIA的兩位首席科學家都來自加州理工學院。我今天站在這里發(fā)表演講的原因之一是因為我正在尋找人才。所以，我想告訴大家，NVIDIA是一家非常偉大的公司，我是一個非常好的老板，受到普遍愛戴。加入NVIDIA吧！

你們和我都有一個共同點：我們對科學和工程充滿熱情。盡管我們相差約40年，但我們都處于職業(yè)生涯的巔峰。對于那些一直關注NVIDIA和我個人的人來說，你們知道我的意思。只是對你來說，你還有很多很多的高峰要去攀登。我只是希望今天不是我的巔峰。

去年，我有幸在臺灣大學發(fā)表畢業(yè)典禮致辭，分享了幾個有關NVIDIA歷程的故事以及我們學到的可能對畢業(yè)生有價值的經(jīng)驗教訓。我必須承認我不喜歡提供建議，尤其是給別人的孩子。因此，我今天的建議很大程度上會隱藏在一些我喜歡的故事和我的一些生活經(jīng)歷中。

我相信，我是當今世界上任職時間最長的科技公司首席執(zhí)行官。31年來，我沒有破產(chǎn)，沒有感到無聊，也沒有被解雇。因此，我非常榮幸地享受了很多人生經(jīng)歷，從創(chuàng)建NVIDIA開始，從一無所有到今天的成就。

我談到了我們曾經(jīng)參與的一個非常公開的、被取消的世嘉游戲機項目，以及知識誠實。我知道理查德·費曼非常關心并經(jīng)常談論這一點，知識誠實和謙遜拯救了我們的公司。以及如何撤退，戰(zhàn)略性撤退，是我們最好的策略之一。所有這些都是我在畢業(yè)典禮上談到的違反直覺的教訓。

但我鼓勵畢業(yè)生接觸人工智能，這是我們這個時代最重要的技術。稍后我會詳細討論這一點，但你們都知道人工智能。很難不沉浸其中、被它包圍，并引發(fā)大量關于它的討論。當然，我希望你們所有人都在使用它并玩弄它，得到令人驚訝的結果，有些神奇，有些令人失望，有些令人驚訝。但你必須享受它，你必須參與它，因為它進步如此之快。

這是我所知道的唯一一項同時以多個指數(shù)級發(fā)展的技術。因此，技術的變化非常非�？臁Ｋ晕医ㄗh臺大的學生要跑，不要走，要參與AI革命。然而，一年后，它的變化之大令人難以置信。

所以今天，我想做的就是從我的角度與你們分享我對你們畢業(yè)時正在發(fā)生的一些重要事情的看法。這些正在發(fā)生的非同尋常的事情你應該有一個直觀的理解，因為它對你很重要，對整個行業(yè)也很重要。希望您能充分利用眼前的機會。

加速計算已達臨界點

計算機行業(yè)正在從其基礎、從字面上看是從螺柱開始轉變。從螺母開始，一切都在變化。很快，每個行業(yè)也將發(fā)生轉變。其原因非常明顯，因為計算機是當今最重要的知識工具。它是每個行業(yè)和每個科學領域的基礎。如果我們?nèi)绱松羁痰馗淖冇嬎銠C，它當然會對每個行業(yè)產(chǎn)生影響。

當您進入這個行業(yè)時，了解正在發(fā)生的事情很重要�，F(xiàn)代計算可以追溯到IBM System 360。那是我學習的架構手冊。這是一本你不需要學習的架構手冊。從那時起，就出現(xiàn)了更多更好的文檔以及對計算機和體系結構的更好的描述。

但IBM System 360在當時是非常重要的，事實上，它的主要思想、架構和戰(zhàn)略仍然主導著今天的計算機行業(yè)。它是在我出生一年后推出的。

在80年代，我是第一代VLSI工程師之一，他們從Mead和Conway的里程碑式教科書中學習了芯片設計。我不確定這里是否還在教授它。應該是在VLSI系統(tǒng)的引入中�；贑arver Mead在加州理工學院關于芯片設計方法和教科書的開創(chuàng)性工作，徹底改變了IC設計。它使我們這一代人能夠設計出超大型芯片，并最終設計出CPU。

CPU導致計算量呈指數(shù)級增長。性能和令人難以置信的技術進步，即所謂的摩爾定律，推動了信息技術革命。我們這一代人所經(jīng)歷的工業(yè)革命見證了世界前所未見的東西的大規(guī)模生產(chǎn)。大規(guī)模生產(chǎn)無形的、易于復制的東西，大規(guī)模生產(chǎn)軟件。它催生了一個價值3萬億美元的產(chǎn)業(yè)。

當我坐在你坐的地方時，IT行業(yè)還很小。銷售軟件可以賺錢的想法是一個幻想。然而今天，它是我們行業(yè)生產(chǎn)的最重要的商品、最重要的技術和產(chǎn)品創(chuàng)造之一。

然而，NARD縮放、晶體管縮放和指令級并行性的限制降低了CPU性能。CPU性能提升速度放緩之際，計算需求持續(xù)呈指數(shù)級增長。計算需求與計算機能力之間呈指數(shù)級增長的差距，如果不加以解決，計算能源消耗和成本以及通貨膨脹，最終將扼殺每個行業(yè)。

正如我們所說，我們看到了非常明顯的計算通貨膨脹的跡象。經(jīng)過NVIDIA CUDA二十年的發(fā)展，NVIDIA的加速計算提供了一條前進的道路。這就是我來這里的原因。因為最終，當我們目睹幾十年后的計算膨脹時，業(yè)界終于意識到了加速計算的令人難以置信的有效性。

通過將耗時的算法卸載到專門從事并行處理的GPU，我們通常可以實現(xiàn)10倍、100倍，有時甚至1,000倍的加速，從而節(jié)省資金、成本和能源。我們現(xiàn)在加速應用領域的發(fā)展，從計算機圖形學、光線追蹤，當然到基因測序、科學計算、天文學、量子電路模擬、SQL數(shù)據(jù)處理，甚至pandas、數(shù)據(jù)科學。

加速計算已達到臨界點。這是我們對計算機行業(yè)的第一項偉大貢獻，我們對社會的第一項偉大貢獻，加速計算。它現(xiàn)在為我們提供了一條可持續(xù)計算的前進道路。

成功押注深度學習

隨著計算需求的不斷增長，成本將繼續(xù)下降。加速計算所帶來的時間、成本或能源節(jié)省的一百倍，一百倍肯定會在其他地方引發(fā)新的發(fā)展。我們只是不知道它是什么，直到深度學習進入我們的意識。

一個全新的計算世界出現(xiàn)了。Jeff Hinton、Alex Krzyzewski和Ilya Sutskever使用NVIDIA CUDA GPU訓練AlexNet，并贏得2012年ImageNet挑戰(zhàn)賽，震驚了計算機視覺界。這是一個重要時刻，深度學習的大爆炸，一個標志著人工智能革命開始的關鍵時刻。

AlexNet改造我們公司后的決定值得關注。AlexNet后我們的決定改變了我們的公司，也可能改變了其他一切。我們看到了深度學習的潛力，并且相信，只是通過原理思考相信，通過我們自己對深度學習的可擴展性的分析相信。我們相信該方法可以學習其他有價值的功能。也許深度學習是一種通用函數(shù)學習器，有多少問題很難或不可能使用基本的第一原理來表達。

因此，當我們看到這一點時，我們認為這是一項我們真正必須關注的技術，因為它的局限性可能僅受模型和數(shù)據(jù)規(guī)模的限制。然而，當時也遇到了挑戰(zhàn)�，F(xiàn)在是2012年，2012年剛過不久。我們?nèi)绾尾拍茉诓粯嫿ㄟ@些大規(guī)模GPU集群的情況下探索深度學習的極限呢？

當時我們還是一家相當小的公司，構建這些龐大的GPU集群可能要花費數(shù)億美元。但如果我們不這樣做，就無法保證擴大規(guī)模后會有效。然而，沒有人知道深度學習可以擴展到多遠。如果我們不建造它，我們永遠不會知道。這是其中之一，如果你建造它，他們會來嗎？我們的邏輯是，如果我們不建造它，他們就不會來。

因此，我們根據(jù)我們的首要原則信念和分析做出了奉獻。我們相信這會非常有效，當公司相信某件事時，我們就應該采取行動。因此，我們深入研究深度學習，并在接下來的十年里系統(tǒng)地重塑了一切。從GPU本身開始，我們重新發(fā)明了每個計算層。現(xiàn)代GPU的發(fā)明，與我們最初發(fā)明的過去的GPU非常不同。

我們繼續(xù)發(fā)明了計算、互連、系統(tǒng)、網(wǎng)絡和計算的幾乎所有其他方面。當然，還有軟件。我們投資了數(shù)十億美元。我們向未知領域投資了數(shù)十億美元。十年來，成千上萬的工程師致力于深度學習，并推進和擴展深度學習，但他們并不真正知道我們可以將這項技術真正應用到什么程度。

我們投資了數(shù)十億美元。我們設計并建造了超級計算機來探索深度學習和人工智能的極限。2016年，我們發(fā)布了DGX-1，我們的第一臺人工智能超級計算機，我將第一臺計算機交付給了舊金山的一家初創(chuàng)公司，一家無人知曉的初創(chuàng)公司，我的一群從事人工智能工作的朋友，一家公司稱為OpenAI。

2022年，也就是AlexNet出現(xiàn)10年后，計算量增長了大約一百萬倍，一百萬倍。如果您能想象一下，如果您的筆記本電腦的功能增強一百萬倍，會是什么樣子？百萬倍之后，OpenAI推出了ChatGPT，AI成為主流。

在這十年中，NVIDIA從一家圖形公司（你們中的許多人可能首先知道我們是一家制造GPU的公司）轉變?yōu)楝F(xiàn)在一家構建大型數(shù)據(jù)中心規(guī)模超級計算機的人工智能公司。我們徹底改變了我們的公司。我們還徹底改變了計算技術。當今計算的基本方式已經(jīng)發(fā)生了根本性的改變。

計算堆�，F(xiàn)在使用GPU來處理在超級計算機上訓練的大型語言模型，而不是使用處理程序員編寫的指令的CPU。我們現(xiàn)在正在創(chuàng)建人類無法編寫的軟件。我們現(xiàn)在正在創(chuàng)建的軟件可以完成人類無法想象的事情，即使是在10年前。計算機現(xiàn)在是意圖驅動的而不是指令驅動的。告訴計算機你想要什么，它就會弄清楚如何做。

與人類一樣，人工智能應用程序將理解任務、原因、計劃并編排大型語言模型團隊來執(zhí)行任務。未來的應用程序的工作方式和執(zhí)行方式將與我們的工作方式非常相似，組建專家團隊，使用工具，推理和計劃，并執(zhí)行我們的任務。軟件以及軟件可以做什么已經(jīng)完全改變了。甚至我們的行業(yè)，隨著它的改變和轉變，創(chuàng)造了另一個行業(yè)，一個世界上從未有過的行業(yè)。

一個產(chǎn)業(yè)正在我們眼前形成。AI的輸入和輸出都是代幣。對于房間里的所有工程師，你們知道我的意思。這些是嵌入智能的浮點數(shù)。公司現(xiàn)在正在建設一種以前不存在的新型數(shù)據(jù)中心，專門生產(chǎn)智能代幣。本質上是人工智能工廠。就像尼古拉·特斯拉在過去的工業(yè)革命中發(fā)明的交流發(fā)電機一樣，我們現(xiàn)在有了AI代幣發(fā)電機，它們將成為新工業(yè)革命的工廠。

有生產(chǎn)能源、電力的大型工業(yè)。我們現(xiàn)在有一個龐大的產(chǎn)業(yè)，生產(chǎn)一些看不見的東西，稱為軟件。在未來，在不久的將來，我們將擁有生產(chǎn)、制造智能代幣、人工智能發(fā)生器的行業(yè)。一個新的計算模型已經(jīng)出現(xiàn)，一個新的行業(yè)已經(jīng)出現(xiàn)，這一切都是因為我們從第一原理出發(fā)，形成了對未來的信念，并付諸行動。

機器人技術是下一波浪潮

人工智能的下一波浪潮是機器人技術，其中人工智能除了語言模型之外，還有物理世界模型。我們與數(shù)百家公司合作，制造機器人、機器人車輛、拾放手臂、人形機器人，甚至整個巨型機器人倉庫。但與我們的人工智能工廠戰(zhàn)略和經(jīng)驗不同，我們的人工智能工廠戰(zhàn)略和經(jīng)驗實際上是通過推理和深思熟慮的行動形成的，我們的機器人之旅是一系列挫折的結果。

如您所知，NVIDIA發(fā)明了GPU。這是在我們發(fā)明人工智能工廠之前。我們對計算機行業(yè)的第一個偉大貢獻是通過可編程著色器重塑計算機圖形。我們在2000年發(fā)明了GPU和可編程著色。我們希望將GPU集成到每臺計算機中，因此我們開始將GPU與主板芯片結合起來，當時我們針對AMD CPU推出了一款非常棒的集成顯卡芯片。

我們的芯片組業(yè)務立即取得了成功。我認為它幾乎一夜之間就從零增加到了十億美元。但突然之間，AMD想要控制PC中的所有技術，而我們想要保持獨立，所以他們收購了ATI，不再需要我們。我們轉向英特爾。這可能不是一個好主意，但我們求助于英特爾并協(xié)商了連接英特爾CPU的許可。

Apple對我們正在開發(fā)的產(chǎn)品感到非常興奮，并要求我們與他們一起開發(fā)一臺新電腦，這就是第一臺MacBook Air。好吧，英特爾看到了發(fā)生的事情并決定他們不想讓我們再這樣做，所以他們終止了我們的協(xié)議。好吧，我們再次轉向，這一次我們獲得了ARM的許可，我們構建了一個低功耗SoC，一個移動SoC，世界上第一個SoC，本質上是一臺計算機，一臺完整的操作系統(tǒng)計算機，這是令人難以置信的。

我們的芯片讓Google興奮不已，他們要求我們開發(fā)一款新設備，結果就是Android移動設備。好吧，高通決定他們不希望我們這樣做，所以他們不希望我們連接到他們的調制解調器，并且在不連接到調制解調器的情況下很難構建移動設備。而且沒有其他LTE調制解調器公司，所以我們不得不退出移動設備市場。

嗯，這幾乎是按照一年的節(jié)奏發(fā)生的，我們會建造一些東西，它會非常成功，產(chǎn)生巨大的興奮，然后一年后，我們被踢出了這些市場。好吧，由于沒有更多的市場可供轉向，我們決定在我們確定沒有客戶的地方建立一些東西，因為你絕對可以保證的事情之一就是沒有客戶，也沒有競爭對手，也沒有人關心你。

所以我們選擇了一個沒有客戶的市場，一個價值0億美元的市場，那就是機器人技術。我們建造了世界上第一臺機器人計算機，處理當時無人理解的深度學習算法。這已經(jīng)是十多年前的事了。十年后，我對我們所構建的東西以及創(chuàng)造下一波人工智能浪潮的機會感到非常高興。更重要的是，我們培養(yǎng)了敏捷性和韌性文化。

一次又一次的挫折，我們擺脫了困境，抓住了下一個機會。每一次，我們都獲得了技能并增強了我們的性格。我們強化了企業(yè)特色。我們的公司真的很難分散注意力，也很難泄氣。

如今，我們遇到的任何挫折都不是一個機會。諷刺的是，我們今天建造的機器人計算機甚至不需要圖形，這就是我們的旅程開始的原因。所以我們今天所處的位置告訴了我們一些東西并教會了我們一些東西。正如理查德·費曼所說，世界是不確定的，世界可能不公平，給你發(fā)難牌。迅速擺脫它。顯然，你對你的書籍過于關注了。迅速甩掉它。來吧，這很聰明。我笑了。那里還有另一個機會，或者創(chuàng)造一個機會。

找到自己的GPU

讓我再告訴你一個故事。我曾經(jīng)每年夏天在我們的一個國際站點工作一個月。當我們的孩子十幾歲的時候，我們在日本度過了一個夏天。周末我們參觀了京都銀閣寺。如果你還沒有機會去，你一定要去。它以其精致的苔蘚花園而聞名。

我們參觀的那天是典型的京都夏日，悶熱潮濕，黏糊糊的。熱量從地面散發(fā)出來�？諝饽亍⒓澎o。我們和其他游客一起漫步在精心打理的苔蘚花園中。我注意到了那個孤獨的園丁�，F(xiàn)在，記住，苔蘚花園，這是銀殿，苔蘚花園巨大。它擁有世界上幾乎所有苔蘚種類的最大收藏。而且它維護得非常精致。

我看到孤獨的園丁蹲著，用竹鑷子小心翼翼地夾著青苔，放進竹籃里。你必須這樣做，這是一把竹鑷子，你知道，而且就是這個園丁。籃子看起來是空的。嗯，有那么一會兒，我以為他正在把想象中的苔蘚撿到一堆想象中的死苔蘚中。于是我走到他面前，問他，你在做什么？他用英語說，我正在采摘死苔蘚。我正在打理我的花園。

我說，但是你的花園太大了。他回答說，我照顧我的花園已經(jīng)25年了。我有的是時間。嗯，這是我一生中最深刻的教訓之一。它確實教會了我一些東西。這位園丁致力于他的手藝并從事他一生的工作。當你這樣做時，你就有了充足的時間。

我每天早上都開始，我每天早上都以完全相同的方式做事，我每天早上都先做我最優(yōu)先的工作。我有一個非常清晰的優(yōu)先級列表，我首先從最高優(yōu)先級的工作開始。在我開始工作之前，我的一天就已經(jīng)很成功了。我已經(jīng)完成了最重要的工作，可以將這一天奉獻給幫助他人。

當人們?yōu)榇驍_我而道歉時，我總是說我有足夠的時間，而且我確實有。2024屆畢業(yè)生們，我很難想象還有誰比你們對未來做好了更充分的準備。你奉獻了自己，你努力工作，你從世界上最負盛名的學校之一獲得了世界一流的教育。當您開始進入下一階段時，請采納我的經(jīng)驗教訓，希望它們能一路幫助您。

我希望你相信一些東西，一些非傳統(tǒng)的東西，一些未經(jīng)探索的東西，但讓它被告知并讓它被推理。然后全身心投入去實現(xiàn)它。你可能會找到你的GPU，你可能會找到你的CUDA，你可能會找到你的生成式AI，你可能會找到你的NVIDIA。

我希望你能將挫折視為新的機遇。你的痛苦和折磨會增強你的性格、你的韌性和敏捷性，它們是終極的超能力。在我最看重的關于我的能力的所有方面中，智力并不是最重要的。我忍受痛苦和折磨的能力，我在很長一段時間內(nèi)從事某件事的能力，我處理挫折和看到即將到來的機會的能力，我認為這是我的超能力，我希望它們是我的超能力。你的。

我希望你能找到一門手藝。希望你能找到一門手藝。第一天做出決定并不重要，甚至很快做出決定也不重要，但我希望你確實找到一門手藝，你想奉獻一生去完善它，磨練技能，并讓它成為你的一生工作。

最后，優(yōu)先考慮你的生活。有很多事情正在發(fā)生，有很多事情要做，但是優(yōu)先考慮你的生活，你將有足夠的時間去做重要的事情。

恭喜2024屆畢業(yè)生，加油吧。

本文來源：量子位

科技媒體編輯黃仁勛 GPU

量子位

原創(chuàng)欄目