可以問我任何問題
請先登入以使用此功能。
聽到這些真的讓我感到很不舒服 謝謝您的介紹，但我不喜歡聽到關於我自己的事情
就像一場表演一樣，好吧，也許你們可以鼓掌
你們當中有多少人知道輝達是誰嗎？
你們當中有多少人知道GPU是什麼吗？
好的，很好，我不需要改變我的講話
女士、先生、羅森鮑姆校長、尊敬的各位教職員、
尊敬的來賓、自豪的家長們 最重要的是，加州理工學院2024屆的畢業生們
對你們來說這真是快樂的一天 你們得顯得更興奮一些 你們知道你們將從加州理工學院畢業
這是偉大的理查·費曼、萊納斯·鮑林的學校
還有對我和我們這個行業影響很大的人，卡弗·米德
是的，這是一件大事
今天是個令人無比自豪和喜悅的日子 這是你們所有人的夢想成真
但不僅僅是對於你們 因為你的父母和家人也做出了無數的犧牲
看到你們達到這個里程碑 所以讓我們藉此機會祝賀他們，感謝他們
並讓他們知道你愛他們
你們不要忘記這一點 因為你們不知道還要在家住多久
你們今天要非常感恩
作為一名自豪的家長，我曾很高興我的孩子們沒有搬出去 每天看到他們真是太好了
但現在他們搬走了，這讓我很難過 所以希望你們能花一些時間陪伴父母 你在這裡的歷程證明了你的性格、
決心、願意做出犧牲 為你們的夢想而努力，你們應該感到自豪
做出犧牲的能力、忍受痛苦和磨難
你們在生活中將需要這些品質 你們和我有一些共同點
首先，輝達的兩位首席科學家都來自加州理工學院
我今天發表這次演講的原因之一是因為我在招聘
我想告訴你們，輝達是一家非常棒的公司 我是個很好的老闆
深受人們喜愛 來輝達工作吧
你們和我都對科學和工程充滿熱情 儘管我們相差大約40歲
我們都正處於事業的巔峰
對於一直關注輝達和我本人的各位 你知道我的意思
只是就你們的情況來說 你們還要攀登更多的高峰
我只是希望今天不是我的巔峰 還不是巔峰
所以我會一如既往地努力工作 以確保我未來能攀登更多的高峰
去年，我很榮幸在台灣大學發表畢業典禮演講
我分享了幾個關於輝達歷程的故事 我們所學到的教訓對畢業生來說可能是有價值的
我必須承認我不喜歡給建議 尤其是對別人的孩子
所以我今天的建議將在很大程度上隱藏在一些故事裡
我很享受的 以及一些我享受的生活經歷
我相信，我是當今世界任職最久的科技首席執行官
31年來，我努力維持生意不破產 不感到無聊，也不被解僱
因此我很榮幸能享受許多的人生經歷
從創建輝達開始，從無到今天的這樣
我談到了創建CUDA的漫長路 一個編程模型 我們花了20多年發明的編程模型
這正在徹底改變當今的運算技術 我談到了一個非常公開的、取消了的
我們所參與的世嘉遊戲機項目 以及智力的誠實
我知道這是理查·費曼所關心的 非常深入討論過的，也常談論過的，
正是智力的誠實和謙遜拯救了我們的公司 如何撤退，策略性的撤退，是我們最好的策略之一
這一切都是我在畢業典禮上談到的違反直覺的教訓
但我鼓勵畢業生參與人工智慧
我們這個時代最重要的技術 我稍後會再談一下這一點
但你們都知道人工智慧 很難不沉浸其中、被它包圍
並對此進行許多的討論 當然，我希望大家都用它、玩它
取得令人驚訝的結果和一些奇蹟 有些令人失望，有些令人驚訝
但你必須享受它，你必須參與其中 因為它進展得太快了 這是我所知道的唯一技術
即同時以多指數級方式推進 所以技術變化非常非常快
所以我建議台灣大學的學生們要跑不要走
並參與人工智慧革命 然而，一年後，它的變化令人難以置信
所以今天我想跟你們分享我的觀點
我的觀點是，一些重要的事情正在發生 你們即將畢業的
這些都是正在發生的非凡之事 你們應該有一個直觀的理解
因為這對你們來說會很重要 這對這個產業來說會很重要 希望你們能充分利用眼前的機遇
電腦產業正在從其基礎上轉型 實際上來自於基柱
從基柱開始，一切都在改變 並且跨越每個層面，很快，每個產業也都將發生變革
原因很明顯 因為今天的計算機 是僅有的最重要的知識工具
它是每個行業和每個科學領域的基礎 如果我們在如此深刻地改造計算機
當然，它會對每個行業產生影響 我稍後會談到這一點
當你們進入業界時 重要的是你知道所正在發生的 現代計算追溯到IBM System 360
那是我所學的建構手冊 這是一本你不需要學的建構手冊
許多更好的文檔 以及對計算機和構築的更好的描述
自那時起就被介紹 但System 360 在當時非常重要
事實上，System 360的基本思想、它的架構
System 360 的主要思想、架構與策略
至今仍在主宰著計算機行業 它是在我出生一年後推出的
80年代，我是第一代超大規模積體電路工程師之一
學會了設計晶片 和來自米德和康威的里程碑式教科書
我不確定這裡是否還教授這門課程 它應該是在超大規模積體電路系統的介紹中
基於加州理工學院卡弗·米德的開創性工作 晶片設計方法和徹底改變積體電路設計的教科書
它使我們這一代能夠設計出超級晶片，並最終設計出CPU
CPU導致運算能力呈指數級增長、 性能、令人驚嘆的技術進步
這就是所謂的摩爾定律 推動了資訊科技革命 我們參與的工業革命
我這一代也參與其中 實現了世界上前所未見的事物的大規模生產
大規模生產那些看不見、容易複製的東西 軟體的大規模生產
催生出了一個價值3兆美元的產業 當我坐在你們這個位置時，資訊科技產業還很小
透過銷售軟體你能賺錢的想法只是幻想
但今天它是最重要的商品之一 最重要的技術
以及我們產業生產的產品創造 然而，NARD 縮放、電晶體縮放的極限
和指令級並行性降低了CPU 的效能 CPU效能的提升正在減緩
此時，當計算需求持續呈指數級成長時 這種指數級的增長差距
在計算需求與計算機能力之間
如果不加以解決，計算能源消耗和成本、通脹
最終將扼殺每個產業 正如我們所言，我們看到了計算通脹的非常明顯的跡象
20多年的先進的輝達CUDA 輝達的加速運算提供了一條前進的道路
這就是我來這裡的原因 因為最終，業界意識到 正是在此時加速計算的令人難以置信的有效性
幾十年後，我們終於在見證計算的通脹
通過將耗時的演算法卸載到一個GPU 專注於並行處理的
我們通常可以實現10倍、100倍，有時1000倍的加速
節省金錢、成本和能源 我們現在在加速來自電腦圖形的應用領域
當然還有來自射線追蹤、到基因定序、科學計算、 天文學、量子電路模擬、
SQL資料處理、甚至PANDAS、資料科學。 加速計算已達到一個臨界點
這是我們對電腦產業的第一個偉大貢獻 我們對社會的第一個偉大貢獻，加速運算
它現在為我們提供了一條永續計算的前進道路 其中成本會繼續下降
因為計算需求不斷成長 節省一百倍的時間、成本或能源
加速運算的開放必將引發的
其他地方的新發展 我們只是不知道那是什麼 直到深度學習進入我們的意識
一個全新的計算世界出現了 傑夫·辛頓、亞歷克斯·克里澤夫斯基和伊利亞·蘇斯克弗
使用輝達CUDA GPU 訓練AlexNet 震驚了電腦視覺界
贏得2012 年ImageNet 挑戰賽 這是重要時刻
深度學習的大爆炸 一個標誌人工智慧革命開始的關鍵時刻
我們在Aexnet後的決定改變了我們的公司
是值得注意的事情 我們在AlexNet後的決定改變了我們公司，而且看來改變了其他一切
我們看到了深度學習的潛力，並相信 正是相信透過原理思維
相信透過我們自己對深度學習可擴展性的分析
我們相信這種方法可以學習其他有價值的功能 深度學習可能是通用函數學習器
有多少問題很難 或無法用基本第一原理來表達
當我們看到這個的時候 當我們看到這個的時候，我們想 這是一項我們真正得關注的技術
因為它的限制可能僅受模型和資料規模的限制
然而，當時也存在一些挑戰 這是2012年，2012年剛過不久
我們如何可能探索深度學習的極限 無需建構這些龐大的GPU叢集？
當時我們還是一家很小的公司 建構這些大規模GPU叢集可能要花費 數億美元
如果我們不這樣做 如果我們擴大規模，沒有保證它能一定有效
然而，沒有人知道深度學習的規模能達到多大 如果我們不建造它，我們就永遠不知道
這是其中之一，如果你建造它，他們會來嗎？ 我們的邏輯是，如果我們不建造它，它們就不能來
因此我們致力於 基於我們最初的原則信念和分析
我們已經到了關鍵點 我們相信這會非常有效 當公司相信某件事時，我們就應該對此採取行動
所以我們深入研究深度學習 並在接下來的十多年里，系統地重新發明了一切
我們重新發明了每個運算層，從GPU 本身開始 現代GPU的發明
這與過去的GPU有很大不同 我們首先發明的
我們繼續發明了計算的幾乎所有其它方面 互連、系統、
網絡，當然還有軟體 我們投資了數十億美元
我們向未知領域投資了數十億美元 數千名工程師十多年來
致力於深度學習以及深度學習的推進與擴展 我們並不清楚這項技術能走多遠
我們投資了數十億美元 我們設計並製造了超級計算機 探索深度學習和人工智慧的極限
2016 年，我們發布了DGX-1
我們的第一台人工智慧超級計算機 我向舊金山的一家新創公司交付了第一台
一家無人知曉的創業公司 我的一群朋友正在研究人工智慧
一家名為OpenAI 的公司 2022 年，AlexNet 誕生10 年後
之後計算量增加了一百萬倍 一百萬倍
如果你能想像一下，如果你的筆記型電腦會是什麼樣子 能力強一百萬倍？
一百萬倍後，OpenAI 推出了ChatGPT 人工智慧成為了主流
在這十年多中，輝達從從一家圖形公司改造了我們自己 你們很多人可能第一次知道我們是GPU 製造商
到現在的一家建立海量資料中心的人工智慧公司 規模型的超級電腦
我們徹底改變了我們的公司 我們也徹底改變了計算方式
當今計算的基本方式已經發生了根本性的改變
計算堆疊現在使用GPU 處理大型語言模型
在超級電腦上進行訓練 而不是CPU
它們是程式設計師編寫的處理指令
我們現在正在創建人類無法編寫的軟體 我們現在正在創建能夠完成人類無法完成的事情的軟體
想像一下，即使只是10 年前 計算機現在是意圖驅動而不是指令驅動
告訴計算機你想要什麼，它就會找到答案 和人類一樣，人工智慧應用將理解任務
推理、計劃、 並組織一個大型語言模型團隊來執行任務
未來的應用程式將與我們做事的方式非常相似
組成專家團隊、使用工具、 推理和計劃，並執行我們的使命
軟體以及軟體的功能已經徹底改變 甚至我們的產業，隨著它的變化和轉型
創造了另一個產業 這是一個世界上前所未見的產業
一個產業正在我們眼前形成 人工智慧的輸入和輸出是詞元
對在座的所有工程師來說，你們都知道我的意思 這些是嵌入智慧的浮點數
一些公司現正在建造 一種以前不存在的新型資料中心，專門用於
生產智能詞元 本質上就是人工智慧工廠
就像尼古拉·特斯拉發明的交流發電機
過去工業革命的 我們現在有了人工智慧詞元生成器
它們將成為新工業革命的工廠 這裡有大型工業生產能源和電力
我們現在有一種龐大的產業生產一些叫做軟體的看不見的東西 在未來，在不久的將來
我們將有生產、製造的產業 智慧詞元、人工智慧生成器
一種新的計算模型已經出現 一個新的行業已經出現
因為我們從第一原理推理 形成了我們對未來的信念，並根據這些信念採取行動
下一波人工智慧浪潮是機器人技術 除了語言模型之外，人工智慧還
還有實體世界模型 我們與數百家機器人製造公司合作
機器人車輛、拾放臂、人形機器人、 甚至整個巨大的倉庫都由機器人控制
但與我們的人工智慧工廠策略和經驗不同 這確實是透過推理和深思熟慮的行為形成的
我們的機器人的歷程源自於一連串的挫折
正如你們所知，輝達發明了GPU 這是在我們發明人工智慧工廠之前
我們對電腦產業的第一個偉大貢獻是 透過可編程著色器重塑電腦圖形
我們在2000年發明了GPU和可程式著色 我們希望將GPU 整合到每台電腦中
所以我們開始將GPU與主機板晶片結合起來 我們推出了一款出色的整合式顯示卡
當時適用於AMD CPU 我們的晶片組業務立即獲得了成功
我認為它幾乎是在一夜之間就從零增長為十億美元 但突然之間，AMD 想要
控制電腦中的所有技術 我們想保持獨立
所以他們收購了ATI，不再需要我們 我們轉向了英特爾
這也許不是個好主意 但我們轉向了英特爾
並協商了連接英特爾CPU的許可
蘋果對我們正在開發的產品感到興奮
並要求我們和他們一起開發一台新電腦 這就是第一款MacBook Air
英特爾看到了發生的事情並決定 他們不想讓我們再這樣做了
所以他們終止了我們的協議 好吧，我們又一次改變了主意，這次我們獲得了ARM 的許可
我們打造了一款低功耗單晶片系統、一款移動單晶片系統 世界上第一個本質上是電腦的單晶片系統
一台功能齊全的計算機，這真是令人難以置信 我們的晶片讓Google興奮不已
他們要求我們開發一款新設備 結果成為了Android行動裝置
高通決定不讓我們這麼做 所以他們不想讓我們連接他們的數據機
很難建造一個沒有數據機連接的移動裝置 而且當時也沒有其他長期演進技術數據機公司
所以我們只好退出行動裝置市場 嗯，這幾乎是在一年裡發生的
我們想過建造一些東西 它將獲得巨大的成功 產生巨大的興奮感
一年後 我們被趕出了這些市場 嗯，沒有更多的市場可以求助
我們決定建造一些東西 我們確定沒有顧客的地方
因為有一件事你絕對可以保證
在沒有顧客的地方 也沒有競爭對手 沒有人在乎你
所以我們選擇了一個沒有客戶的市場，一個價值0億美元的市場
它是機器人技術 我們製造了世界上第一台機器人計算機
處理無人理解的演算法 當時被稱為深度學習
這已經是10多年前的事了 十年後，我非常開心
憑藉我們已建立的 以及創造下一波人工智慧浪潮的機會 更重要的是
我們發展了敏捷性和韌性的文化
一次又一次的挫折 我們擺脫了它並滑向下一個機會
每次，我們都獲得了技能並增強了品格 我們加強了我們的企業品格
我們的公司確實很難分散注意力，也很難氣餒 而且沒有挫折感
如今，我們面臨的情況看起來不像是個機會
諷刺的是，我們今天建造的機器人計算機 甚至不需要圖形
這就是我們的旅程開始的原因 那麼我們今天的情況
告訴我們一些事情並教我們一些東西 正如理查·費曼所說，世界是不確定的
世界可能會不公平，並會給你嚴厲的懲罰 迅速甩掉它
顯然，你們對你的書籍過於關注了
迅速甩掉它 拜託，這很聰明 我逗得自己笑了
還有其他機會，或創造一個機會
讓我再給你講一個故事 我曾經在我們的一個國際站點工作過
每年夏天一個月 當我們的孩子十幾歲的時候，我們在日本度過了一個夏天
週末我們參觀了京都和銀廟 如果你們還沒機會去，那一定要去
它以其精美的苔蘚花園而聞名 我們去的那天是典型的京都夏日
悶熱潮濕，黏糊糊的 熱量從地面散發出來
空氣依然濃重，一動也不動 我們和其他遊客一起漫步在精心修剪的苔蘚花園
我注意到了那位孤獨的園丁 現在，記住，苔蘚花園
這是銀廟 苔蘚花園非常大 大概跟這個草地一樣大
它擁有最大的收藏 幾乎涵蓋世界上所有種類的苔蘚
而且它保養得非常精緻 我注意到孤獨的園丁蹲著
用竹鑷子小心地摘取苔蘚
放進竹箩里 你必須用竹鑷子
你知道，就這一個園丁
籃子看起來是空的 嗯，有那麼一刻，我以為他在採摘想像中的苔蘚
變成一堆想像中的死苔蘚 於是我走向他
我說：你在幹嘛？ 他用英語說：「我正在撿死苔蘚。」
我正在照料我的花園 我說，但是你的花園這麼大啊
他回答說：「我已經照顧我的花園25年了。」
我有充足的時間 嗯，這是我一生中最深刻的教訓之一
它確實教會了我一些東西 這位園丁致力於他的手藝並從事其一生的事業
當你這樣做的時候，你就有充足的時間 每天早晨
我每天早上都會做同樣的事情 我每天早晨開始 首先完成我最優先的工作
我有一個非常明確的優先事項清單 我先從優先順序最高的工作開始 在我上班之前，我的一天就已經很成功了
我已經完成了我最重要的工作 並能用我的每一天去幫助別人
當人們因為打擾我而道歉時 我總是說我有充足的時間，事實也確實如此
2024年畢業生們 我幾乎想像不出還有誰比你們對未來有更充分的準備
你們獻出了自己 你們努力工作 你們獲得了世界一流的教育
來自世界上最負盛名的學校之一 當你進入下一個階段時
吸取我學的東西 希望它們能夠對你有幫助
我希望你們相信一些事情 一些不尋常的事情 一些尚未探索的東西
但要讓它知情並讓它有理由 然後全心全意地去實現它
你可能會發現你的GPU 你可能會發現你的CUDA 你可能會發現你的生成式人工智慧
你可能會找到你的輝達 我希望你們將挫折視為新的機遇
你的痛苦和磨難會增強你的性格、 你的韌性和敏捷性
它們就是終極的超級能量 我最看重自己的能力的是
智力並不是排在第一位的 我忍受痛苦和折磨的能力
我能夠長時間地專注於某件事
我應付挫折和發現眼前機會的能力 我認為是我的超级能力
我希望它們也是你們的 我希望你們能找到一門手藝
我希望你們能找到一門手藝 第一天的決定並不重要
短期內做決定並不重要 但我希望你們能找到一門手藝
你要用一生去完善 磨練技能，並讓它成為你一生的事業
最後，優先考慮好你的生活 有很多事情正在發生
有很多事情要做 但要優先考慮你的生活 你將有充足的時間去做重要的事情
恭喜2024屆的畢業生，加油。
