編者按：本文來(lái)自微信公眾號(hào) 有新Newin（ID：NewinData），創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

近日，英偉達(dá) CEO 黃仁勛與 Arm CEO Rene Haas 探討了技術(shù)發(fā)展的現(xiàn)狀和未來(lái)，涵蓋了數(shù)據(jù)中心架構(gòu)的演進(jìn)、AI 技術(shù)的前景以及企業(yè)如何在快速變化的環(huán)境中保持競(jìng)爭(zhēng)力。

黃仁勛指出，隨著計(jì)算需求的增加，數(shù)據(jù)中心的功率密度從最初的每機(jī)架 12 千瓦迅速增長(zhǎng)到 120 千瓦，甚至更高。

這種變化帶來(lái)了技術(shù)上的挑戰(zhàn)，包括冷卻效率、網(wǎng)絡(luò)延遲等問題。英偉達(dá)通過提高計(jì)算密度和改進(jìn)系統(tǒng)設(shè)計(jì)，致力于延長(zhǎng)電傳輸時(shí)間，減少光傳輸?shù)霓D(zhuǎn)換成本，從而提升能源效率和可靠性。

黃仁勛認(rèn)為，AI 技術(shù)不僅僅是傳統(tǒng)計(jì)算機(jī)行業(yè)的一部分，而是正在推動(dòng)一場(chǎng)新的工業(yè)革命。如今，計(jì)算機(jī)不再只是工具，而是一個(gè)“智能制造工廠”，可以 24 小時(shí)不間斷地生成智能輸出。這種轉(zhuǎn)變使得計(jì)算機(jī)從工具角色演變?yōu)樯a(chǎn)“智能代幣”的機(jī)器，推動(dòng)了整個(gè)行業(yè)的變革。

面對(duì)摩爾定律逐漸失效的現(xiàn)實(shí)，黃仁勛強(qiáng)調(diào)英偉達(dá)通過“協(xié)同設(shè)計(jì)”來(lái)實(shí)現(xiàn)指數(shù)級(jí)性能提升。

每年英偉達(dá)都會(huì)設(shè)計(jì)六七種新芯片，并改進(jìn)系統(tǒng)架構(gòu)，如引入 NVLink 交換機(jī)、3D 封裝等技術(shù)，從而在相同的能耗和成本下實(shí)現(xiàn)兩到三倍的性能提升，這種策略在很大程度上加速了 AI 計(jì)算的普及。

黃仁勛還提到，在塑造市場(chǎng)和引導(dǎo)行業(yè)發(fā)展時(shí)，“教學(xué)”比“廣告”更重要。英偉達(dá)通過教育市場(chǎng)、展示技術(shù)應(yīng)用來(lái)獲得更多用戶和合作伙伴的支持。

這種教學(xué)式的市場(chǎng)引導(dǎo)方式有助于讓生態(tài)系統(tǒng)的各個(gè)參與者理解技術(shù)的價(jià)值，并逐步接受新的計(jì)算理念。

以下為這場(chǎng)對(duì)話的全部?jī)?nèi)容，enjoy～

Rene Haas

見到你很開心。這次回到英偉達(dá)真是太棒了。我在這里工作的時(shí)候，這棟大樓還不存在呢。

Jensen Huang

那是多久前的事了？二十年？

Rene Haas

我 2006 年開始在這里工作，2013 年離開。是的，差不多二十年前。這些大樓當(dāng)時(shí)都還不存在。不過現(xiàn)在回來(lái)感覺依舊很親切。感謝你抽出時(shí)間，邀請(qǐng)我來(lái)。

如今英偉達(dá)已經(jīng)成長(zhǎng)得如此之大，有件事我一直很感興趣，就是公司的招聘文化確實(shí)非常獨(dú)特。英偉達(dá)以一種獨(dú)特的方式做事，你是如何識(shí)別那些在英偉達(dá)會(huì)取得成功的人才的？

Jensen Huang

我們并不總是能做到這一點(diǎn)?？纯茨憔椭懒?，這其實(shí)總是有點(diǎn)碰運(yùn)氣的成分。我認(rèn)為面試并不是評(píng)估一個(gè)人是否合適的最佳方式。

每個(gè)人都能在面試時(shí)表現(xiàn)得很出色，甚至可以通過觀看 YouTube 學(xué)習(xí)如何面試。當(dāng)然，技術(shù)性的問題，我們會(huì)盡可能嚴(yán)格和困難，但這并不容易。我個(gè)人的做法通常是回到參考檢查，詢問我本來(lái)打算問候選人的問題。

因?yàn)槟憧偪梢栽谀硞€(gè)時(shí)刻表現(xiàn)得很出色，但你無(wú)法逃避你的過去，所以這種方法還不錯(cuò)。我喜歡問一個(gè)深入的問題，然后觀察他們的思維過程。

但最終，英偉達(dá)對(duì)很多人來(lái)說都是成功的。正如你所知道的，我們的流失率非常低，公司內(nèi)部非常多元化，有很多有趣的人和背景。我們有來(lái)自幾乎所有頂級(jí)公司的員工，并且我們?cè)谶@里讓他們都能成功。

因此，從某種意義上說，建立偉大的公司一方面是找到優(yōu)秀的人才，另一方面則是創(chuàng)造條件，讓這些人超越他們自己的預(yù)期。

這很大程度上取決于我們對(duì)英偉達(dá)的愿景和戰(zhàn)略進(jìn)行的透明解釋。我花了很多時(shí)間在這方面。公司一直以透明著稱，會(huì)解釋我們面臨的挑戰(zhàn)、機(jī)會(huì)以及執(zhí)行的戰(zhàn)略。信息在公司內(nèi)部流通得非常順暢，大家都清楚公司的戰(zhàn)略是什么。

我總覺得，當(dāng)公司有太多的分隔或需要知道的基礎(chǔ)時(shí)，情況會(huì)有點(diǎn)奇怪。當(dāng)然，人們確實(shí)不需要了解他們不需要知道的事情。但他們知道得越多，就越有能力為公司做出正確的決策。

所以我傾向于更透明，傾向于賦予員工更多的權(quán)力。因此，公司成了世界上最小的大公司。這種高生產(chǎn)力來(lái)源于我們擁有的 3 萬(wàn)多名員工，他們每天都在做出數(shù)百個(gè)決定。

如果所有 3 萬(wàn)名員工都在同一個(gè)方向上，即使是在模糊的情況下做出決策，但他們的選擇都是為了公司的長(zhǎng)期最佳利益，那么這種積累是非常有意義的。

Rene Haas

其中一個(gè)讓我總是驚訝的事情就是，你提到的那一點(diǎn)——我不知道這是因?yàn)檎衅傅胶线m的人還是自我選擇的結(jié)果，但擁有那些在面對(duì)不確定性時(shí)非常自信的高級(jí)領(lǐng)導(dǎo)，并且你會(huì)深入公司各個(gè)層級(jí)，把正確的人召集到一起，解決問題。這是如何形成的？

公司成長(zhǎng)過程中，你和愿景一致的高級(jí)領(lǐng)導(dǎo)一起成長(zhǎng)，這一文化自然而然地形成了嗎？因?yàn)檫@真的很令人驚嘆，當(dāng)我在英偉達(dá)工作時(shí)，許多高層領(lǐng)導(dǎo)都非常適應(yīng)這種情況，你能夠直接找到合適的人，一起解決問題。

Jensen Huang

首先，我沒有特別詢問他，你記得我也記得。而這是因?yàn)橛行┦虑槭秋@而易見的，不需要去征求許可。

所以我們?cè)O(shè)置這樣的方式，是因?yàn)橛ミ_(dá)從一開始就是設(shè)計(jì)成一個(gè)全棧計(jì)算公司，我們的目標(biāo)是構(gòu)建 GPU 、 CPU 、網(wǎng)絡(luò)芯片和交換機(jī)，我們會(huì)設(shè)計(jì)芯片架構(gòu)，開發(fā)系統(tǒng)軟件，創(chuàng)造算法，甚至求解器。

如何組織這樣的事情呢？一方面所有東西必須協(xié)同工作，另一方面又需要分階段構(gòu)建。因此，我們解決這個(gè)問題的方法是，避免組織上的孤立，將組織視為一個(gè)地方，領(lǐng)導(dǎo)者可以培養(yǎng)人才，為他們創(chuàng)造成功的條件，幫助他們排除障礙等等。

而真正的老板是任務(wù)本身，它橫跨整個(gè)公司，涉及系統(tǒng)、芯片、網(wǎng)絡(luò)交換機(jī)、軟件和算法等領(lǐng)域。通過這樣的組織方式，我們還實(shí)現(xiàn)了透明化，打破了各個(gè)孤立的部門。

組織結(jié)構(gòu)越開放，往往會(huì)越好，因?yàn)橛懈嗳丝梢詭湍闩u(píng)和改進(jìn)。我非常喜歡我們公司的開放性，一切都是透明的，每個(gè)人都在幫助我改進(jìn)。

Rene Haas

差點(diǎn)就被你們收購(gòu)了，那應(yīng)該會(huì)很有趣。但你們收購(gòu)了 Mellanox 。

Jensen Huang

你還為此難過嗎？

Rene Haas

是啊，每天我都會(huì)小小地傷心一下，但我還是在這里，謝謝。

Jensen Huang

但你們表現(xiàn)得非常好。

Rene Haas

你們收購(gòu)了 Mellanox ，這不僅在戰(zhàn)略上是一次極好的收購(gòu)，而且從外部來(lái)看，你們的執(zhí)行看起來(lái)非常無(wú)縫。這樣的整合是怎么做到的？并購(gòu)過程通常非常艱難。

Jensen Huang

確實(shí)非常艱難。首先， Mellanox 管理團(tuán)隊(duì)中有十到十二人現(xiàn)在是英偉達(dá)以色列管理團(tuán)隊(duì)的成員，參與了公司高層會(huì)議。

我們涵蓋了架構(gòu)、研究、軟件系統(tǒng)、芯片、網(wǎng)絡(luò)接口控制器和交換機(jī)。我們現(xiàn)在有 NVLink 交換機(jī)，最初只有 Infiniband 產(chǎn)品線，現(xiàn)在還有完整的以太網(wǎng)產(chǎn)品線。

在這短短的時(shí)間內(nèi)， Mellanox 的產(chǎn)品組合已經(jīng)增長(zhǎng)了四倍，并整合到了我們所做的每一個(gè)方面。

如果你回顧這次轉(zhuǎn)型和收購(gòu)，我們的愿景是計(jì)算單元不再僅僅是一個(gè) GPU （以前是輔助設(shè)備）。

實(shí)際上，收購(gòu)幫助我們從算法公司，也就是 GPU 公司，過渡為一家真正的計(jì)算公司。這是我們進(jìn)入的第一步。

最初，構(gòu)建 SoC（片上系統(tǒng)）對(duì)我們來(lái)說并不容易，現(xiàn)在我們已經(jīng)做得很好。接下來(lái)的演進(jìn)是構(gòu)建系統(tǒng)， DGX1 是我們的第一個(gè)產(chǎn)品。我對(duì) Shield（我們的 Android 電視）也非常有感情，因?yàn)樗俏覀冏畛鮿?chuàng)建的完整系統(tǒng)。

Rene Haas

開發(fā) Shield 的過程肯定很令人難忘。當(dāng)時(shí)我們還在摸索如何做到這一點(diǎn)。

Jensen Huang

是的，它至今仍是最受歡迎的 Android 電視盒?；叵肫饋?lái)，當(dāng)時(shí)它就像是 PlayStation 或 Xbox 控制器帶顯示器，我們都在思考如何實(shí)現(xiàn)這一切。這是英偉達(dá)最讓我喜歡的產(chǎn)品之一。

Rene Haas

幾乎都快忘了這段經(jīng)歷，但這確實(shí)是個(gè)系統(tǒng)性學(xué)習(xí)的過程。

Jensen Huang

我學(xué)到了很多，至今我們還在維護(hù)相關(guān)的軟件。

Rene Haas

最初很難看出市場(chǎng)對(duì)此有需求，團(tuán)隊(duì)突然需要為整個(gè)產(chǎn)品線采購(gòu)零部件，真是讓人措手不及。

Jensen Huang

這是我讓英偉達(dá)轉(zhuǎn)型為系統(tǒng)公司的借口， DGX1 是改變一切的計(jì)算機(jī)。

Rene Haas

很大的 Shield。

Jensen Huang

沒錯(cuò)。所以對(duì)我來(lái)說，雖然Shield是用塑料做的，而 DGX1 重達(dá) 600 磅，這種轉(zhuǎn)變并不算什么大事。真正重要的是，我們現(xiàn)在能夠構(gòu)建系統(tǒng)。

而當(dāng)我們收購(gòu) Mellanox 時(shí)，真正的理念是計(jì)算機(jī)不再僅僅是一個(gè)節(jié)點(diǎn)，而是整個(gè)數(shù)據(jù)中心成為計(jì)算的單位。

如果你不設(shè)計(jì)好 GPU 、 CPU 、網(wǎng)絡(luò)接口、交換機(jī)、所有的收發(fā)器，并把它們?nèi)窟B接在一起，能夠從無(wú)到有啟動(dòng)這個(gè)系統(tǒng)，將所有組件有序地運(yùn)行并分布工作負(fù)載，那么你就無(wú)法真正理解構(gòu)建這些 AI 超級(jí)集群的意義。

這個(gè)轉(zhuǎn)型和愿景非常清晰，以至于能夠團(tuán)結(jié)兩支團(tuán)隊(duì)。為了凝聚團(tuán)隊(duì)，你需要有一個(gè)非常清晰的愿景，對(duì)吧？

我們的愿景非常明確，而且這個(gè)愿景也是非常具體的，因?yàn)槟憧梢钥吹剿谀忝媲斑\(yùn)行，有超級(jí)集群，有來(lái)自兩家公司的所有設(shè)備，所以這個(gè)愿景是清晰且鼓舞人心的。

對(duì)于 CEO 來(lái)說，需要將抽象的事物變得具體化，然后我們就去構(gòu)建它了。不僅如此，我也認(rèn)為他們的文化也很棒。

Rene Haas

這種清晰性確實(shí)幫助很大。不過回到愿景本身，還有一個(gè)故事我想說說，比如早期 CUDA 的應(yīng)用追逐油氣行業(yè)，這完全不明顯。

Jensen Huang

大家當(dāng)時(shí)并沒有意識(shí)到，那其實(shí)是我們的第一個(gè)項(xiàng)目。

Rene Haas

確實(shí)，那是第一個(gè)，完全看不出真正的殺手級(jí)應(yīng)用或最終狀態(tài)是什么。然而，你們對(duì)早期的創(chuàng)意和實(shí)驗(yàn)展現(xiàn)了驚人的韌性，哪怕市場(chǎng)似乎沒有準(zhǔn)備好，甚至對(duì)這個(gè)定義還不明確。這是直覺的體現(xiàn)嗎？還是說這種能力從何而來(lái)？

Jensen Huang

我們確實(shí)有很好的直覺，你知道，公司成立以來(lái)有大約十次這樣的時(shí)刻。英偉達(dá)的優(yōu)勢(shì)在于我們周圍都是非凡的人才，世界上最優(yōu)秀的計(jì)算機(jī)科學(xué)家、戰(zhàn)略家和商業(yè)人士，他們沒有自負(fù)之心，想要做偉大的事情。

我認(rèn)為我們起點(diǎn)很好。其次，我們的直覺也很好，特別是在判斷哪些問題需要解決，以及如何從現(xiàn)在走向我們想成為的公司。我們對(duì)于要實(shí)現(xiàn)的各種階段性目標(biāo)有很好的直覺。

比如當(dāng)有人問我，為什么要打造 Shield，這不是浪費(fèi)時(shí)間嗎？我說，總有一天我們會(huì)成為一家系統(tǒng)公司，而所有這些系統(tǒng)都會(huì)連接到云服務(wù)上。為什么要在最龐大的系統(tǒng)上消耗精力，不如先做這個(gè)小的。

如果我們連這個(gè)都做不好，那么更大的就更不用說了。我們需要為公司創(chuàng)造條件，讓它可以學(xué)習(xí)新技能、嘗試失敗，而不會(huì)對(duì)自身造成損害。

Rene Haas

這種情況只有在公司領(lǐng)導(dǎo)者是創(chuàng)始人的時(shí)候才能發(fā)生嗎？畢竟，很少有公司能做到你剛才描述的這些，無(wú)論是在愿景的清晰性方面，還是在持續(xù)理解前進(jìn)方向的韌性上。最近關(guān)于“創(chuàng)始人模式”和“管理者模式”的討論很多。

顯然，你作為創(chuàng)始人，在公司成立30年后仍然領(lǐng)導(dǎo)著公司，并取得了巨大的成功。那么，你所描述的這種成就是否只能由創(chuàng)始人領(lǐng)導(dǎo)公司時(shí)才能實(shí)現(xiàn)？

Jensen Huang

我不這么認(rèn)為。我認(rèn)為你在 Arm 做得很出色。看到你在工作時(shí)的表現(xiàn)，我非常自豪。

Rene Haas

這是真的，我從你身上學(xué)到了很多。

Jensen Huang

看到你工作讓我感到快樂和驕傲。我不認(rèn)為只有創(chuàng)始人能做到這些。我認(rèn)為確實(shí)需要極大的韌性和堅(jiān)持。我通常把它描述為痛苦和折磨，這是成長(zhǎng)的過程。痛苦和折磨是不可避免的，我深有體會(huì)，而且你必須習(xí)慣這種感覺。

通向成功的道路并不是一個(gè)接一個(gè)的成就，而是有巨大的挫折，有時(shí)甚至是令人尷尬的時(shí)刻。作為 CEO ，你還沒經(jīng)歷這些，但它會(huì)發(fā)生。我希望它發(fā)生，因?yàn)檫@對(duì)你有好處。

你知道，那些時(shí)刻，我不確定學(xué)到了什么，但它確實(shí)讓我變得更強(qiáng)大。我知道我可以挺過去。當(dāng)時(shí)我可能不喜歡這些經(jīng)歷，但回頭看，那些就是讓你為自己和公司感到驕傲的時(shí)刻。

所以我認(rèn)為我們的公司之所以強(qiáng)大，是因?yàn)槲覀冇泻芏噙@樣的故事。這家公司里充滿了一次又一次挫折的非凡故事。

Rene Haas

而且經(jīng)歷過這些的領(lǐng)導(dǎo)者很多。

Jensen Huang

是的，大多數(shù)人都會(huì)覺得：“這不算什么，這比起以前的某個(gè)挫折輕多了?！泵看斡龅教魬?zhàn)時(shí)，我們都會(huì)想起那些更艱難的時(shí)刻，反而讓公司更有能力應(yīng)對(duì)當(dāng)前的挑戰(zhàn)。

Rene Haas

你我在這個(gè)行業(yè)的時(shí)間差不多長(zhǎng)?，F(xiàn)在 AI 的某些進(jìn)展讓我感到，這是我以前從未想過的，我原以為只有下一代人才能見證這種變革?，F(xiàn)在的感覺，就像進(jìn)入了“終極前沿”，我無(wú)法想象 AI 之后還會(huì)有什么。

你怎么看？我們是不是加速進(jìn)入了一個(gè)前所未有的變革時(shí)期？還有什么能在這之后到來(lái)嗎？現(xiàn)在所看到的一切真是令人難以置信。

Jensen Huang

我一直認(rèn)為計(jì)算機(jī)會(huì)表現(xiàn)出智能行為，我們可以編寫出非常好的軟件，我以為我們會(huì)手動(dòng)編寫這些算法，讓它們最終解決問題，使得計(jì)算機(jī)看起來(lái)很智能。但我從未想過這會(huì)引發(fā)一場(chǎng)工業(yè)革命。

我的意思是，你聽我說過的，現(xiàn)在計(jì)算機(jī)行業(yè)首次超越了傳統(tǒng)的計(jì)算機(jī)行業(yè)。我們不再僅僅是一個(gè)工具或儀器，而是一個(gè)制造行業(yè)。就像現(xiàn)在，我們的手機(jī)在口袋里沒有被使用時(shí)，它對(duì)我們沒有任何作用。

大多數(shù)計(jì)算機(jī)也是這樣的，比如我的筆記本電腦放在辦公室時(shí)沒在運(yùn)行。你需要工具時(shí)，才去使用它。

然而，現(xiàn)在的 AI 工廠則不一樣，這是我們正在構(gòu)建的一個(gè)新行業(yè)，它們始終在運(yùn)行，無(wú)論你是否在使用。它們?cè)谔幚頂?shù)據(jù)、生成“智能代幣”，以非常大規(guī)模制造智能。這種計(jì)算機(jī)從工具轉(zhuǎn)變?yōu)橹圃煸O(shè)備，并大規(guī)模生產(chǎn)極有價(jià)值的東西，這是一次全新的工業(yè)革命。

Rene Haas

你參與了從 AlexNet 到 DGX1 的整個(gè)過程，見證了這一切。AI 的進(jìn)展速度比我想象的要快得多，比兩年半前甚至一年前的預(yù)測(cè)要快得多。作為其中的核心人物，這是否比你想象的還要迅速？

Jensen Huang

我們正努力加快進(jìn)展，現(xiàn)在已經(jīng)進(jìn)入了一年一個(gè)周期。原因是技術(shù)有機(jī)會(huì)快速發(fā)展，特別是因?yàn)槲覀儸F(xiàn)在不僅僅是在制造芯片。

芯片的進(jìn)展速度是有限的，就算使用新工藝節(jié)點(diǎn)，能夠獲得幾個(gè)百分點(diǎn)的提升已經(jīng)很了不起了。那么，我們?nèi)绾卧诿恳淮袑?shí)現(xiàn)指數(shù)級(jí)的性能提升呢？

我們的方法是為每個(gè)系統(tǒng)設(shè)計(jì)六七種新芯片，然后通過協(xié)同設(shè)計(jì)重新發(fā)明整個(gè)系統(tǒng)，發(fā)明新的東西，比如 NVLink 交換機(jī)、新的系統(tǒng)機(jī)架，使我們能夠通過系統(tǒng)的整個(gè)背板驅(qū)動(dòng)銅纜連接所有 GPU ，以及使用大型封裝、3D封裝等各種技術(shù)。

通過這些技術(shù)手段，我們每年可以在相同的能量和成本下實(shí)現(xiàn)兩到三倍的性能提升。這也相當(dāng)于每年將 AI 的成本降低兩到三倍，這個(gè)速度遠(yuǎn)遠(yuǎn)超過摩爾定律。

因此，如果你將這種進(jìn)步持續(xù)五六年甚至十年，我們就能夠極大地降低智能計(jì)算的成本。

我們之所以這樣做，是因?yàn)楝F(xiàn)在大家都認(rèn)識(shí)到了這一技術(shù)的價(jià)值。如果我們能夠大幅降低成本，我們可以在推理時(shí)做一些事情，比如推理過程。

像現(xiàn)在使用ChatGPT時(shí)，它加載提示并生成輸出。但未來(lái)，它將會(huì)迭代推理出答案，或許會(huì)進(jìn)行樹搜索，也可能會(huì)自我反思答案，最終得出結(jié)果。

它可能會(huì)進(jìn)行數(shù)百次甚至上千次推理，但答案的質(zhì)量會(huì)顯著提升。我們希望降低成本，以便能夠以與過去相同的成本和響應(yīng)速度提供這種新的推理推理。

Rene Haas

我看到過 OpenAI 模型的演示，它進(jìn)行推理時(shí)令人震驚。它使用了邏輯樹，做出了權(quán)衡決策，就像人類一樣，但速度完全超越了人類的思考方式。

Rene Haas

現(xiàn)在情況更有趣了。你們正在以一個(gè)前所未有的速度引入系統(tǒng)和整個(gè)數(shù)據(jù)中心基礎(chǔ)設(shè)施。以前 CPU 每?jī)扇旮乱淮?，最終被折舊。現(xiàn)在你們每年都在構(gòu)建系統(tǒng)，人們都迫切希望盡快部署這些系統(tǒng)。

Jensen Huang

是的，現(xiàn)在說起來(lái)很簡(jiǎn)單，但你知道，我們每年都在交付像這個(gè)房間大小的新計(jì)算機(jī)，包括所有的電纜、網(wǎng)絡(luò)、交換機(jī)、軟件，這真的很瘋狂。

Rene Haas

我想問一個(gè)更具前瞻性的問題，這不僅僅是技術(shù)吸收的問題，這樣的速度還能繼續(xù)保持嗎？

Jensen Huang

我認(rèn)為可以，但必須以系統(tǒng)化的方式進(jìn)行。也就是說，我們?cè)诩軜?gòu)上的一切操作都要系統(tǒng)化。這意味著為昨天的集群（比如 Hopper ）開發(fā)的軟件也可以在 Blackwell 上運(yùn)行，并且 Ruben 上的軟件也可以運(yùn)行在 Hopper 上。

這種架構(gòu)兼容性非常關(guān)鍵，因?yàn)樾袠I(yè)在軟件上的投資是硬件的 1000 倍，而且軟件永遠(yuǎn)不會(huì)過時(shí)。如果你開發(fā)了軟件，并發(fā)布了它，那么你就必須一直維護(hù)它。所以， CUDA 的想法不僅僅是有數(shù)百萬(wàn)人在為其編程，而是數(shù)億個(gè)兼容的 GPU ，軟件不會(huì)消亡。

Rene Haas

軟件永遠(yuǎn)不會(huì)消亡。

Jensen Huang

所以，你在一個(gè) GPU 上的投資可以延續(xù)到所有其他 GPU 上。今天編寫的所有軟件將來(lái)會(huì)變得更好，未來(lái)的所有軟件也能在現(xiàn)有的安裝基礎(chǔ)上運(yùn)行。

因此，首先我們必須在架構(gòu)上保持嚴(yán)謹(jǐn)。其次，即使在系統(tǒng)層面，我們也能在不拋棄之前成果的情況下改進(jìn)技術(shù)。

例如，當(dāng)我們首次進(jìn)入數(shù)據(jù)中心業(yè)務(wù)時(shí)，超大規(guī)模數(shù)據(jù)中心的電力分配大約是每機(jī)架 12 千瓦。而 Blackwell 的電力分配是每機(jī)架 120 千瓦，是密度的 10 倍。

當(dāng)然，密度的提升使得服務(wù)器數(shù)量減少了數(shù)百萬(wàn)臺(tái)，全部壓縮到一個(gè)機(jī)架中，因此節(jié)省的能量、空間簡(jiǎn)直是不可思議的。

Rene Haas

這與我們的故事很相似。Arm 架構(gòu)已經(jīng)存在了 30 年，為它編寫的軟件也有幾十年了。這是人們有時(shí)沒有意識(shí)到的。

Jensen Huang

沒錯(cuò)，我們關(guān)心每一個(gè) Arm 芯片上的開發(fā)成果。最近有人做了基準(zhǔn)測(cè)試，Grace 每瓦性能是世界上最好的 CPU 的四倍。是的，能效至關(guān)重要。

Rene Haas

是的，這一切都很重要。你認(rèn)為當(dāng)數(shù)據(jù)中心從 500 兆瓦增長(zhǎng)到 5 吉瓦時(shí)，從架構(gòu)角度上是否會(huì)出現(xiàn)什么問題，比如網(wǎng)絡(luò)延遲之類的？不涉及機(jī)密內(nèi)容的話，從物理的角度來(lái)看，是否會(huì)開始出現(xiàn)一些瓶頸？

Jensen Huang

當(dāng)然會(huì)，一切都會(huì)遇到問題。物理規(guī)律必須遵循，這就是挑戰(zhàn)所在。首先，我們正在快速推進(jìn)功率密度曲線，從 12 千瓦到 40 千瓦，再到 120 千瓦，這還會(huì)繼續(xù)增加。因此，我們盡可能地壓縮和提高計(jì)算密度。

在這個(gè)過程中，液冷的效率更高，并且我們可以更長(zhǎng)時(shí)間地使用銅纜。盡可能長(zhǎng)時(shí)間地使用電傳輸是有利的，因?yàn)橐坏┺D(zhuǎn)換為光傳輸，成本和復(fù)雜性都會(huì)增加。

所以，我們會(huì)盡量保持電傳輸?shù)臓顟B(tài)。這種策略更加經(jīng)濟(jì)高效、節(jié)能且可靠，因此我們會(huì)繼續(xù)提高密度。

另一個(gè)提高密度的好處是，位于同一機(jī)架或相鄰機(jī)架的所有 GPU 可以像一個(gè)統(tǒng)一的設(shè)備一樣運(yùn)行，真是相當(dāng)驚人。

Rene Haas

我一直很好奇，Jensen，你在 Computex 的主題演講。我記得你有一次是在星期天晚上進(jìn)行的，演講內(nèi)容的體量和深度令人難以置信。

作為一個(gè)也會(huì)做主題演講的人，我的內(nèi)容遠(yuǎn)沒有那么長(zhǎng)和深入，我真的很佩服你是怎么做到的。

你是進(jìn)行了大量的排練嗎？我記得當(dāng)我們以前一起工作的時(shí)候，有時(shí)會(huì)在演講前一天晚上還在修改內(nèi)容，你依然能出色地完成?，F(xiàn)在你的演講尤其涉及數(shù)據(jù)中心架構(gòu)，并且涵蓋了更多內(nèi)容，你是如何準(zhǔn)備這些的？

Jensen Huang

我們每天都在為此準(zhǔn)備。我們的工作和演員不同，實(shí)際上我們是在生活中做這些事情，對(duì)吧？所以首先，我們每天都在準(zhǔn)備。

坦率地說，我們所做的很多事情本質(zhì)上是教學(xué)，為了引導(dǎo)行業(yè)、塑造市場(chǎng)并引入新思想，我們的工作很多是教學(xué)。

我們不是做廣告，因?yàn)槲覀兪且粋€(gè)平臺(tái)公司，這意味著我們不能獨(dú)自完成我們的工作，需要其他人的參與和合作。

所以，我們的工作是教學(xué)、啟發(fā)、展示、演示，并希望一步步地吸引更多人加入，從 CUDA 的早期，到今天的英偉達(dá)加速計(jì)算，以及 AI 的發(fā)展旅程。

現(xiàn)在，我們正在研究的下一個(gè)大事是“物理 AI ”，即如何讓 AI 既遵循物理規(guī)律，又理解物理規(guī)律。

我認(rèn)為這個(gè)旅程相當(dāng)漫長(zhǎng)，而 GTC 和 Computex 給了我們這樣的機(jī)會(huì)，讓我們慶祝我們的生態(tài)系統(tǒng)和他們的成果，啟發(fā)他們展望未來(lái)。

Rene Haas

很相似。我做季度業(yè)務(wù)回顧和演講時(shí)，團(tuán)隊(duì)會(huì)說，幻燈片很簡(jiǎn)單，感覺是你整天都在講的東西。我會(huì)想，怎么可能不一樣呢？但事實(shí)上還是很難的。

Jensen Huang

說實(shí)話，確實(shí)不容易。因?yàn)槲覀儗?shí)際上沒有時(shí)間排練。并不是因?yàn)槲覀冞x擇不排練，而是當(dāng)所有內(nèi)容都準(zhǔn)備好時(shí)，已經(jīng)沒有時(shí)間去排練了。所以，我們只能“即興發(fā)揮”。

>>> 5 個(gè)硅谷最新 AI 共識(shí)：未來(lái)將是多模型共存局面，單一 AI 模型不再占據(jù)主導(dǎo)地位，殺手級(jí)應(yīng)用已悄然出現(xiàn)......

>>> 文末參與硅谷最新 2024 AI 峰會(huì)，超 100 個(gè)專題討論，500多家參展初創(chuàng)企業(yè)，150+ 重量級(jí)演講嘉賓，包括來(lái)自 Google、Microsoft、Meta 等科技巨頭的高層管理者，以及 Glean、Interdimensional、Forethought、Weights & Biases、Mistral AI、Typeface AI 等AI領(lǐng)域領(lǐng)軍公司的創(chuàng)始人、CEO、CTO。

本文為專欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問，請(qǐng)聯(lián)系editor@cyzone.cn。