Nvidia GTC (2021/4月) 總結，未來的產品佈局

August 13, 2021

Nvidia GTC (2021/4月) 總結，未來的產品佈局

過去幾年，Nvidia在世界各地舉行的GTC - GPU Technology Conference，在YouTube的Nvidia Official Channel（參考：Nvidia Official Youtube Channel）可以觀看GTC Keynote影片，每一條影片大約兩小時片長，由CEO Jensen Huang個人親身演繹，我差不多全部Keynote影片看過。

GTC的一個大目標觀衆群是開發人員，還有客戶等，內容比較Hardcore，比較Technical，不是一個Investor Conference或業績發佈會（主要觀衆是投資者）。不過，作為一個投資者，十分值得去看GTC Keynote，可以了解公司更多，産品發展方向，並且Nvidia在面對開發者和客戶有什麼訊息想發出，這個對於投資是有前瞻性的意義。

自2020年的疫情爆發，GTC改為網上舉行，拍攝From Home，背景是Jensen家中有點Elegant的廚房。

（參考：YouTube - GTC 2021 Keynote with NVIDIA CEO Jensen Huang）

2021年4月舉行的GTC，我在這幾個月翻看了幾次，把內容消化，選擇了一部分我都覺得有興趣的產品，寫了幾篇文章，是重點式介紹，本文是一個總結。不是覆蓋GTC的全部產品，當中產品實在太多，不能盡錄。

在GTC之中，Jensen講解Nvidia科技的結構，分為四個部分：（Link是我的有關產品文章）

(1) Omniverse，Isaac Sim - 結合現實世界和虛擬世界的應用，設計合作，模擬，機械人工廠

NVIDIA OMNIVERSE，一個指向 METAVERSE 元宇宙的實現

(2) Megatron，Drug Discovery，Quantum Computing，DGX，Grace，BlueField-3，DOCA 1.0 - AI Data Center和HPC（High Performance Computing）

NVIDIA GRACE CPU，在數據中心的晶片之戰

NVIDIA DGX SUPERPOD，AI 超級電腦成為一件可接觸的產品

(3) Jarvis，Merlin，Maxine，Morpheus，Nvidia AI，EGX on Aerial 5G - 企業，5G和Edge的應用

NVIDIA TAO，不只是一間晶片公司的AI 競爭優勢

(4) DRIVE Sim，Hyperion 8，Atlan，Orin - 自動架駛的應用

NVIDIA DRIVE AV (AUTONOMOUS VEHICLE) 自動架駛，增長賽道就在前面

Jensen眼中，Nvidia是一間什麼公司

Jensen 強調Nvidia是一間3 Chips Company，及Full Stack Computing Platform Company（全端運算平台公司）。

GPU - Graphical Processing Unit，原本用作圖像，推展到作AI Training和Inferencing用途。

CPU - Central Processing Unit，Grace，是Arm CPU，和GPU整合，造到之間Data Transfer更高速，增加AI Accelerated Computing效率，適合大型AI和HPC（High Performace Computing）運算。

DPU - Data Processing Unit，BlueField，集中處理Data Center𥚃的Infrastructure Processing，讓CPU有更多空間去執行Business Application。

GTC的英文字母"G"字是GPU，嚴格來講，GPU已經不能完全去解釋Nvidia的業務，不過可見將來GTC作為Conference的名稱未必會更改。

Full Stack Computing Platform Company（全端運算平台公司），Full Stack應該在強調End-to-End Solution，全面的AI解決方案，公司產品覆蓋：晶片，顯示卡，電腦/伺服器，CUDA，DOCA，軟件，Cloud，Omniverse，Pre-Trained AI Model，自動架駛平台等。各個部分構成一個AI生態系統Eco System。

Nvidia公司想推銷，Nvidia AI就是未來在業界中的一個標準，最少都是其中一個標準。

AI主戰場就是Data Center，每年全球大約有3千萬部Server付運到Data Center，這個市場絕對吸引。

AI解決方案的多樣性

Nvidia的GPU + CPU + DPU配套，適合Data Center去使用全部或部分去應付需要。

Omniverse是透過VR + AR，利用Nvidia的晶片 / 電腦和軟件去建造出一個Eco System，機械人工廠和自動架駛都是應用例子。這是結合現實世界和虛擬世界的互動和應用，有很大的可能性和發展空間。

DGX系列產品是應付企業與機構在未來的大量AI運算需求，DGX SuperPOD令到Super Computer級數的產品，如有標準商品化的便利，應用包括：Natural Languages Processing（Megatron），藥物研發（Clara），模擬量子電腦運算（cuQuantum）等。

5G的應用，除了一般人日常生活接觸到的手機，更大的發展空間在各行各業方面，Industrial 4.0工業自動化，IoT物聯網，AI運算由原來在Data Center中執行，將會轉變為越多来越多Edge Computing（邊緣計算），Nvidia提供的解決方是EGX with Aerial 5G。

Nvidia令到企業更容易應用到AI解決方案，提供AI Pre-Trained Model (TAO)，例如：Jarvis對話式人功智能，Merlin推薦系統，Maxine虛擬會議，Morpheus AI保安等。

自動架駛的應用，包括：DRIVE AV，Orin，Atlan，Hyperion 8，DRIVE Sim。

Time Machine，AI研究的時光機

DGX SuperPOD的其中一個應用是Natural Language Processing的Transformer Training Model。GPT-3的功能包括：製作文檔摘要generate document summary, email phase completion，甚至可以理解你用英文表達的要求，然後去編寫出JavaScript和HTML，GPT-3有175 Billion個Parameter，在三年之間增長了3000倍，Model Size是幾何級數般增長，以大約兩個半月時間double的速度增長，預計在2023年見到超過100 Trillion個Parameter的Model（一個粗略比較，人腦突觸Synapses約是125 Trillion之數），Nvidia Transformer以parallel方式進行AI訓練可以大大縮短所需時間。

這表示，AI Traning Model越來越巨大，運算時間可以是一個樽頸位Bottleneck。尤其AI訓練的時間，如果不是以日以月，可能甚至以年計，即使已經掌握解決問題的方法，研究人員可能窮一生都未必見到問題被解決的一天。Nvidia的AI解決方案是一個工具，大大縮短所需AI訓練時間，令到解決方法在有生之年變成可行。

關於AI高速發展的洞見，Jensen在GTC的結尾作了一個總結：”二十年前，這些是科幻小說的情節。十年前，這些是一個夢想。今天，我們已經活在其中。”（20 years ago, all of this was science fiction. 10 years ago, it was a dream. Today, we’re living it.）