Nvidia 面對的競爭，Amazon 及 Google 等 Cloud Service Providers 自家設計晶片

September 04, 2023

Nvidia 面對的競爭，Amazon 及 Google 等 Cloud Service Providers 自家設計晶片

聲名：本文章不是投資建議，不是建議買入或者賣出。

美國有可能進入衰退，預計企業支出可能縮減，例如：Amazon AWS、Microsoft Azure、Google GCP在Q2的增長有放緩，此三間是美國及環球CSP (Cloud Service Provider) 龍頭。不過同是Q2業績的Nvidia，Data Center產品收入卻見到爆發增長及加速，103.32億美元，按年+171%，按季+141%，就像平行時空。Nvidia Earning Call中提到來自Cloud Service Providers佔Data Center的營收是50%多少許。

Cloud 和 AI，The Big Picture

現代數據中心，包括：Cloud或者企業自建數據中心，Nvidia CEO Jensen Huang解釋正在經歷Transformation轉型。「新的運算時代已經開始。該行業正在同時經歷兩個平台轉型：加速運算和生成人工智能。數據中心正在將平台從通用運算轉向加速運算。價值數萬億美元的全球數據中心將過渡到加速計算，以實現一個數量級的性能、能源效率和成本提升。加速計算催生了生成式人工智能，它正在推動軟件平台的轉變，並實現前所未有的新應用。」

「加速運算和生成式人工智能共同推動了廣泛運算行業平台轉變。我們的需求是巨大的。我們正在大幅擴大生產能力。今年剩餘時間和明年的供應量將大幅增加。二十多年來，沒有人為此做好準備，並創建了一個世界工業可以在此基礎上構建的新計算平台。」

「全球在雲、企業和其他方面安裝了價值約 1 萬億美元的數據中心。價值數萬億美元的數據中心正在轉變為加速運算和生成人工智能。我們同時看到兩個同步平台轉換。一是加速運算，因為它是目前最具成本效益、最節能、最高效的計算方式。所以，所以，你所看到的 - 然後，突然間，由生成式人工智能支持 - 由加速計算支持，生成式人工智能出現了。這個令人難以置信的應用程序現在給了每個人兩個轉型的理由，從通用運算（傳統的運算方式）到這種新的運算方式（加速運算）的平台轉變。」

「數據中心每年的資本支出約為 1 萬億美元的25%，即 2,500 億美元。你會看到，世界各地的數據中心正在將資本支出集中在當今計算的兩個最重要的趨勢上，即加速計算和生成人工智能。因此，我認為這不是近期的事情。這是一個長期的行業轉型，我們看到這兩個平台的轉變同時發生。」

（參考：Nvidia (NVDA) Q2 2024 Earnings Call Transcript）

Nvidia 表達的Accelerated Computing加速運算概念，在過去多年GTC大會中已經提及，有數據支持Nvidia GPU可以做到：更高算力、更省電、更省佔用空間，這是Jensen常用的廣告Slogan「The more you buy, the more you save」(透過CUDA軟件層，再叠加而成的All Stack Integration，下次寫文再討論)，就是由傳統的General Purpose Computing通用運算轉到Accelerated Computing加速運算的誘因，後者是支持發展AI人工智能的其中一個關鍵。

今年Q2見到Data Center Revenue突然爆發性增長，稍後即使有回落，General Purpose Computing轉到Accelerated Computing是一個漫長的過程，相信市場對於AI晶片的需求長線是可持續。

同一時間，Nvidia的Data Center 晶片現在是供不應求，訂單大約是能的150%。中國内地約佔20%-25%，如果受到美股的禁止出口措施再進一步收緊，而最壞情況是失了此部分生意，訂單仍是供不應求，是由150%減至125%-130%。

無論是使用雲服務或者是企業自建數據中心，Accelerated Computing加速運算可以有有更加成本效益，Generative AI生成式人工智慧可以造就更多系統的新功能，或者令現存功能執行得更有效率，對於企業客戶可以直接提高生產力，效果是實在而明顯。

Amazon 晶片

對比Microsft微軟和Google谷歌，Amazon亞馬遜是最積極發展自家晶片設計的雲端服務供應商。亞馬遜掌握了由晶片設計，到雲端服務，到網購及其他應用，對於未來 AI 發展有一定程度好處。尤其是其Amazon AWS 雲端服務，現在是環球市佔率的首位，相信自家設計晶片的目標對軟體可以做到更好的配合，提高效能。

現在 Amazon AWS 可以支援:

Amazon亞馬遜自家設計晶片 (Graviton / Trainium / Inferentia)

Intel 英特爾 CPU

AMD 超微 CPU / GPU

Nvidia 輝達 GPU

Xilinx 賽靈思 FPGA

AI 運算在雲端服務中的比重會持續增加，AI 科技趨勢會提升整體算力需求，除了 GPU，也包括 CPU，使用 FPGA 亦可能成為其中一個趨勢。相信 AWS 行的策略是多樣化和專門化，不代表現在就取代輝達 GPU。其雲端環境可以支援多種不同晶片，客戶可以因應不同的 AI 運算需要，期望選取一個最大化成本效益的組合。

Google 晶片

2016 年 5 月， Google谷歌推出 TPU (Tensor Processing Unit) 晶片，是專用集成電路晶片 (ASIC，Application Specific Integrated Circuit)，專門用作 AI 訓練神經網絡之用。過去幾年，不斷推出新的升級版本 TPU。

2023 年 4 月，谷歌發表的研究論文表明，Google谷歌將 4,000 塊 TPU V4 (2021 年推出) 串連在一起製造了一台超級電腦，其中使用了內部開發的光學線路開關 (Optical Circuit Switch)，有助增加效率。它表示運行速度比輝達 A100 GPU 的同等電腦快 1.7 倍，效率高 1.9 倍。

如果單單看谷歌發表的研究論文的運算速度比較結果，這是不夠全面。

Google谷歌 TPU 和Nvidia輝達 GPU 的市場定位不完全相同:

Google TPU 是 ASIC，有運算更快和更省電的好處，專門供給 GCP 使用，目的是配合 Google 自己的雲端業務，晶片不會公開發售，不發售給競爭者 - AWS(市佔率 32%)和 Azure(市佔率 23%)。市場不會只使用 GCP 一個雲端服務供應商，GCP 市佔率相對低，約 10%。

Nvidia輝達的角色為晶片供應商，GPU 強調的是彈性和通用性，支持更多種的深度學習框架，在更多的基礎建設環境中可以使用，包括雲端、企業自建數據中心。實際上谷歌 GCP 有使用輝達 GPU 去提供雲端業務。

思考

Microsoft已經傳聞幾年正在設計自家晶片用作Azure雲端上使用，不過一直不是官方的確實答案。

Amazon 和Google的角色，與Nvidia是混合關係：

一是合作伙伴，在各自的雲服務平台用上Nvidia晶片，更多客人使用雲服務或者更多使用量，同樣地Amazon和Google都會得益。

二是競爭者，Amazon和Google在各自雲服務平台使用自家設計晶片，希望在適用的情況之下爭取更高毛利率，我相信是有機會發生，會搶走Nvidia的一部分Market Share。不過，這個不代表是完全取代Nvidia晶片，因為Nvidia現在可以做到是通用性，而且Nvidia在CUDA軟件層上建立出功能和生態系統，不是Amazon和Google可以短期做到，即使本身設計晶片有更高性價比。

Nvidia AI晶片現在有市場佔有率約90%，我相信有機會逐步減少，但不是斷崖式，而整體速長速度可能放緩（加上大基數效應），不過環球對於AI需求的整體的餅是擴大中，公司業務仍然可以健康地增長。

更多Nvidia / Amazon / Google / Microsoft 的AI產業分析内容，參考我的新書：《AI 投資時代．真的值得參與嗎？》。

《AI 投資時代．真的值得參與嗎？》

主題和内容 | 發售資料

《科技戰國．尋找科技價值投資的故事》

主題和内容 | 發售資料

最近開了下面的Page / Group，歡迎大家Like和Follow，就可以自動收到文章更新。
Facebook
https://facebook.com/duncaninvest
Instagram
https://instagram.com/duncannewinvest
Telegram
https://t.me/duncaninvest
謝謝支持！

參考文章

半導體公司，分餅仔 (2023/Q2)

半導體公司，分餅仔 (2023/Q1)

NVIDIA 2023 Q2 業績，簡短報導，AI 炒作的真實考驗？

NVIDIA 發布數據中心 GPU L40S

NVIDIA 和 CEO JENSEN HUANG 成為爭論焦點

NVIDIA 2023 Q1 業績，簡短報導，DATA CENTER 重要的事要說三次

分餅仔，半導體公司 ASML / TSM / AMD / INTEL (2022/Q4

NVIDIA GTC (2023/3月)，從晶片，到軟件，到服務

NVIDIA 2022 Q4 業績，DATA CENTER 仍然是重點

CHATGPT 背後的科技 (2) AI 算力需求的大戰

CHATGPT 背後的科技 (1) 背後使用什麼晶片？