Nvidia 發布數據中心 GPU L40S

上回文章 - NVIDIA 和 CEO JENSEN HUANG 成為爭論焦點,繼續討論。

2023年8月,Nvidia發布:

  • OVX Servers使用數據中心 GPU L40S,一款功能強大的通用數據中心處理器,旨在通過 NVIDIA Omniverse 平台加速計算最密集、最複雜的應用程序,包括 AI 訓練和推理、3D 設計和可視化、視頻處理和工業數字化。新的 GPU 為生成式 AI 提供加速計算工作負載,這正在改變跨行業的工作流程和服務,包括文本、圖像和視頻生成、聊天機械人、遊戲開發、產品設計和醫療保健。
  • NVIDIA Professional Visualization(專業可視化)副總裁 Bob Pette 表示:「隨著生成式 AI 改變每個行業,企業越來越多地在數據中心尋求大規模計算資源。配備 NVIDIA L40S GPU 的 OVX 系統可加速人工智能、圖形和視頻處理工作負載,並滿足不斷增長的複雜和多樣化應用程序的苛刻性能要求。」
  • 為每台伺服器使用多達 8 個 Nvidia L40S GPU,每個 GPU 配備 48GB Memory。 L40S 基於 NVIDIA Ada Lovelace GPU 架構,包括第四代Tensor Core和 FP8 Transformer 引擎,可提供超過 1.45 petaflops 的Tensor Processing Power。對於具有數十億個參數和多種數據模式(例如文本和視頻)的複雜AI 工作負載,與NVIDIA A100 Tensor Core GPU 相比,L40S 的生成式AI 推理性能提高了1.2 倍,訓練性能提高了1.7倍。

(參考:NVIDIA, Global Data Center System Manufacturers to Supercharge Generative AI and Industrial Digitalization

可能不少朋友對於 L40S 感到陌生,相對媒體常常提及A100和升級後的H100,去年美國宣佈禁止Nvidia出口到中國,而ChatGPT和各科技企業想搶佔Generative AI(生成式AI)市場,都是紛紛購入A100或者H100。

要了解L40S的定位,先要多一點了解Nvidia 的產品策略和佈局。

以下内容,參考我的新書: 《AI 投資時代.真的值得參與嗎?》

產品策略和佈局

乘著 GPU 的高市佔率優勢,Nvidia嘗試去推銷一個更闊的 CPU + GPU + DPU 組合在數據中心應用,是針對大量數據和大量 AI 運算的情況,目的是提升整體效能,希望繼續蠶食英特爾的數據中 心晶片市場。輝達稱此為三晶片公司(Three-Chip Company)策 略。

另外,GPU 用作 AI 運算,尤其針對 AI 推理,推出不同規格定 位的晶片,走向更加專門化。針對算力需求的大小,不用每每用到頂級的 A100 / H100,有更大的成本效益:

  • L4:AI 影片功能,包括:影片解碼/轉碼、視像會議等
  • L40:AI 圖像功能,圖像渲染(Rendering)、文本到圖 像(text-to-image)、文本到影片(text-to-video)等
  • H100 NVL:大 型 語 言 模 型(LLM,Large Language Model)
  • Grace-Hopper:最高規格,配合 CPU 和 GPU 高速數據傳 輸

相信L40S應該是L40的升級版,主打AI 圖像功能和圖像渲染(Rendering),AI生成圖像,例如Mid Journey、Stable Diffusion、DALL-E等都是這一類。

Omniverse 元宇宙平台

發布中提及到數據中心OVX Servers搭載 GPU L40S,OVX Servers是專門設計用作執行Omniverse。

輝達 (Nvidia) Omniverse 是元宇宙平台,透過平台建立出數字孿生(Digital Twin),代表現實世界和虛擬世界之間的互動關係,企業顧客在實施中,目的包 括:設計合作(Design Collaboration)、機械人工廠(Robotic Factory)、模擬(Simulation),在虛擬環境中進行的設計或者模擬,可以大大降低對比在現實世界中進行的成本和安全風險。在 虛擬環境中要配合的,包括:物理定律、光線、物料、虛擬角色 (Avatar)都是需要大量的 AI 技術支持。

元宇宙內的豐富環境,生成式 AI 可以幫助更有效率地去構建其中的內容。

元宇宙平台支持的這種應用場景,虛擬世界和現實世界有互 動,重點是企業的專業應用,應用場景複雜和多變。建構出不單 是虛擬世界,而是虛擬世界和現實世界所組成數字孿生(Digital Twin)的關係,兩個世界之間的互動和關連,為企業用戶解決問 題,創造價值。主要包括三大功能:

  • 設計合作(Design Collaboration):提供虛擬環境,不 同的設計師可以連接一起創作。如果設計是一件虛擬物 件,就可以在元宇宙之中使用。如果設計是一件現實物 件,完成的設計就可以拿去工廠生產。
  • 機械人工廠(Robotic Factory):提供虛擬環境,機械人 可以進行 AI 訓練,甚至包括在現實中比較難遇到、危險 或極端的情況,學習得到的能力,然後在現實環境中去完 成工作。
  • 模擬(Simulation):提供虛擬環境,可以讓用戶預先模 擬或實時監察,如遇上問題,甚至遙距控制一個機械人、 自動駕駛車輛等。

大家在坊間見到有提及元宇宙,例如:社交是一個應用場境, 會議是另一個應用場境。Nvidia Omniverse 作為元宇宙平台,本身不是一個單一的應用場境,而是一個開放式平台,令到各個客戶 和各個合作夥伴的軟體可以連接,就可以建立出不同的應用場境, 著重是其彈性,有無限的可能性。實施的例子包括:BMW 建立出 全球車廠及生產線的虛擬環境、亞馬遜建立出物流履行中心的虛擬環境、愛立信建立出 5G 基站設施的虛擬環境、EARTH-2 建立出全 球氣候變化預測模型的虛擬環境、ISAAC 建立出機械人技術平台、 DRIVE 建立出自動駕駛平台等。

元宇宙應用是配合到企業客戶的業務當中,虛擬環境的使用可以降低成本,增加效率,及增強安全性。

企業可以購入硬體,然後安裝 Omniverse 到自行營運數據中 心中使用,亦可以選擇使用雲端,Omniverse Cloud 是透過微軟 Azure 提供服務。

思考

2022年,Nvidia業績見到倒退。

Omniverse的業務是歸入Professional Visualization一項:

  • 2023年Q1,該項營收2.95 億美元,按年-53%,按季+31%(仍是按年倒退,按季正增長,相信改善中,2022/Q4,2.26 億美元,按年-65%,按季+13%)

  • 2022年按年倒退-27%。

  • 2021年按年增長+100%,曾經有快速增長。

很多投資者見到元宇宙這一個的字眼,就嗤之以鼻,可能一大程度因為Meta (改名前的Facebook)投資發展元宇宙不順利。值得去看看以上Nvidia Omniverse 元宇宙平台介紹,是不同於Meta 元宇宙的應用場景和Business Model。最重要不是五年十年計劃,今天已經有製成品,已經有企業客戶實施在自己的營運之中。Nvidia GTC (2022/3月),Omniverse Update:

今年的AI熱潮,相信令到更多企業正視AI在業務中的應用,有助未來Professional Visualization增長。

上次 2023 / Q1 業績公佈當日,公司預計 2023 / Q2 總營收將達到110億美元左右,相信較大數字是來自Data Center,即企業AI應用:

  • 比較原本Wall Street預期的71.8億美元,大幅度高出 53%。(這大概是在當日Post market股價升了約24%的一部分原因)
  • 比較 2022 / Q2 的67.04億美元 ,一年前的營收數字67.04億美元,高出 64%。
  • 110億美元是什麽概念?2022 / Q1 是歴史中最高的營收為 82.88 億美元,這項預測比歴史最高是高出 32.7%。

下星期,8月23日 Nvidia將會公佈 2023 / Q2 業績,看看公司表現是如何。不過今年股價升幅不少,提防Buy the rumour,Sell the news,,即使做到110億美元營收,股價可能出現較大波動。

更多Nvidia 的分析内容,參考我的新書:《AI 投資時代.真的值得參與嗎?》


《AI 投資時代.真的值得參與嗎?》

主題和内容 | 發售資料

《科技戰國.尋找科技價值投資的故事》

主題和内容 | 發售資料


最近開了下面的Page / Group,歡迎大家Like和Follow,就可以自動收到文章更新。
Facebook
https://facebook.com/duncaninvest
Instagram
https://instagram.com/duncannewinvest
Telegram
https://t.me/duncaninvest
謝謝支持!


參考文章

NVIDIA 和 CEO JENSEN HUANG 成為爭論焦點

半導體公司,分餅仔 (2023/Q1)

分餅仔,半導體公司 ASML / TSM / AMD / INTEL (2022/Q4

NVIDIA 2023 Q1 業績,簡短報導,DATA CENTER 重要的事要說三次

NVIDIA GTC (2023/3月),從晶片,到軟件,到服務

NVIDIA 2022 Q4 業績,DATA CENTER 仍然是重點

CHATGPT 背後的科技 (2) AI 算力需求的大戰

CHATGPT 背後的科技 (1) 背後使用什麼晶片?

NVIDIA 2021 Q4 業績,看發展進程,PROFESSIONAL VISUALIZATION (OMNIVERSE)

NVIDIA 數據中心市場產品業務 (2020 Q4 UPDATE)

CES 2022,NVIDIA DRIVE 自動架駛

有一個元宇宙,叫 NVIDIA OMNIVERSE

NVIDIA,AMD,INTEL,晶片公司發佈,其實背後想講什麽?

NVIDIA GTC (2021/11月) 速報

NVIDIA GTC (2021/4月) 總結,未來的產品佈局

NVIDIA DGX SUPERPOD,AI 超級電腦成為一件可接觸的產品

NVIDIA DRIVE AV (AUTONOMOUS VEHICLE) 自動架駛,增長賽道就在前面

NVIDIA OMNIVERSE,一個指向 METAVERSE 元宇宙的實現

NVIDIA GRACE CPU,在數據中心的晶片之戰

NVIDIA TAO,不只是一間晶片公司的AI 競爭優勢

NVIDIA : I AM AI

Comments

Post a Comment