Nvidia 數據中心市場產品 - BlueField 2 / 2X DPU Data Processing Unit
由CPU Centric到Data Centric
一直以來Data Center是由CPU Centric（CPU為中心主導）的設計，Intel的X86 CPU更是龍頭，有80-90%壟斷優勢。
Nvidia 成功令到CPU + GPU成為一個組合式配套，打入Data Center市場，利用Nvidia GPU比CPU更有效率處理AI相關運算工作。
Nvidia沒有停下腳步，下一步都是對Intel的Data Center產品市場步步進迫。
過去五年至十年，Data是爆發性增長。仍然使用傳統的CPU為中心主導模式，靠著開發的Software運行在CPU之上，去處理大量數據，不是一個有效率的做法。
2020年10月Nvidia GTC發表了最新的數據中心市場產品，BlueField 2和BlueField 2X Data Processing Unit (DPU)，是針對由Data Centric（Data為中心主導）的設計概念，令到CPU + GPU + DPU結合成為一個新的組合式配套。利用DPU更有效率處理Data有關工作，一粒DPU可以代替125粒X86架構CPU的工作量，是十分驚人的數字。
關於BlueField 2 / 2X DPU
DPU的原本設計，是源自於2019年Mellanox發佈的SmartNIC技術，Mellanox用了Arm的IP，結合起來成為BlueField IPU，同樣是Software Defined可軟件定義的處理器，提高資料傳送的速度，靈活性，和安全性。
今次Data Center Infrastructure on a Chip概念，提供Programmable可編程的Arm架構CPU的核心，令Infrastructure變為Application：
- 基建管理 (Infrastructure Management)
- 可軟件定義儲存 (Software-defined Storage)
- 可軟件定義保安 (Software-defined Security)
- 可軟件定義網絡 (Software-defined Networking)
以上等於把相關功能放到更底層由DPU處理（看下圖），可以有更高效率，讓CPU有更多運算能力去執行Application。
BlueFiled 2X加入GPU/CUDA 功能，理論上更快更直接使用BlueField上的Data，作AI運算。(BlueField 2沒有GPU/CUDA功能）
整體的應用有助Cloud Computing雲計算，Edge Computing邊緣計算，AI人工智能。
DPU + DOCA
DOCA (Data Center Infrastructure-on-a-Chip Architecture) 是Nvidia提供的SDK Library，令DPU成為一粒Software Defined可軟件定義的處理器。
DPU + DOCA這一個安排似曾相識，令我想起GPU + CUDA這個組合。相信利用DOCA，可以更有彈性去使設置和使用DPU的功能。
合作夥伴VMware
Nvidia宣布了與Vmware的合作，VMware有Virtualization的高市佔優勢，VMware是Data Center Infrastructure OS，加上Nvidia的DPU是Data Center Infrastructure 處理器，有機會重新定義Data Center的Processing Model，成為新的標準。
結語
對於Nvidia推出的DPU，我的態度是審慎樂觀，DPU有機會成為下一個増長亮點。
Nvidia的數據中心市場產品發展，顯示出前瞻性思維：
- 成功利用AI+CUDA 打入AI市場，包括搶佔Data Center產品市場。（參考文章：Nvidia 數據中心市場產品業務 (2020 Q4 Update)）
- Data的數量正在爆發性增長，未來幾年Data Center數據中心成為各公司的重要戰場。
- 收購了専門做high speed networking產品的Mellanox，産品發揮的協同效應是策略性，相信籍著DPU是進一步擴展在Data Center的地位。
- 雖然收購Arm未得到監管批準而放行，這個DPU已經見到是Nvidia加上Mellanox和Arm的混合產物，Arm明顯對Data Center市場有着戰略性地位。
- BlueField 2 / 2X在2012年會推出市場，根據Product Roadmap，2023年預計會推出BlueField 4，對比現在的BlueField 2，提升1 倍Data Rate，及提高1000倍Compute Throughput（計算吞吐量），又是一個驚人的數字。
以上不是投資建議，只是個人分享，歡迎大家留言討論。
參考文章
半導體系列 (2) 半導體時代，這次不一樣，This Time is Different ?
Comments
Post a Comment