Skip to main content

Posts

Featured

Google Gemini 和 TPU ,我是 Nvidia 投資者如何思考

有消息Google最新version Gemini使用自家設計TPU (是ASIC一種) 進行訓練,因為過去大家普遍認為ASIC適合推理而非訓練。Meta正洽談斥資數十億美元購買Google TPU晶片。 市場的即時反應,Google和Meta正面,Nvidia負面。 ASIC是application specific integrated circuit,特定用途,針對Google Gemini特別高效。但是不代表所有企業的所有Model都可以達到同樣最佳的效果。 如果ASIC可以用在許多種不同用途,就不再是specific,不是ASIC,這個是Nvidia GPU是general purpose,設計上的分別。 Meta在洽談,不代表交易一定成事,需要觀察。假如成事,不代表一定有如Google Gemini最佳效果。 Google造出來TPU,假如賣給Meta,是會加上Profit Margin去賺錢,不代表價錢好平,Google不是NGO,Google角色成為晶片供應商,定價睇齊AMD / Nvidia ? Google訓練自己的AI Model之外,Google Cloud Platform (GCP)業務仍然在購買Nvidia GPU,去提供服務給客戶。 以下節錄自我的書 《AI 投資時代》(參考: 主題和内容  |  發售資料 ) 雲端服務是硬體共享理念,是集中設置基礎設施,透過不同客戶去使用,包括不同客戶有不同使用時間高峰,當完成了一個客 戶的工作,就可以做另一個客戶的工作,如果晶片運算速度越快, 騰出的空間去接受更多客戶的工作,直至時間被填滿,就需要加添 更多硬體設備。 CPU 和 GPU 設計理念是通用性,要考慮的因素就會越多,運 算速度可能要有犧牲。不過此亦符合雲端服務供應商的考慮,通用 性代表更多客戶可以合適使用。 相反,FPGA 和 ASIC 是集中處理特定工作範圍而加強運算 速度的提升,可以做到快過 CPU 和 GPU,及耗電更低。FPGA 和 ASIC 又是兩種極端手法: ASIC 內置特定用途設計是最狹窄,不能更改。 FPGA 可編程特性令至最大彈性,即可以在沒有更換晶片 的情況下,改變內部功能。 在雲端服務上,由一般運算到增加了 AI 運算,由使用 CPU 到 GPU,這是一種專門化的過程。當處理 AI 運...

Latest Posts

Wall of Worry,憂慮之牆

Nvidia 2025 Q3 業績,仍然持續快速增長,濃霧中的 AI 泡沫

Nvidia GTC (2025/10月) ,全面的 Eco System 的前瞻性和可塑性

IT 職人 - 我工作中的科技分析,對於投資的意義和邏輯 (3) 往日的 Nvidia,今日的 Ethereum?

Zoom Live:AI 投資時代 (Master Wise 主辦),討論 Nvidia / AI 投資 / AI 泡沫,網上重温

今年的滿意操作,精簡優化組合

我的出版書籍