AI ,對於算力的崇拜
Perspective view, people worship in data center, dramatic lighting, renaissance painting style #MicrosoftDesigner
上回討論,我看科技發展趨勢和科技行業趨勢為首要。充分去了解可以更加具有前瞻性去把握投資機會。(參考:我工作中的科技分析,對於投資的意義和邏輯)
投資市場中,人人都在談AI、晶片、算力。
Big Data 大數據
大約10年前,我在工作中不同的vendors presentation都會經常聽到提及Big Data和AI的大趨勢,Big Data特別強調text文本和image相片。此兩項為現在AI Model的multi-modal的兩大元素,不過當時自己是半信半疑,未有深入了解AI究竟和我們的距離是遠或近。
過去10多年,全球數據量增長十分驚人,超大量數據正是促成AI訓練變得可能。下圖是節錄自我的書《AI 投資時代》(主題和内容 | 發售資料)。
有超大量數據,AI訓練需要大量算力去支持,算力需求的情況是怎樣?
AI Model 引証算力需求
對於大眾,ChatGPT在2023年初出現,真正震撼人心,感受到AI時代的來臨。
我第一次見到GPT這個字眼是2021/4月的Nvidia GTC,blog中有寫文章分享。當時是GPT-3,見到處理NLP (Natural Language Processing)的强大能力。文章包括下圖是LLM (Large Language Model) AI Model的Parameters參數的趨勢,大約是兩年以10倍速度去發展。(參考:NVIDIA GTC (2021/4月) 總結,未來的產品佈局)
這個數字就好像人腦的複雜程度,複雜程度大概化身算力去理解。今日的AI處理使用1個小時,使用同等電腦去處理,兩年後使用10個小時;今日使用1部電腦做AI處理,想用一個時間完成,兩年之後的AI處理使用10部電腦。(這只是簡化了的大概解䆁,實際上例如軟件上的優化都可以加大performance效能。)
這種駭人的增長速度以10倍計,來勢洶洶,多少解釋了Microsoft和Meta等科技巨企為設置data center基建,不斷又不斷買入大量Nvidia GPU。
事隔3年,現在是2024年,Nvidia的presentation中見到下圖,LLM (Large Language Model)參與者是更多,AI Model Parameters參數仍然保持以上的發展軌跡,大概兩年以10倍速度增長。思考
AI Model的Parameter參數增長代表了幾件事:
- AI對於算力需求的擴張,就是AI晶片需求的擴張。
除了AI晶片 (Nvidia、AMD、Intel),是半導體行業的整體需求提升 (SOXX、SMH)。AI Data Center基建包括 Super Computer / Server、Networking,甚至又會推動AI PC / AI Phone等,內裡有很好不同的晶片及零部件,自然反映到晶片生產(TSM) 和晶片生產設備 (ASML)。
AI算力需求有一大部份來自Cloud提供,原因是過去企業自建Data Center很難去追上這種算力擴張速度,唯有Cloud做到規模經濟 (Economy of Scale) 的效果。此帶動Cloud Service Provider (Amazon AWS, Microsoft Azure, Google GCP) 的業務。
- AI Model的Parameter參數代表的複雜程度,反映AI的智慧程度,所掌握的智慧越多,解決問題的能力越高,過去不可能解決的問題就變得可能。
- 這種增長不獨是1年,而是相對較長期的可持續增長。
關於Business Model,下次再談。
(參考:yahoo finance - AI Chip Market)
《憑科技.贏自由》
《AI 投資時代.真的值得參與嗎?》
《科技戰國.尋找科技價值投資的故事》
https://facebook.com/duncaninvest
https://instagram.com/duncannewinvest
Telegram
https://t.me/duncaninvest
謝謝支持!
參考文章
MICROSOFT COPILOT+ PC,翻天覆地的改變?
咁係因為你悲觀,AI 有無清楚的 BUSINESS MODEL?
NVIDIA GTC (2024/3月),CAUSAL TALK
NVIDIA 2023 Q4 業績,渡過了充滿質疑的 2023 年
分餅仔,半導體公司 ASML / TSM / AMD / INTEL (2022/Q4)
ARM 可能不授權阿里巴巴使用 NEOVERSE V 晶片設計,NEOVERSE 有何重要性?
ASML INVESTOR DAY 2022,未來半導體行業是危?是機?
當 AI 遇上雲計算,NVIDIA 和 MICROSOFT / ORACLE 合作的 DEAL
NVIDIA GTC (2022/9月) ,NVIDIA 仍然是 NVIDIA,只是做回自己
看台績電業績,高性能計算 HPC (HIGH PERFORMANCE COMPUTING)
幅圖好正😂,感覺衣家硬件比軟件重要
ReplyDelete綠魔thank you, 留意下回Business Model
DeleteDUNCAN兄,偶然在YOUTUBE聽到你的分享,見到你真身,很奇妙~ 謝謝你分享AI背後的算力需求,獲益量多。我不久前也接觸到AI TRAINER行業,真的很有趣,以兼職方式投入這行業的人無數,尤其是在印度、菲律賓等國家更多這種DIGITAL NOMAD,每天做三小時便能獲得在當地生活的費用,再也不用來香港打工!其實世界各地有很多公司願意投入大量金錢去投資發展LLM。看來衞斯理中的機械人很快便會出現來統領世界!
ReplyDeletehello加菲貓,好耐冇見你留言,多謝支持!
DeleteAI的未來發展,我都偏向正面,下回我寫Business Model,可以留意一下