圖:黃仁勳(左)2016年8月向OpenAI親手交付世界上第一台單機箱深度學習超級電腦,馬斯克(右)當時為OpenAI聯合創辦人。\網絡圖片
【大公報訊】綜合《華爾街日報》、路透社報道:由OpenAI開發的人工智能(AI)聊天機器人ChatGPT去年底問世後,全球迅速掀起一股AI熱潮。美媒稱,各大科企紛紛加入AI戰場,瘋狂搶購用於被稱為「生成式AI系統命脈」的圖形芯片(GPU),「就像疫情期間狂買衞生紙一樣」。芯片巨頭英偉達幾乎壟斷AI所需的GPU市場。大摩最新預測,英偉達將在今年的AI產品市場中獲得60%的份額。
獲得數以萬計的高級GPU對於培訓大型AI模型的公司來說至關重要。如果沒有足夠的GPU,這些大型語言模型的運行速度就要慢得多。
英偉達股價大漲167%
隨着生成式AI的爆火,各家科企巨頭爭相開發自家AI產品,導致對GPU等關鍵硬件的需求激增。一家幫助公司構建AI模型的初創公司Lamini的聯合創始人莎朗形容現在的GPU「就像是疫情期間被瘋搶的衞生紙」。
目前市場上的GPU大多來自英偉達的供應,其高級GPU擅長同時進行大量計算。瑞銀分析師估計,較早版本的ChatGPT需要大約1萬個GPU;馬斯克認為,新版本的ChatGPT可能需要三至五倍的GPU數量。
旺盛的需求推動英偉達股價一度上漲約167%。該公司最近表示,正在擴大供應以滿足不斷增長的需求,但許多AI公司高層預計市場的GPU短缺至少會持續到明年。據悉,有一些零售商甚至以超過3倍的價格(約3.3萬美元)兜售英偉達GPU,而在二級市場的價格還會更高。
AI搜索引擎公司Perplexity AI行政總裁斯里尼瓦桑稱:「即使你已經預付了費用,也不意味着GPU會在第二天或一周內就送上門來。能做的只有等待。」有服務器製造商表示,他們需要等待6個月以上,才能獲得英偉達的最新GPU。
最大的服務器製造商之一超微公司表示,該公司正加足馬力研發AI產品,急需大量GPU系統。一些初創公司目前只好轉用甲骨文等不太受歡迎的雲供應商,希望盡快等到芯片短缺問題解決。
「人和狗都在搶GPU」
千金難求GPU。馬斯克上周直言,「GPU比毒品更難獲得」。這讓人聯想到馬斯克3月聯同上萬名科技專家簽署公開信,要求暫停研究AI半年,以建立更完善的監管機制。但很快就被媒體踢爆,馬斯克已經暗中購買了近1萬個GPU,為自家AI公司X.AI力撼OpenAI做準備。
當被問及相關問題時,馬斯克直接承認,稱包括特斯拉和Twitter在內的所有人都在購買GPU用於計算和發展AI,「所有人和他們的狗都在購買GPU,Twitter和特斯拉肯定也在買」。
此外,英偉達行政總裁黃仁勳日前向CPU(中央處理器)行業發起挑戰。他宣布傳統的摩爾定律已經過時,未來的性能提升將主要來自生成式AI。他表示,訓練一個需960個CPU集群的大型語言模型需花費約1000萬美元,並消耗11千兆瓦時的電力。相比之下,如果成本不變,全部換成GPU集群,可以訓練44個LLM。這意味着,用GPU訓練大型語言模型,可使成本降低96%。
领取专属 10元无门槛券
私享最新 技术干货