關鍵數字:輝達下一代旗艦晶片Rubin Ultra的記憶體配置,從市場預期的1TB HBM4E,砍到最低192 GB,比前一代Vera Rubin的288 GB還少。這不是技術瓶頸,是一道被記憶體產能掐住喉嚨的算術題。
📊 數據總覽
根據近期產業消息,輝達正在測試的Rubin Ultra低容量版本,引發市場兩極解讀。有人說是效能妥協,有人說是策略轉向。但從數字來看,這更像一場精心計算的資源重分配。
這張表透露的訊息很直接:不是輝達不想給,是全世界真的交不出那麼多貨。HBM4E的產能到2027年依然緊繃,如果每顆晶片都塞滿1TB,現有供應量只能產出極少數頂級晶片。但若降到192 GB,同樣的記憶體總量可以做出約五倍數量的晶片。
記憶體縮水,算力反而不降反升?
說真的,單卡記憶體變小,還跑得動那些動輒上千億參數的大型語言模型嗎?答案是——大模型本來就不是靠單一晶片運作的。
這裡才是輝達真正在秀肌肉的地方。當單張晶片容量縮水,機櫃級網路就成了關鍵解法。Rubin Ultra透過輝達專屬的高速互連技術NVLink,把576顆晶片串成一個運算整體。在軟體眼裡,這就像一顆超級大晶片;單卡只有192 GB無妨,串起來就能共享超過100 TB的記憶體池。
而且,少堆幾層記憶體,發熱與耗電也跟著降——在單櫃動輒數百千瓦的機房裡,這同樣是保命題。輝達官方說法提到「正持續優化運算、網路和記憶體的組合」,白話文就是:硬體不夠,軟體和架構來湊。
AI運算的兩個階段,輝達怎麼拆解?
記憶體縮水對不同工作的影響其實不一樣。AI運作分成兩個階段:
- 「理解問題」階段:需要大量運算,對記憶體容量依賴較低。
- 「生成回答」階段:需要處理超長文章和複雜對話,要維護大量上下文暫存資料,非常吃記憶體。
輝達的解法是任務分層,配給不同等級的記憶體。理解問題吃的是算力,用不到最貴的HBM,所以輝達另外做了一款晶片Rubin CPX,改用便宜得多的一般記憶體。生成回答時暴增的暫存資料,則往下丟到一層新的快閃記憶體暫放。從晶片、網路到儲存重新分工——這就是輝達所謂的優化組合,不是喊口號。
毛利率保衛戰:不讓利潤流進記憶體三巨頭口袋
這套「優化策略」除了提升產能與系統效率,還順便解決了輝達內部的財務隱憂:成本結構失衡。
回看前幾代產品,記憶體占整體硬體成本的比例其實不高。但隨著HBM規格越炒越高,到了Vera Rubin這一代,記憶體成本已經占了整台伺服器機櫃的25%到30%。在某些AI晶片組中,高頻寬記憶體甚至占了高達60%的成本。如果輝達堅持每顆都塞滿最貴的記憶體,等於客戶買設備的錢,很大一部分會直接流進SK海力士、三星與美光的口袋。
輝達當然不樂意。降低單卡高頻寬記憶體用量,改用低價記憶體分擔負擔——這讓輝達在交付更多設備的同時,順手保護了自己的毛利率,把更多利潤留在自己擁有自主權的晶片與軟體上。說白了,這是一場「用系統設計換利潤空間」的漂亮操作。
編輯觀點:從產業面來看,輝達這步棋下得夠狠。記憶體廠商原本期待頂級晶片全部塞滿最高階HBM,現在這個過度樂觀的模型要修正了。但話說回來,記憶體的結構性短缺預計持續到2027年,定價權依然在供應商手裡——只是產品結構會轉變,中階配置占比將提高。對投資人來說,記憶體三雄的營收成長曲線會比最激進的預測「稍微平緩一點」,但短缺紅利並沒有消失。真正的輸家,可能是那些只會比「單卡規格表」的競爭者。
超微的兩難:不跟進,就是困在單卡框架
理解了這個邏輯,就能明白為什麼超微(AMD)最近也在全力推進自家的整機櫃方案,把72顆晶片整合在同一個機櫃架構裡。
如果AI晶片競爭只停留在「單張晶片」的規格比較——比誰運算快、誰記憶體大——超微完全有能力在規格表上與輝達平起平坐。然而輝達藉由記憶體瓶頸,把比賽規則改了。現在客戶採購時,看重的是機櫃層級的整體運算效率。當單張晶片記憶體變小,晶片之間的溝通效率就成了勝負關鍵。
如果超微只賣單張晶片,讓客戶拿傳統網路線自己拼湊,整體效率就會被輝達的整合生態遠遠甩在後頭。加上輝達的CUDA軟體生態系本來就對多晶片串聯與記憶體管理做過大量優化,硬體規格變動,軟體還能幫忙緩衝——這對軟體生態相對弱勢的競爭對手來說,壓力更為巨大。所以超微必須跨足機櫃設計,去攻克晶片串聯這塊硬骨頭。換句話說,輝達用一場記憶體缺貨,順勢把戰場從「晶片規格」拉到了「系統整合」,而這正是輝達的主場。
數據告訴我們什麼?
記憶體是目前AI基礎建設最大的瓶頸,這一點無庸置疑。供應量、良率與價格,正實實在在限制著產品設計與出貨速度。但整個產業並沒有坐以待斃:
- 短期:輝達透過降規格換取出貨量,用系統設計補足單卡缺口,同時守住毛利率。
- 中期:記憶體產能若順利提升,高容量版本仍有機會回歸,市場不必把192 GB當成永久規格。
- 長期:AI基礎建設的競爭將全面走向「機櫃級」甚至「資料中心級」的系統整合,單晶片規格的重要性持續下降。
對企業採購者來說,此刻的決策邏輯也必須跟著轉彎:與其追求單張晶片的「滿血頂配」,不如思考整體機櫃的「有效算力」。對投資人而言,記憶體廠的紅利還在,只是需要下修預期;而輝達的生態系護城河,因為這場缺貨危機,反而變得更深了。
一句話總結:輝達用192 GB的「瘦身晶片」,換到了五倍出貨量、守住毛利率,還順便把競爭對手拉進自己最擅長的系統級戰場。這場記憶體大缺貨,表面上是妥協,骨子裡是一場漂亮的規則改寫。
本文改寫整理自公開新聞來源,原始報導由科技新報發布。
常見問題 FAQ
Rubin Ultra記憶體降到192 GB,會不會影響AI模型訓練效能?
不會直接影響。大語言模型本來就是靠大量晶片串聯運作,輝達透過NVLink將576顆晶片串成記憶體池,整體容量超過100 TB,單卡縮水可透過系統設計補足。
輝達為什麼不等到記憶體產能足夠再出貨?
因為微軟、Meta等超級客戶現在最缺的就是「能用的算力」。與其等到2027年產能舒緩,不如現在先出貨更多「稍微瘦一點」的晶片,滿足市場迫切需求。
記憶體廠商SK海力士、三星、美光會受多大影響?
整體需求仍在成長,定價權也還在供應商手上。但過去「所有頂級晶片都塞滿最高階HBM」的樂觀預測需要修正,中階配置產品占比提高,成長曲線會比最激進的預測稍微平緩。
※ 此篇文章由 AI 改寫或生成,內容僅供參考,可能存在錯誤或不準確之處。