當一家AI公司跟你說，它自己做的晶片跑得比NVIDIA還快，你該怎麼解讀？

Hot Chips大會上，OpenAI端出首款自研AI晶片「Jalapeño」的初步測試數據，聲稱推理效能超越NVIDIA GB200 NVL72與GB300 NVL72機櫃系統。這顆與博通共同設計的晶片，以每個機櫃搭載128顆、整個Pod上看2,048顆的陣容部署，具備1.7 exaFLOPS的4位元運算能力，以及27.5TB的HBM4記憶體配置，每顆封裝頻寬達15.4TBps。數字很漂亮，但故事沒那麼簡單。

效能輾壓背後的標準化玄機

先看最吸睛的數據。在半導體研究機構SemiAnalysis的InferenceX基準測試中，OpenAI聲稱Jalapeño系統在自家gpt-oss-120b、DeepSeek-R1與Kimi K2.5三款模型上，峰值吞吐量比對手平台多出1.5倍至1.9倍，端到端延遲則低了1.7倍至3.6倍。超低延遲情境下，差距進一步擴大到2.1倍至4.1倍。

但關鍵在於比較基準。OpenAI是用「晶片公布的額定功耗」來標準化結果——Jalapeño的額定功耗是700W，但實際測試時測得持續功耗僅550W或更低。換句話說，這次的效能比較其實不是傳統的「同功耗比效能」或「同效能比功耗」，而是一個對自家產品相對有利的計算框架。

OpenAI硬體產品負責人Richard Ho在會場上的說法很務實：「這款架構不僅適用於內部模型，也適用於其他模型，是一款通用型、極具彈性的AI加速器。」他沒有把話說滿，而是強調Jalapeño具備跨模型的通用性。從測試涵蓋自家、中國DeepSeek與Kimi的模型組合來看，確實展現了一定的野心。

編輯觀點： OpenAI這場發表會，與其說是「我們打敗NVIDIA了」，不如說是「我們終於有自己的晶片了」。從商業角度來看，自研晶片最大的戰略意義從來不是取代NVIDIA，而是取得談判籌碼和供應鏈韌性。看看Jalapeño的部署時程——今年稍晚有限數量、明年才廣泛部署——就知道這還是一場漫長的馬拉松。真正的決勝點不在第一代的跑分數據，而在第二代、第三代能否如期推進，以及OpenAI能否真正把這顆晶片「用出價值」。

為什麼OpenAI非得自己搞晶片？

話說回來，OpenAI對自研晶片的執著，背後有兩層現實考量。

第一層是算力飢渴。Richard Ho在會上說得很直白：「我們有著相當龐大的運算需求，而我們不可能一次就全部滿足。」這句話翻譯成白話文就是——NVIDIA的產能再大，也趕不上OpenAI的擴張速度。與其排隊等供貨，不如自己跳下來做一部分。

第二層是供應鏈風險。如果OpenAI所有的算力需求都綁在NVIDIA上，萬一出現供貨延遲、價格調整或是架構轉換的陣痛期，對一家正在快速擴張的AI公司來說都是致命傷。把雞蛋放在不同籃子裡，是再基本不過的風險管理。

Richard Ho特別提到OpenAI的運算策略涵蓋NVIDIA、Cerebras等合作夥伴，也透露Jalapeño的第二代已進入深度開發階段，甚至第三代已在進行中。這透露出來的訊息是：自研晶片對OpenAI來說是長期戰略，不是實驗性專案。

「我們運用AI，得以在晶片塞入更多的運算能力。」——Richard Ho，OpenAI硬體產品負責人

這段話其實暗示了一個更大的趨勢：AI不只是晶片的「使用者」，也正在成為晶片的「設計者」。用AI加速晶片設計流程，再用這顆晶片來訓練更強的AI，形成一個正向循環。這條路如果走得通，OpenAI在硬體上的布局就不只是防禦性的，而是帶有進攻意味的戰略縱深。

賣不賣晶片，看出OpenAI的戰略定位

會不會對外銷售？這是市場最關心的問題之一。Richard Ho的回應很有趣：「我們光是要有足夠的量都相當吃力。」這句話幫大家畫了一條很清楚的界線——Jalapeño是OpenAI的內部武器，不是貨架上的商品。

這個選擇和NVIDIA、AMD走的是完全不同的路。NVIDIA的商業模式是「賣鏟子給所有挖礦的人」，OpenAI則是「自己拿鏟子去挖金礦」。兩者沒有對錯，但決定了截然不同的產品開發邏輯——對外銷售的晶片要考慮通用性、開發者生態、軟體相容性；純粹自用的晶片可以為特定模型和架構極致優化。

從Jalapeño的測試數據來看，OpenAI顯然選擇了後者。它不需要討好外部客戶，只需要讓自己的訓練和推論工作負載跑得夠快、夠省電。這種「專用優化」的路線，某種程度上也是OpenAI敢喊出效能超越NVIDIA的原因之一——專用武器本來就有機會在特定戰場上打敗通用武器。

AI晶片戰局的下一個轉折點

如果我們把視角拉高一點，Jalapeño的出現其實標誌著AI基礎設施競賽進入新的階段。過去兩年，大家比的是「誰能搶到最多NVIDIA H100或GB200」；接下來，戰場將逐步轉向「誰能最快打造出自家專屬的算力武器」。

OpenAI不是唯一走這條路的。Google有TPU、Amazon有Trainium和Inferentia、微軟有Maia 100，現在OpenAI也正式入列。當這些科技巨頭都開始培養自己的晶片團隊，NVIDIA的「AI晶片王者」地位不會被顛覆，但「唯一選擇」的地位正在被侵蝕。

值得關注的是時間節奏。Jalapeño第一代今年稍晚才有限量部署，第二代已在深度開發，第三代甚至已經起跑。這個開發節奏如果屬實，代表OpenAI正在以接近一年一代的速度推進晶片迭代——這已經是半導體產業相當高強度的節奏了。

當然，晶片從設計完成到真正大規模部署，中間還有無數變數：製造良率、散熱解決方案、系統整合穩定性、軟體堆疊的成熟度。Richard Ho說「明年進一步廣泛部署」——這句話的真正考驗，會在資料中心上線的那一刻才揭曉。

不過有一點可以確定：AI的算力戰爭，已經從「買不買得到」升級到「做不做得出來」了。接下來這幾年，我們會看到更多AI公司跳下來做晶片，也會看到更多意想不到的效能比較數據。看熱鬧之餘，記得把「標準化基準」和「實際部署情境」分開來看——跑分贏了很加分，但真正重要的是機櫃上線後能撐住多少真實工作負載。

至於OpenAI會不會因為有了Jalapeño就放慢向NVIDIA下單？Richard Ho已經給了答案：「這是我們整體運算資源策略的一部分。」翻譯成白話——小孩子才做選擇，OpenAI全都要。

你覺得接下來兩年，自研晶片會讓OpenAI在AI競賽中拉開領先差距，還是只是幫它在供應鏈談判桌上多一點籌碼？這個問題的答案，或許比Jalapeño的跑分數字更有意思。

本文改寫整理自公開新聞來源，原始報導由科技新報發布。

常見問題 FAQ

OpenAI自研晶片Jalapeño真的比NVIDIA GB200快嗎？

根據OpenAI在Hot Chips大會公布的測試數據，在特定基準測試條件下，Jalapeño的峰值吞吐量和延遲表現確實優於NVIDIA GB200 NVL72和GB300 NVL72。但這份數據是在OpenAI指定的標準化條件下測得，實際部署效能還需要等量產上線後才能驗證。

OpenAI會對外銷售Jalapeño晶片嗎？

短期內不會。OpenAI硬體產品負責人Richard Ho已明確表示，OpenAI自身運算需求非常龐大，連滿足內部使用都很吃力，因此沒有對外銷售的計畫。Jalapeño定位為OpenAI的專用基礎設施，而非商用產品。

Jalapeño晶片的開發進度和部署時程為何？

Jalapeño第一代預計2026年稍晚以有限數量部署在OpenAI資料中心，2027年進一步廣泛部署。同時，第二代已進入深度開發階段，第三代也已啟動開發。整個產品路線圖顯示OpenAI正以高強度節奏推進晶片迭代。

為什麼OpenAI要自己開發AI晶片？

主要基於兩大考量：一是算力需求遠超過現有供應商能提供的產能，自研晶片可以補充算力缺口；二是分散供應鏈風險，避免過度依賴單一晶片供應商，同時在談判桌上取得更多主動權。

Jalapeño是在AI輔助下設計的嗎？

是的。Richard Ho在Hot Chips大會上證實，Jalapeño有一部分是在AI協助下完成開發，這讓整個設計流程比傳統方式更加迅速，也使團隊能在晶片中塞入更多運算能力。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。