精選文章 封面故事

GTC 2025來了!

莊家源 文章摘錄自第2343期

在今年的GTC大會上, 市場預期輝達除了展示GB300、CPO交換器之外, 隨著AI技術不斷進步,與推理運算模型興起, 將推動高效能GPU的需求持續成長。

今年度的輝達(Nvidia)GTC大會(GTC 2025)重返美國加州聖荷西,來自全球數千名開發人員、科技企業領袖將齊聚一堂,且參加的廠商攤位數量較去年倍增,輝達執行長黃仁勳將在台灣時間三月十九日凌晨一點發表主題演講,市場預期將展示目前AI的最新技術與應用,包括AI伺服器GB300、CPO交換器、AI代理(AI Agent)、數位孿生技術(Digital Twins)、AI機器人、自動駕駛技術與下一代伺服器平台Rubin等。

今年二月底,GPU大廠輝達公布去年第四季財報,單季營收達三九三.三億美元、季增十二.一%、年增七七.九%,其中受到GB200伺服器在去年底開始量產後,已實現一一○億美元營收,帶動資料中心業務營收達三五五.八億美元、季增十五.六%、年增九三.三%,優於市場預期。

輝達財報、財測優於預期

在下一季財測展望方面,輝達預估今年第一季營收將達四三○億美元,季增約十%,主要由資料中心和GPU業務成長帶動,但受到Blackwell平台在產能拉升初期,成本較高而影響毛利率表現,輝達釋出第一季毛利率約落在七一%的正負二.五%之間,隨著後續Blackwell產能全面提升,毛利率表現將獲得改善。

輝達執行長黃仁勳在今年二月底的財報會議當中,透露出一個重要的訊息,那就是「目前全球AI科技發展正進入一個AI推理的新時代,AI推理所帶來的潛在需求將遠超當前的大語言模型(LLM),可能需要比現有算力高出數百倍,甚至數千倍」,此外,黃仁勳也更進一步指出目前Blackwell系列晶片的供應鏈問題已完全解決,新款晶片Blackwell Ultra預計今年下半年發布。

推理運算成AI發展新方向

隨著OpenAI的O系列、DeepSeek的R1和Google的Gemini 2.0 Flash Thinking等推理模型興起,越來越多人開始關注推動這類推理模型的擴展法則,輝達財務長Colette Kress在二月底的財報會議中指出,推理需求正在加速成長,特別是在AI測試階段的擴展,以及長思考推理AI(Long-thinking Reasoning AI) 的興起,這類AI模型需要分析大量資訊並進行多步驟邏輯推理,才能產生更準確的結果。根據MarketsandMarkets研究數據顯示,今年全球AI推理市場規模預估為一○六一.五億美元,到了二○三○年將達二五四九.八億美元,二○二五~三○年間複合年成長率為十九.二%。

面對推理計算需求的快速增長,輝達在Blackwell架構下推出GB200,這款晶片不僅是目前市場上效能最強大的AI推理運算平台之一,更在成本與效能上取得突破。根據輝達提供的數據顯示,GB200的推理效能比前一代Hopper H100高出二五倍,推理運算成本降低二○倍,這使其成為企業部署AI服務的最佳選擇。

儘管中國新創公司DeepSeek以其具有成本效益的AI模型引起市場關注,市場開始質疑輝達的高效能GPU長期需求是否會受影響,再加上近期川普關稅議題干擾,造成輝達、微軟、Google、亞馬遜、Meta等股價自今年初以來大幅回檔。不過,黃仁勳對DeepSeek的技術進步反而持樂觀態度,他認為DeepSeek的創新最終將推動AI計算需求的進一步成長,儘管DeepSeek提升了AI的運算效率,但其AI模型主要用於推理(Reasoning),這仍然是一個極為耗費計算資源的過程,更複雜的AI推理需要更強大的計算能力,這將進一步提升對輝達高效能GPU的需求,因此DeepSeek的出現並未改變目前AI軍備競賽的局面,隨著OpenAI和Google等公司的競爭日益激烈,促使亞馬遜、Meta等公司加大對AI領域的投資,以鞏固其領先地位,其中,亞馬遜計畫今年在AI領域將投入一千億美元,相較於前一年的八三○億美元顯著增加;Google則預計在今年投入七五○億美元用於AI基礎設施和資料中心擴建;而OpenAI則是在一月發布的星際之門計畫(Stargate),預計未來四年將在美國投資五千億美元,打造新的AI基礎設施。

GB300、CPO交換器亮相

值得注意的是,隨著AI晶片效能越來越強,能耗越來越高,散熱方案也更加重要,法人指出,最新款伺服器GB300將採用更高效的液冷技術,可能讓傳統氣冷技術退出市場,且GB300採用GPU插槽設計,將在每顆GPU和CPU採用分離式冷板設計,並導入體積更小的NVQD新型散熱接頭,取代現有GB200採用冷板模組與快換接頭(UQD)相連的方式。

另外,GB300也有望採用更先進的光通訊模組,法人認為輝達在CPO技術導入將以交換器為優先,在這次的GTC大會中,輝達將推出Quantum 3400 X800 InfiniBand Switch、Spectrum 5 X800 Ethernet Switch與Spectrum 6 X800 Ethernet Switch,並將於下半年進入量產;在電源供應器方面,輝達在GB300的機櫃當中,也將原先安裝在伺服器內的備援電池模組(BBU)、提供短期快速供電的超級電容列為標配,可大幅提升穩定性與AI運算效能,由於對電力需求和可靠性的要求提高,GB300伺服器也有望採用獨立電源機櫃,支援十KW或更高的二○KW電源供應器,研調機構集邦科技看好,輝達將於今年第三季推出的B300及GB300等方案,可進一步推升搭載Blackwell晶片的伺服器出貨動能。

從目前已知的GB300供應鏈當中,像是晶片製造商台積電(2330)、封測廠日月光投控(3711)、京元電子(2449)、ODM組裝業者鴻海(2317)、廣達(2382)、PCB廠台光電(2383)、金像電(2368)、GPU連接器插槽的嘉澤(3533)、線材大廠的貿聯KY(3665)、散熱相關的奇鋐(3017)、雙鴻(3324)、提供QD快接頭的富世達(6805)、BBU的AES-KY(6781)、順達(3211)、CPO的上詮(3363)、波若威(3163)、伺服器導軌的川湖(2059)、南俊國際(6584)等。