本文將介紹 HBM 的技術原理、應用場景,並深入探討其與傳統 DRAM 的差異。此外,還將解析台灣 HBM 概念股的佈局,協助您掌握這股科技新浪潮下的投資機會。
HBM是什麼東西?
HBM 高頻寬記憶體(High Bandwidth Memory,HBM)是一種專為高效能運算(HPC)和人工智慧(AI)應用領域設計的先進記憶體技術。它透過在單一封裝技術內垂直堆疊層數多層 DRAM 晶片,再藉由先進封裝技術與 GPU 封裝在一起,並以矽穿孔技術(TSV,亦稱打洞技術)實現各層之間的高速連接,提供遠超傳統記憶體技術的數據傳輸頻寬與運算速度,同時大幅降低了能耗與儲存空間需求。這種3D堆疊結構可達到傳統DRAM無法企及的頻寬表現,因此成為高性能運算、GPU加速器、AI 晶片以及超級電腦等高度依賴大規模並行運算的系統中不可或缺的關鍵元件。
與此相對,傳統動態隨機存取記憶體(DRAM)仍是大多數個人電腦、伺服器和行動裝置的主要記憶體方案。它利用電容儲存與釋放電荷的方式進行資料讀寫,並以行列式架構負責記憶體管理。在一般的應用場景下,傳統DRAM兼顧了適當的傳輸速率與相對較低的生產成本,足以應付日常應用需求。然而,隨著AI、GPU加速及超算等領域對頻寬與性能的要求不斷提升,使 HBM 的優勢便更加明顯,成為這些高階應用的最佳選擇。
HBM與傳統DRAM的差異
動態隨機存取記憶體(DRAM)一直以來都是系統運算中不可或缺的角色,扮演主機記憶體的功能。其常見形式如DDR4或GDDR5多半採用2D平面設計,能在一般應用場景下提供穩定且足夠的頻寬與記憶體容量。然而,面對近年來高效能運算(HPC)和人工智慧應用對於資料量與速度的不斷攀升,傳統DRAM已漸感力不從心,頻寬成為瓶頸的主要關鍵。
為了滿足高速運算對大規模並行處理的需求,高頻寬記憶體(HBM)應運而生。HBM採用3D堆疊技術,利用多層晶片垂直整合與寬總線架構,大幅縮短了運算元件與記憶體間的資料傳輸距離。在不犧牲能效的情況下,HBM提供遠高於傳統DRAM的頻寬,尤其適合GPU、AI加速器等需要海量資料並行處理的領域。然而,由於HBM製造難度較高且成本昂貴,目前主要應用於高端設備,並不會直接取代普及度更高的DRAM。
下表整理了 HBM 與 DRAM 在多項技術及應用面向的差異:
項目 | HBM | DRAM |
---|---|---|
技術原理 | 採用 3D 堆疊封裝 | 傳統 2D 平面製程 |
存取組織 | 寬列式(Wide I/O) | 行列式(Row/Column)存取 |
頻寬 | 極高,最高可達 1TB/s | 中等,約在數十 GB/s 規模 |
存取延遲 | 較低 | 一般 |
並行處理能力 | 支援高並行 | 並行度較低 |
體積 / 功耗 | 佔用空間小,能耗相對較低 | 尺寸與耗電量都較大 |
成本 | 製程複雜且成本偏高 | 製造成本較低 |
典型應用 | 高階 GPU / AI 加速器 | 主機系統記憶體 |
HBM的應用場景有哪些?
在資料運算需求爆炸成長的時代,高頻寬記憶體(High Bandwidth Memory, HBM)正快速成為關鍵技術。相較於傳統DRAM,HBM採用3D堆疊結構與特殊封裝,能在更小體積內提供更大的頻寬,同時維持相對低的功耗,讓AI伺服器、高效能運算(HPC)、自駕車和高速網路裝置都因此受惠。
1. AI伺服器:支撐生成式AI的運算心臟
隨著ChatGPT、DALL·E等生成式AI應用大受矚目,雲端巨頭Microsoft、Google、AWS等皆投入龐大資金擴充AI基礎建設。AI伺服器必須處理海量的訓練數據與模型參數,對記憶體頻寬的需求越趨嚴苛。HBM在此能大幅提升吞吐量,使系統能更快完成資料運算與模型推理。
根據市場預估,2023年AI伺服器出貨量將成長逾38%。輝達(NVIDIA)為搶先確保HBM3e的供貨,據傳已向美光(Micron)與SK海力士(SK Hynix)支付數億美元預付款。業界分析指出,AI伺服器對記憶體的需求量,可能是傳統伺服器的五到六倍,讓HBM成為未來最重要的記憶體解決方案之一。
2. HPC高效能運算:突破記憶體瓶頸的新利器
除了AI訓練之外,高效能運算(HPC)在科學研究、氣象模擬、基因運算等領域,同樣倚賴龐大的計算量與超高速的資料存取。傳統DRAM的頻寬限制往往成為超級電腦的效能瓶頸,而HBM透過多層堆疊與寬總線設計,能有效加速資料存取速度,解決「記憶體牆」問題。未來各類超算系統、AI加速卡也可望持續導入HBM技術,推動高效能運算的發展。
3. 自駕車與先進駕駛輔助:強化感測器數據處理
自動駕駛與ADAS(先進駕駛輔助系統)需要即時處理來自相機、雷達、光達等多種感測器產生的海量數據。在瞬息萬變的路況下,運算單元必須在毫秒間完成辨識與決策。HBM的超高頻寬有助於快速讀寫影像與感測資料,提升自駕系統的可靠度與反應速度。市場研究機構預測,這股需求將在未來十年內持續擴大,成為車用電子領域的重要支柱。
4. 高速網路與5G/6G:支撐海量用戶與資料流量
無線通訊技術從5G邁向6G,網路設備面臨數據流量持續倍增的挑戰。基站、交換器、路由器等網路基礎建設,都必須快速處理龐大的資料並降低延遲。HBM提供的高頻寬與低功耗特性,能顯著提升網路設備的資料處理效率,同時有效減少散熱負擔。在高密度部署的基地台中,選用HBM也可望優化系統能耗,帶來更佳的總體效益。
早在2013年,AMD便與SK海力士合作推出第一代HBM,然而其成本較高,當時未能大規模商用。直到近年AI與先進運算需求爆發,HBM逐漸獲得市場重視。雖然越先進的HBM價格更高,但只要在運算與能耗上帶來顯著改善,企業就願意買單。隨著AI伺服器、自駕車與高速網路應用的持續擴張,HBM的市場需求可望持續10年甚至更久。
HBM概念股有哪些?
一、AI時代驅動高頻寬記憶體(HBM)需求飆升
生成式 AI 的爆發性成長,正推升高效能運算(HPC)相關產品需求,並掀起 AI 浪潮。其中,能提供高速傳輸和高密度特性的 HBM 記憶體更成為市場矚目的焦點。據市調機構 Gartner 及分析師預估,在 2025 年翻倍至 49.76 億美元,顯示該領域極具潛力。HBM 被廣泛應用於 GPU、FPGA 等需高速運算的晶片上,也逐漸成為主要的記憶體晶片解決方案之一,而推論模型的快速建置與新應用開發,也有望在 HBM 領域於 2025 年後進一步帶動使用量成長。
從供給端來看,HBM 主要由三星、SK 海力士與美光等國際大廠供應。其中海力士的產品在市佔率方面領先市場。隨著 AI 服務器與 HPC 領域的快速擴張,這三家廠商也持續擴產並積極進行測試,以確保能於 2025 年為新一代高階 GPU(例如輝達 H200 顯示卡,作為輝達的旗艦產品)持續提供 HBM3e。由於需求強勁,目前 HBM 市場仍處於供不應求狀態,業界預期三星與美光將加大投資力度,尋求在這塊市場與市佔率龍頭 SK 海力士一爭高下,這也使 SK 海力士的市值持續攀升。
二、台灣產業鏈缺少直接 HBM 製造端,多家廠商卡位周邊商機
雖然台灣並未擁有直接量產 HBM 的廠商,南亞科過去曾嘗試投入相關技術研發,但因時機不成熟而暫停。不過,在 AI 應用的帶動下,台灣業者正積極搶佔 HBM 周邊環節,包括封裝測試、載板設備、代理銷售、ASIC 設計與自動化設備等領域。以下為幾家與 HBM 供應鏈高度相關的代表公司:
志聖(2467)—先進封裝載板製程設備供應商
- 主要提供 2.5D/3D 先進封裝製程設備、烘烤機台與自動化產線,為 HBM 製程不可或缺的環節。
- 面對 AI 基礎建設與 HPC 領域的長期成長,公司訂單能見度已達 3~5 年。
- 未來將持續加碼研發資源,專注於先進封裝技術、IC 載板與 HBM 技術,加強與 G2C+ 聯盟的合作,拓展新一代記憶體封裝市場。
力成(6239)—HBM 封測領域的重量級業者
- 國內知名的記憶體封測龍頭,為因應 HBM 需求增溫,今年度大舉投資 150 億元擴產 HBM 封測產能。
- 已經採購晶圓級 CMP(化學機械研磨)設備,結合自身記憶體堆疊技術,成為少數能提供 HBM 先進封裝服務的廠商,也能有效提升良率。
- 目前已有 2~3 家日系客戶接洽相關訂單,公司預期 2024 年底新產能可正式量產。
至上(8112)—三星在台代理,主攻 HBM 通路
- 作為三星在台灣的主要記憶體代理商,至上擁有 DRAM 與快閃記憶體(NAND Flash)等多元產品線。
- HBM 市場增長可望帶動營收和獲利同步提升,尤其在 AI 伺服器、高端手機、電動車等領域皆有發揮空間。
- 公司積極布局新興應用,既掌握傳統手機記憶體,又同步搶進電動車及數據中心市場,具備在記憶體產業回溫時脫穎而出的綜合實力。
創意(3443)—專精於 HBM 晶片設計與 IP 服務
- 深耕 ASIC 客製化設計與 HBM IP 技術,目前已完成 HBM4 IP 開發,並針對 HBM3 及 HBM3E 進行矽驗證。
- 與台積電、SK 海力士三方合作開發 HBM3 CoWoS 平台,搭配晶粒對晶粒(Die-to-Die)介面技術 GLink-2.5D,成為市場公認有望從 HBM 需求飆升中受惠的代表廠。
- 除記憶體領域外,也在光通訊晶片、2.5D/3D 先進封裝等領域布局,提供多元化客製化 ASIC 服務,強化客戶黏著度。
愛普(6531)—擁有自主記憶體技術,瞄準 HBM 與次世代 VHM
- 以 Pseudo SRAM、低功耗 DRAM 等記憶體產品為主力,並積極投入更高階的 3D 堆疊技術研發。
- 公司主張自家開發的 VHM(類似 HBM-Like 或下一代高頻寬記憶體),採用 3D 封裝設計,將 DRAM 與邏輯晶片垂直整合,可進一步提升頻寬密度並降低功耗。
- 持續在先進製程上投入,以因應 AI、大數據等高強度運算需求。
三、大摩(Morgan Stanley)對記憶體市場保持謹慎態度
雖然市場普遍看好 HBM 的發展空間,但摩根士丹利證券近期報告指出,記憶體產業的前景並非一片樂觀。該機構認為,原先預期由 HBM 帶動整體 DRAM 供給吃緊的情形恐怕不會如想像中劇烈,且市場仍存在庫存、關稅、投資過度等多重不確定因素。
報告進一步提到,2024 年可能只是短暫的 HBM 高峰期,2025 年之後市場將進入「均值回歸」,供過於求或閒置產能的風險將浮現。伴隨 ASIC 與 GPU 需求的拉鋸,業者彼此之間的競爭恐越演越烈。這也意味著 HBM 供應商在擴產時,須特別留意未來市況是否如預期樂觀,才能避免後期產能過剩的壓力。
HBM 技術的發展與挑戰
HBM(High Bandwidth Memory)被視為次世代記憶體技術,能透過高頻寬和短距離傳輸,大幅提升系統效率。然而,在推動此技術落地的過程中,製造商仍需要克服包括厚度控制、散熱,以及晶圓堆疊精準度等重大難關。
厚度控制難題
相較於一般晶片,HBM 的DRAM晶粒疊層薄如髮絲。為了在有限高度內堆疊多層DRAM,每一層都必須極度纖薄並保持精確的公差範圍。這種程度的精細度,仰賴優異的研磨工藝以及更先進的DRAM製程技術,才能達成多層疊合而不影響性能或穩定性。
散熱壓力增大
HBM 將記憶體與 CPU/GPU 等處理單元緊密貼合,縮短了資料傳輸路徑,確實提升了效能。但在如此高密度的結構下,熱量不易擴散,可能導致局部溫度過高。如何在受限的空間裡導出多餘熱量,成了另一項嚴峻挑戰。這需要工程團隊投入更多散熱設計思考,例如使用特殊散熱材料或改良封裝結構,以避免頻寬提升的同時使晶片過熱,影響穩定度與壽命。
晶圓堆疊精準度考驗
在製造HBM時,必須將多塊DRAM晶圓堆疊並在矽基板上採用 TSV(Through Silicon Via)技術,於晶圓開孔並填入金屬以進行導電。由於這些通孔的尺寸非常微小,任何細微的晶圓偏移都可能造成導通不良或短路風險。同時,在切割這些薄如紙片的堆疊晶圓時,精密度更需層層管控,任何震動或微小誤差都可能毀損晶粒。製程穩定度與堆疊對準技術因此成為HBM能否達到量產品質的關鍵。
關於 HBM 的常見問題
HBM 誰生產?
主要由三星(Samsung)、SK 海力士(SK Hynix)與美光(Micron)製造,市佔以SK 海力士領先。
HBM 是 DDR5 嗎?
HBM 並非 DDR5,而是專為高效能運算與 3D 堆疊設計的特殊 DRAM 技術,與一般 DDR 系列在結構與應用上都有明顯差異。
HBM 頻寬多少?
不同世代的 HBM 頻寬各有差異。以最新 HBM3 為例,單個堆疊就可達數百 GB/s,整體配置甚至可突破 1 TB/s。
HBM TSV 是什麼?
TSV(Through Silicon Via,矽穿孔技術)指在晶片內部垂直鑽孔並填入金屬導線,使多層晶片之間能以極短距離進行高速互連。
HBM 是 DDR 嗎?
HBM 也是一種 DRAM,但與 DDR4、DDR5 等傳統 2D DRAM 在封裝方式與應用領域上完全不同,主要針對高並行與超高頻寬的運算需求所設計。
總結
HBM 以其出色的頻寬、低延遲與節能優勢,正加速推動 AI、HPC、自駕車及 5G/6G 通訊等前沿技術的發展。儘管製造成本高、技術門檻嚴峻,但其市場需求在生成式 AI 與先進運算驅動下持續攀升。台灣雖未直接生產 HBM,但在封裝測試、IC 設計及設備供應等環節具備競爭優勢,相關概念股值得關注。未來,隨著技術成熟與應用普及,HBM 將成為全球科技產業的核心驅動力之一。