【投資洞察】記憶體產業投資趨勢

為什麼AI運算需要HBM?
隨著在大型語言模型參數的增加，龐大的參數需儲存於記憶體，並在推論與訓練的過程中，頻繁的將資料在存儲與計算單元間搬移。而HBM的出現則解決了傳統DDR在頻寬上的瓶頸，滿足更高頻寬的需求。以NVIDIA B200晶片所配置的180GB HBM3e為例，提供高達8 TB/s的記憶體頻寬，相較傳統伺服器所配置12條通道DDR5-6400的0.6 TB/s，提升13倍以上，可大幅提高傳輸效率。

HBM在製作上以3D封裝技術將多層DRAM晶粒垂直堆疊，同時為了縮短導線長度，以矽穿孔技術(Through Silicon Via, TSV)，在晶圓蝕刻出垂直孔洞後，再填入導電物質，實現層與層之間的電氣連接。垂直設計縮短了訊號傳輸路徑，HBM藉此達成高頻寬低延遲的表現。

由訓練轉向推論 亦帶動高階DDR需求

同時隨未來AI發展更貼近終端應用，發展重心將逐漸由訓練轉向推論，參考TrendForce預估，預期2029年AI推論將成為伺服器的主要需求。由於在推論中預填充(Prefill)與解碼(Decode)階段的不同，對記憶體的需求亦存在差異。在預填充階段，系統需將使用者所輸入的完整Prompt拆解成token，並進行大規模運算，相較於對頻寬極度敏感的解碼階段，預填充階段在CXL擴展記憶體或CPU推論中，可透過大規模增加DDR5提升記憶體容量，以利處理超長文本的輸入，從而優化整體建置成本。因此在隨著推論需求的上升，除HBM外，伺服器用的DDR5需求亦受到抬升。

高毛利的HBM所造成的產能排擠

而由於生產HBM所需要的晶圓面積約為傳統DDR5的3倍、矽穿孔技術良率普遍介於60~70%與晶片翹曲等問題，使HBM生產難度極高，當前市場主要生產者僅集中在SK海力士、三星、美光三大廠。

HBM生產難度高，但也相對提供較高的毛利率，因此三大廠將產能集中於HBM或DDR5，逐步退出DDR4的產品線。然DDR4仍在個人電腦、零售維修通路中廣泛使用，在基本需求仍存下，使DDR4亦出現供不應求的狀況，帶動DDR4亦同步出現價格走揚。

傳統記憶體產業為甚麼被視為景氣循環股

記憶體產業過去往往被視為循環性較強的產業，股價、營收或獲利(EBIT)具有週期性(約2~4年一個循環)，伴隨著大起大落的現象。以全球記憶體銷售收入以及晶圓代工廠銷售年增率為例，近期幾個循環分別為2016年初至2018年初由手機以及伺服器需求帶動的超級循環 ; 其次為2020年至2023年疫情引發PC需求以及5G手機帶來的記憶體需求。具體而言，記憶體產業具有以下四種特性造成其循環性明顯。

A. 記憶體像「大宗商品」

記憶體製造，其規格由JEDEC制定，各廠商商品性能差距不大(不同廠商的記憶體可以任意插在不同的電腦上進行擴充)，因此無法透過產品差異化掌握定價能力，價格主要受整體市場供需影響，使獲利波動大。

記憶體製造商想要擴大產能只能擴廠，一間晶圓廠從動工到具備量產能力需2~4年，需求面卻可能在一季內迅速下降而導致供需錯配。

記憶體產業普遍擁有較多固定資產，導致折舊費用及固定成本較高，因此在市況低迷時，只要產品售價仍高於單位變動成本(即便低於總平均成本)，個別廠商仍有動機增產，進一步造成供需錯配，加劇記憶體價格下跌。

D. 需求端具有週期性

記憶體需求高度受智慧型手機、個人電腦(PC)等終端電子產品的更換週期驅動，具備明顯的季節性與循環性特徵。然而，當市場滲透率趨於飽和，或硬體效能提升對使用者體驗的邊際貢獻遞減時，換機動能將隨之減弱，導致需求增長面臨結構性停滯。

以下就2016年-2019年由傳統伺服器需求引起的循環作為例子，分析該循環在供給面以及需求面的驅動因子。

供給端遭遇製程轉換 :

NAND 轉向3D架構 
隨著2D NAND 製程微縮遭遇瓶頸，且產生電子干擾問題，產業轉向3D NAND 以持續推動成本優化。這場技術變革不僅因製程轉換的良率爬坡期拉長而拖累產出，更因廠商將有限的資金與潔淨室空間優先投入3D NAND的製造，對DRAM產能產生了明顯的排擠效應，造成供給面緊張。

需求多點爆發:

智慧型手機記憶體規格及容量升級 
當時智慧型手機競爭趨於白熱化，各家廠商為求硬體差異化，積極提升行動記憶體規格與容量，甚至對標準型記憶體產生顯著的產能排擠。例如：Apple 於2015年推出的 iPhone 6s系列首度搭載 2GB LPDDR4，2016 年的 iPhone 7 Plus 進一步提升至3GB；與此同時，安卓陣營如三星及陸系品牌在2016年至2017年間，旗艦機種已跨越6GB，甚至到達8GB。此一單機搭載量的成長，成為支撐該時期DRAM價格循環向上的核心驅動力。

雲端資料中心(通用型伺服器) 
當時全球企業資料儲存及運算需求增加，推動雲端廠建立Data Center讓各大公司資料上雲。根據TrendForce表示，一般伺服器的記憶體需求約在500-600GB，約為手機及PC需求數十倍，亦為循環之中需求面的重大推手。 根據資策會統計，2018年全球伺服器出貨量年增率由5%上升至6%(2019年增約2%)，顯示伺服器出貨量上升亦為記憶體需求來源之一。

循環結束:
2018年各大記憶體公司3D NAND良率上升優於預期，導致產能擴張過快 ; 其次，需求面手機以及PC漸趨飽和，下游廠商展開去庫存，促拉貨動能消失。此外，下游廠商在2017因擔心記憶體持續漲價而提前拉貨甚至過度下單，使2018庫存過高，預期價格轉弱後開始進行去庫存。最後，2018年川普總統上任，美中貿易戰使各大雲端廠面對經貿不確定性，資本支出減弱。從以下EBIT/Revenue圖表觀察，美光在2018 Q3獲利率高達51%，至2020年Q1僅剩9%，顯現循環對於公司獲利波動影響之大(股價由循環低點$9，至2018年5/29到達最高點62塊，隨後於2018年12月落底僅剩29元)。

驅動因子來源不同

除了前述舉例的記憶體循環，記憶體循環大多由消費端引起，需求的可預測性較低，波動性較大。而現今主要的驅動因子來自於超預期的AI伺服器需求，其主要需求者為現金流充沛以及利潤率高的雲端廠，且背後由指數級增長的推論需求所帶動。此外，如果AI伺服器缺乏HBM，那高價的GPU就只能空轉，無法高效運作。因此，高端記憶體對於雲端廠來說，並非像傳統記憶體般視為通用零組件，而是決定其AI伺服器運算效率的關鍵，是CSP廠參與 AI 競爭的「戰略入場券」。

產品趨於客製化

觀察本次循環主因為主要記憶體產商之產能轉移至高毛利率的HBM而壓縮傳統記憶體產能。就HBM而言本身已不像過往傳統DRAM被市場視為大宗商品，具體而言我們認為存在以下兩個根本原因:

HBM將轉往客製化 

參考Counterpoint研究總監MS Hwang表示，在HBM3E以前HBM仍被視為是大宗商品，然而至HBM4開始(Rubin晶片搭載HBM4; HBM4E為Rubin Ultra搭載，預計將於今年下半年出貨)，邏輯晶片將整合至Base die中(HBM的大腦)，承擔更多邏輯計算以及電源分布的工作，因此需要和晶圓代工廠建立更深的合作。也就是說，過往記憶體公司只須按照既定規格製造出HBM3E，而出貨給輝達或是超微並無二致，然而現在因為堆疊出的HBM4需要和邏輯晶片一同封裝(使用台積電CoWoS先進封裝)，記憶體公司(三星、美光、海力士)和晶片設計公司(輝達、超微、博通、Google)以及晶圓製造公司(台積電、Intel)必須從晶片設計就一起合作開發，對於記憶體公司而言可以享有更高的議價權，並且和晶片設計公司透過戰略合作建立更為深厚的護城河。

簽約型態改變 

前文提到，在需求旺盛時，下游廠商往往會有Over booking或是Double booking行為，導致訂單量超越實際需求，當景氣一反轉，下游廠商展開去庫存，導致記憶體顆粒價格下降，獲利重挫。然而，目前這種情況或許不用過於擔憂，主要原因有二 :

1. 在目前記憶體價格高漲的情況下，僅購買原先所需之記憶體支出負擔已經很大了，如果想要Double Booking，對於雲端大廠財務上負擔過重。而且以購買高效能記憶體的CSP廠來說，目前市場對於其現金消耗是否能帶來合理的利潤已加大檢視，不太可能在沒有真實需求的情況下大幅增加支出。

2. 美光及海力士管理層的公開發言已經表示，2026年HBM產能都已經都已經售罄。美光甚至在Q1財報公布時表示，目前正在和特定客戶擬定長達五年的戰略合作協議(SCA)，雖然在後續電話會議上因為保密協議無法進一步透漏具體細節，但仍指出SCA和過往的LTA(Long term agreement)存在時間尺度和細節上的不同 ; 除了美光，三星以及海力士也正在和客戶協議3至5年的LTA。整體評估，上述改變有助於改善公司獲利品質以及未來訂單的能見度。

推論應用上升有望持續推升記憶體需求

預期未來各大CSP廠建置資料中心與伺服器的趨勢仍將延續，無論在AI模型的訓練或推論階段，HBM皆扮演重要角色，隨著模型參數規模擴大、KV快取的上升，料將持續提高對HBM的需求。其中，HBM需求除了來自通用型晶片GPU外，特殊用途晶片ASIC(Application-Specific Integrated Circuit)亦為另一大成長動能。ASIC為各大雲端廠商為了達到特定AI任務而自行設計的計算晶片，和通用晶片GPU相比，功效能耗比(Performance per Watt)較低，對於雲端廠而言能有效降低其資料中心的總擁有成本。 

根據調研機構Counterpoint指出，ASIC晶片因為需要搭載HBM，使HBM位元出貨數在2024年至2028年間需求將成長35倍，且占位元需求之56%，其中主要動能來自Google TPU(Tensor Processing Unit)，最新的TPUv7p (Ironwood )就是搭載HBM3e ; AWS的Trainium 4 則使用效能更高的HBM4。同時，相較推論的解碼階段，在預填充階段，對於硬體算力要求較高，因此預填充階段在CXL擴展記憶體或CPU推論中，可透過大規模配置DDR5提升記憶體容量，以利處理超長文本的輸入。料隨著未來AI應用逐漸導向推論，預期在伺服器用DDR5需求將同步受到帶動。

三大原廠紀律擴廠與增產彈性受限

在供給方面，檢視三大原廠資本支出占營收比率，相較過往幾次記憶體價格上升循環循環，美光與海力士資本支出占營收比率皆超過40%以上，本次三大原廠在擴廠決策上則相對保守，參考彭博分析師預估，預期未來2-3年資本支出占營收比例皆低於25%以下，呈現「紀律擴廠」態勢，料將減少後續大幅擴廠造成供給過剩的情形。同時考量記憶體廠擴產彈性受限，擴廠後仍需2-4年才能順利量產，隨著記憶體需求上升，參考JP Morgan預估，料短期2026-2028年HBM與標準型DRAM仍將維持供不應求的市況為價格提供支撐。

三大原廠獲利展望

隨三大原廠逐漸將DRAM產品線聚焦在具技術優勢、毛利較高的HBM，預期三大原廠HBM在DRAM業務中的占比將逐漸提高，有望持續提升三大原廠獲利表現。同時預期2026-2028年HBM與DDR5供不應求的市況仍將延續下，料將為HBM與DDR5報價提供支撐。參考彭博分析師預估，三大原廠今年與明後年EPS有望維持高位，獲利表現提升料將為三大原廠股價持續挹注上行的動能。

考量產品特性及循環性減弱，估值或仍有擴張空間

過往記憶體製造商往往因為獲利隨產品報價波動大，甚至部份時期出現虧損，使記憶體相關生產商難以使用本益比進行評價。相較之下，本淨比PBR透過股價除以相對穩定的每股淨值，因該比率較為穩定，為大多景氣循環股的評價方法。

若改以前瞻本益比觀察，目前三大原廠的前瞻本益比評仍在6-9倍左右(以彭博Blended Forward EPS計算)，隨著未來記憶體供不應求格局延續，且產品特性改變之下，評估未來三大原廠在估值方面仍具上行空間，後續有望回升至近一年均值10倍或更高水準。