近日，由于AI需求強勁，三星電子和SK海力士正在考慮增加工廠的半導體晶圓投入量，以加快向10納米第四代（1a）和第五代（1b）版本的過渡，生產HBM、DDR5和LP-DDR5等高價值產品。

HBM，全稱是High Bandwidth Memory，意思是高帶寬存儲器，被《科創板日報》評選為2023年十大科技熱詞。

HBM是一款新型的CPU/GPU 內存芯片（即 “RAM”），其實就是將很多個DDR芯片堆疊在一起后和GPU封裝在一起，實現大容量，高位寬的DDR組合陣列。打個比方，如果說傳統的DDR是"平房設計"，那么HBM則是"樓房設計"。堆疊起來之后，直接的結果就是接口變得更寬，其下方互聯的觸點數量遠遠多于DDR內存連接到CPU的線路數量。因此，與傳統內存技術相比，HBM具有更高帶寬、更多I/O數量、更低功耗、更小尺寸。

建一個樓房可要比建一個平房要困難得多，從底層地基、布線、傳輸信號、指令、電流等都需要重新設計，而且對封裝工藝的要求也很高。

如上圖右側，DRAM通過堆疊的方式，疊在一起，Die之間用TVS方式連接；DRAM下面是DRAM邏輯控制單元，對DRAM進行控制；GPU和DRAM通過uBump和Interposer（起互聯功能的硅片）連通；Interposer再通過Bump和 Substrate(封裝基板）連通到BALL；最后BGA BALL 連接到PCB上。

HBM堆棧通過中介層緊湊而快速地連接，HBM具備的特性幾乎和芯片集成的RAM一樣，可實現更多的IO數量。同時HBM重新調整了內存的功耗效率，使每瓦帶寬比GDDR5高出3倍還多，功耗降低3倍多！另外，HBM相比GDDR5節省94%的表面積！

HBM的初衷，就是為了向GPU和其他處理器提供更多的內存。這主要是因為隨著GPU 的功能越來越強大，需要更快地從內存中訪問數據，以縮短應用處理時間。例如，AI和視覺，具有巨大內存和計算和帶寬要求。所以提升內存帶寬一直是存儲芯片聚焦的關鍵問題。

目前，HBM產品以HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代）的順序開發，最新的HBM3E是HBM3的擴展版本。2023年，NVIDIA 發布H200芯片，是首款提供HBM3e內存的GPU，HBM3e是目前全球最高規格的HBM內存，由SK海力士開發，將于明年上半年開始量產。

HBM每一次更新迭代都會伴隨著處理速度的提高。引腳（Pin）數據傳輸速率為1Gbps的第一代HBM，發展到其第五產品HBM3E，速率則提高到了8Gbps，即每秒可以處理1.225TB的數據。也就是說，下載一部長達163分鐘的全高清（Full-HD）電影（1TB）只需不到1秒鐘的時間。

當然，存儲器的容量也在不斷加大：HBM2E的最大容量為16GB，目前，三星正在利用其第四代基于EUV光刻機的10nm制程（14nm）節點來制造24GB容量的HBM3芯片，此外8層、12層堆疊可在HBM3E上實現36GB（業界最大）的容量，比HBM3高出50%。

此前SK海力士、美光均已宣布推出HBM3E芯片，皆可實現超過1TB/s的帶寬。同時，三星也宣布HBM4內存將采用更先進的芯片制造和封裝技術，雖然HBM4的規格尚未確定，但有消息稱業界正尋求使用2048位內存接口，并使用FinFET晶體管架構來降低功耗。三星希望升級晶圓級鍵合技術，從有凸塊的方式轉為無凸塊直接鍵合。因此，HBM4的成本可能會更高。

HBM今后的存在感或許會越來越強。據semiconductor-digest預測，到2031年，全球高帶寬存儲器市場預計將從2022年的2.93億美元增長到34.34億美元，在2023-2031年的預測期內復合年增長率為31.3%。

2月23日，SK海力士副總裁KimKi-tae表示，2024年海力士旗下HBM產能已售罄。此前美光在業績會中也表示得益于生成式AI需求增長，美光2024年的HBM產能預計已全部售罄。