AI時代 ,存儲芯片已從配角躍升為核心瓶頸與突破口。隨著大模型參數規模與訓練數據量的爆炸式增長,傳統內存技術已成為制約算力發揮的“內存墻”,而HBM憑借其超高帶寬 、低功耗和小體積特性,正成為AI芯片的主流選擇 。
全球科技巨頭紛紛將HBM作為戰略要地。
在日前的財報會上 ,美光特別強調,預計半導體芯片、特別是HBM的供不應求情況將會加劇。公司CEO Sanjay Mehrotra透露,當前半導體存儲領域 ,DRAM庫存已低于目標水平,NAND庫存持續下滑;而HBM產能需求增長顯著,產能已被鎖定 ,預計2026年HBM出貨量增速將超過整體DRAM水平,成為半導體存儲板塊的核心增長驅動力。
具體HBM產品中,美光表示 ,已與幾乎所有客戶就2026年絕大部分HBM3E產能達成定價協議;公司正在與客戶就HBM4進行討論,供應“非常緊張 ” 。
此外,華為也在近期宣布 ,自昇騰950PR開始,昇騰AI芯片將采用華為自研的HBM。其中,昇騰950搭載自研的HBM HiBL 1.0;昇騰950DT升級至HBM HiZQ 2.0。
▌為什么是HBM?
為何存儲需求熱潮中,“特別是HBM的供不應求情況或將加劇”?
華爾街分析師指出 ,定制化HBM(cHBM)已經從曾經的被動元件轉變為具備邏輯算力的主動部件,重塑存儲的角色 。在這種情況下,AI基建中 ,存儲總體擁有成本(TCO)不斷上升。
定制化HBM可以集成不同功能、運算能力與邏輯Die設計,例如LPDDR與HBM并行工作,在HBM堆棧中加入計算邏輯 ,成為性能差異化的關鍵。
目前,存儲廠商已開始提供覆蓋HBM、邏輯die 、LPDDR、PIM等的全棧解決方案,并與客戶開展定制化HBM合作 。
同時隨著AI能耗的增加 ,存儲廠商也開始強調HBM在節能上的價值。SK海力士預測稱,HBM能效每改善10%,可帶來單機架2%的節能效果 ,對系統級節能有重大意義。
▌AI推理將迎“十倍增長” “以存代算”技術“虎視眈眈 ”
以HBM為首的存儲需求陡增背后,是AI推理的飛速崛起 。
黃仁勛在最新采訪中,重申了對AI推理的信心。他再次強調,AI推理將迎來十億倍增長。推理的量級已不是過去的“一次性回答” ,而是逐步演進的“先思考再作答”的動態生成,思考得越久,答案質量越高 。
券商指出 ,人工智能技術的蓬勃發展推動大模型訓練走向規模化,但真正創造持續商業價值的核心環節在于推理過程。AI推理算力需求正迅速超越訓練,成為成本與性能的關鍵瓶頸。
在這一背景下 ,內存受益于超長上下文和多模態推理需求,處理大量序列數據或多模態信息時,高帶寬與大容量內存可降低訪問延遲、提升并行效率。
廣發證券指出 ,隨著AI推理應用快速增長,對高性能內存和分層存儲的依賴愈發顯著,HBM 、DRAM、SSD及HDD在超長上下文和多模態推理場景中發揮關鍵作用 ,高帶寬內存保障模型權重和激活值的高速訪問,SSD滿足高頻讀寫與短期存儲需求,HDD提供海量長期存儲支持 。隨著AI推理需求快速增長,輕量化模型部署推動存儲容量需求快速攀升 ,預計未來整體需求將激增至數百EB級別。
但值得留意的是,“HBM供不應求情況加劇 ”的另一面,是供應瓶頸下可能出現的“技術替代”——“以存代算”。
天風證券認為 ,“以存代算 ”技術通過將AI推理過程中的矢量數據(如KV Cache)從昂貴的DRAM和HBM顯存遷移至大容量、高性價比的SSD介質,實現存儲層從內存向SSD的戰略擴展,而非簡單替代 。其核心價值在于顯著降低首Token時延 、提升推理吞吐量 ,并大幅優化端到端的推理成本,為AI大規模落地提供可行路徑。分析師進一步指出,QLC+PCIe/NVMe+CXL有望構筑下一代AI SSD基座 ,推動SSD從單純存儲介質,升級為AI推理“長期記憶”載體。
雙悅網配資-配資平臺_炒股配資平臺_配資炒股公司提示:文章來自網絡,不代表本站觀點。
雙悅網配資-配資平臺_炒股配資平臺_配資炒股公司?股票配資平臺提供多樣化的配資產品,滿足不同客戶的投資需求,助力客戶實現多元化投資。
3月24日,海洋王照明科技股份有限公司(以下簡稱“海洋王”,002724.SZ)早盤一字跌停,此后股價拉漲,尾盤封漲停板...
當地時間3月24日,特斯拉美股漲幅擴大至5%,現報262.055美元/股。...
國海富蘭克林基金國富深化價值基金經理劉曉日前發表了對?2025?年市場的展望。劉曉指出,國內經濟正處于復蘇通道,市場大幅...
記者辛圓3月25日,博鰲亞洲論壇旗艦報告《亞洲經濟前景及一體化進程2025年度報告》(以下簡稱《報告》...
記者王珍中國國際經濟交流中心副理事長、國務院發展研究中心原副主任王一鳴周一在“中國發展高層論壇2025...
【隔夜行情】?周五(2025年3月21日),A股三大指數集體下跌,截至收盤,截止收盤,滬指跌1.29%,報收33...
3月24日,AI眼鏡概念股開盤拉升,瀛通通訊直線漲停,明月鏡片漲超10%,比依股份、博士眼鏡、恒玄科技、國光電器等跟漲。...
近日,開源證券大連分公司遭大連證監局處罰,暫停其辦理需要合格投資者認定相關業務六個月。該懲處力度在近年來券商分支機構中并...
記者|趙陽戈年初,證監會就修改《證券發行與承銷管理辦法》部分條款向社會公開征求意見,市場也將注意力投向了...
記者辛圓給補貼、建平臺,為了吸引更多高層次人才,各地紛紛放出“大招”。據央廣網周一發布消息,湖...
3月24日,易方達國證自由現金流ETF公開發售。該產品跟蹤國證自由現金流指數,這個指數是什么?有哪些優勢?投資價值如何?...
2025年3月25日,倍輕松(688793.SH)公告稱,公司股東寧波倍松投資有限公司(簡稱“寧波倍松”)擬通過大宗交易...
國務院新聞辦公室9日發布《關于中美經貿關系若干問題的中方立場》白皮書,澄清中美經貿關系事實,闡明中方對相關問題的政策立場...
滬深兩市成交額連續第44個交易日突破1萬億,較昨日此時縮量超900億。...
3月24日,業內權威專家表示,MLF(中期借貸便利)不再有統一的中標利率,標志著MLF利率的政策屬性完全退出。3月24日...