根據分析師的預測，由于爆炸性的人工智能需求推動了高端內存芯片的短缺，高性能內存芯片在今年很可能仍然供不應求。全球兩大內存芯片供應商 SK Hynix 和 Micron 表示，他們的高帶寬內存芯片已經售罄，2025年的庫存也幾乎售罄。晨星的股權研究主管 Kazunori Ito 在上周的一份報告中表示:“我們預計整體內存供應在2024年將保持緊張狀態。”

　　AI 芯片的需求推動了高端內存芯片市場的增長，這對三星電子和 SK Hynix 等全球兩大內存芯片制造商帶來了巨大利益。雖然 SK Hynix 已經向英偉達供應芯片但該公司據報道正在考慮三星作為潛在供應商。

　　高性能內存芯片在訓練大型語言模型(LLM)中起著至關重要的作用，例如 OpenAI 的 ChatGPT，這推動了人工智的快速普及。LLM 需要這些芯片來記住與用戶之前的對話和偏好的詳細信息，以生成類似人類的回答。

　　納斯達克 IR 智庫的主管 William Bailey 表示:“這些芯片的制造更加復雜擴大生產一直很困難。這可能導致2024年余下的時間和2025年的大部分時間供應短缺。” 市場情報公司 TrendForce 在三月份表示，HBM 的生產周期比個電腦和服務器常見的 DDR5內存芯片長1.5到2個月。

　　為了滿足飆升的需求，SK Hynix 計劃通過在美國印第安納州的先進封裝設施以及韓國的 Cheongju 的 M15X 和 Yongin 的半導體集群進行投資，擴大生產能力。三星在四月份的季度財報電話會議上表示，其2024年的 HBM 位供應 “較去年增加了三倍以上”。芯容量是指一塊內存芯片可以存儲的數據位數。

　　大型科技公司微軟、亞馬遜和谷歌正投入數十億美元培訓自己的 LLM 以保持競力，這推動了對人工智能芯片的需求。《芯片戰爭》一書的作者 Chris Miller 表示:“AI 芯片的大買家，如 Meta 和微軟，已經表示計劃不斷投入資源來構建 AI 基設施。這意味著他們將大量購買 AI 芯片，包括 HBM，至少到2024年。”