据分析师称，由于爆炸性的人工智能需求推动了这些芯片的短缺，高性能内存芯片今年可能会继续供应紧张。
全球最大的两家内存芯片供应商SK海力士和美光科技(MU.O)表示，2024年的高带宽内存芯片已经售罄，而2025年的库存也几乎售罄。
晨星公司股票研究主管KazunoriIto在上周的一份报告中说：“我们预计，整个2024年的内存供应都将保持紧张。”
AI芯片的需求推动了高端存储芯片市场的需求增长，这极大地惠及了三星电子和SK海力士等公司。虽然SK海力士已经向英伟达(NVDA.O)供应芯片，但据称该公司也在考虑三星作为潜在的供应商。
高性能存储芯片在大型语言模型（LLMs）（如OpenAI的ChatGPT）的训练过程中发挥着至关重要的作用，这使得人工智能的采用率直线上升。LLMs需要这些芯片来记忆过去与用户对话的细节以及用户的偏好，以便对查询生成类似人类的回复。
纳斯达克投资者关系情报公司总监WilliamBailey说：“这些芯片的制造更为复杂，提升产量一直很困难。这可能会导致2024年剩余时间和2025年大部分时间出现短缺。”
市场情报公司TrendForce在3月份表示，与个人电脑和服务器中常见的DDR5储存芯片相比，HBM的生产周期要长1.5到2个月。为了满足急剧增长的需求，SK海力士计划通过投资美国印第安纳州的先进封装设施以及韩国清州的M15X工厂和龙仁半导体集群来扩大产能。
三星在4月份的第一季度财报电话会议上表示，其2024年的HBM位供应量“比去年扩大了三倍多”。
三星表示：“我们已经与客户完成了有关承诺供应的讨论。2025年，我们将继续扩大供应量，同比增长至少两倍或更多，而且我们已经在与客户就这一供应量进行顺利洽谈。”
激烈竞争
大型科技公司微软(MSFT.O)、亚马逊(AMZN.O)和谷歌A(GOOGL.O)正在斥资数十亿美元训练自己的LLMs，以保持竞争力，从而刺激了对人工智能芯片的需求。
“AI芯片的主要买家，如Facebook和微软等公司，已经表明他们计划继续投入资源建设AI基础设施。这意味着他们将在至少到2024年继续大量购买AI芯片，包括HBM，”《芯片战争》一书的作者Chris Miller说。
芯片制造商正在激烈竞争，制造市场上最先进的存储芯片，以抓住人工智能热潮。
SK海力士在本月早些时候的新闻发布会上表示，将在第三季度开始量产其最新一代HBM芯片，即12层HBM3E，而三星电子计划在第二季度内实现量产，并已率先在业内出货了最新芯片的样品。
大和证券执行董事兼分析师SKKim说：“目前，三星在12层HBM3E采样过程中处于领先地位。如果他们能比同行更早获得资格，我认为他们可以在2024年末和2025年占据大部分市场份额。”