易游体育官网首页:

  随着AI模型规模逐步扩大，HBM和DDR内存正在遇到容量、带宽和成本方面的限制。三星电子和SK海力士开始加快CXL内存布局，希望在传统内存与SSD之间增加一个新的存储层，缓解AI服务器的内存焦虑。

  据TrendForce援引韩国媒体消息，三星电子计划在2026年底前量产基于CXL 3.2规范的CXL内存模块CMM-D 3.0。SK海力士则展示了第二代CMM-DDR5样品，并提出一种面向AI推理的新型分层内存架构。

  HBM距离GPU最近，带宽高，但价格昂贵，容量也很难快速扩大。DDR容量更大、成本更低，但常常要直接连接CPU，扩展能力同样受到处理器通道与服务器架构限制。

  它不需要为增加内存而额外部署更多CPU或GPU，能够最终靠CXL接口连接大容量DRAM，为AI训练和推理系统提供更多内存空间，CXL可以在服务器内部使用内存扩展模块提供额外的容量。

  三星表示，与只使用DDR5内存的系统相比，CXL内存可以让服务器总内存容量最高增加50%，内存带宽最高提升一倍。

  CXL还支持内存池化。多台服务器可以按实际的需求动态共享内存资源，减少部分服务器内存闲置、另一些服务器内存不足的问题，这是更高级的使用方式。

  CXL 3.2加入了Hot Page Monitoring Unit，也就是热页监控单元。它可以实时监测不同数据的访问频率，把常常使用的“热数据”和访问较少的“冷数据”放到更合适的内存位置。

  这种机制能够大大减少没有必要的数据搬运，提高HBM、DDR和CXL内存之间的协同效率。

  对于AI推理系统来说，这一点尤其重要。因为大模型推理过程中，会不断读取模型参数、KV Cache以及中间数据。如果数据放置不合理，GPU就可能花大量时间等待数据。

  按照SK海力士的设计，HBM负责最高速、最频繁访问的数据；DDR承担通用内存任务；CXL内存提供TB级容量和相比来说较高的访问性能；最后，SSD存放容量更大、访问频率较低的数据。

  CXL在其中不仅是扩展接口，还承担智能数据调度中心的角色，提前在HBM、DDR、CXL内存和SSD之间移动数据。

  目前，美光也在加快开发基于CXL 3.1和CXL 3.2规范的新一代产品。这在某种程度上预示着三星、SK海力士和美光三大存储厂商，都没放弃CXL内存市场。

  存储厂商未来可能主要负责DRAM颗粒和CXL内存模块，而CXL控制器、交换芯片等核心部件，则更多由澜起科技等专业芯片企业来提供。这就是最近网传的三大存储厂商放弃CXL的消息的由来。

  这种模式与传统SSD市场有些相似，存储厂商提供闪存和模组，控制器厂商负责数据管理和协议处理。

  报道称，英伟达、英特尔和AMD都在下一代芯片中加入CXL内存支持。英伟达计划在2026年下半年推出的Vera Rubin平台，也预计支持CXL相关能力。

  微软则据称已在2025年底启动CXL内存云服务试点，希望能够通过内存池化提高服务器资源利用率。

  首先，CPU、CXL交换芯片、内存控制器、服务器硬件和操作系统软件都需要支持CXL。

  其次，不同厂商设备之间一定要通过兼容性测试。CXL内存不是插入服务器就能直接用，它需要整套硬件和软件共同配合。

  最后，CXL还需要验证自己的经济价值。只有当节省的GPU、服务器和内存成本，明显高于新增CXL设备和软件的成本时，云厂商和企业客户才会大规模采用。

  HBM仍然会是AI芯片最重要的高性能内存，但HBM不可能解决所有容量需求。

  随着大模型参数量、上下文长度和KV Cache容量继续增加，AI服务器需要的不只是更快的内存，还需要更大的内存池和更灵活的数据调度能力。

  CXL的价值，就在于它可以连接HBM、DDR和SSD，建立一套分层内存系统。

  未来AI服务器的竞争，可能不再只是“用了多少HBM”，而是谁能把HBM、DDR、CXL内存和SSD调度得更高效。

  这也意味着，CXL带来的机会不会只属于三星、SK海力士和美光。CXL控制器、交换芯片、服务器、操作系统和内存管理软件厂商，都可能从中受益。

  不过，TrendForce这篇报道主要援引韩国媒体信息，三星和SK海力士部分性能数据及量产时间，仍需等待厂商后续正式对外发布确认。

  IBM 和红帽正式推出 Lightwell：拓展开源安全服务，为 AI 时代的开源软件构建可信基础设施

  IBM 和红帽正式推出 Lightwell：拓展开源安全服务，为 AI 时代的开源软件构建可信基础设施

  游玮博士出席WAIC论坛｜筑好通用技术底座，埃夫特&启智交出工业具身落地答卷