荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

3:1 搭配 DDR5/DDR4,推理 AI 所需服务器最多减少 25%

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

Meta公司近日宣布推出自研Vistara定制芯片方案,通过复用拆机DDR4内存来扩展新服务器的内存容量,从而减少采购新硬件的需求。该方案在ISCA 2026大会上公开,旨在应对全球内存危机并降低数据中心成本。

Meta指出,服务器预期使用寿命为3至5年,而内存模块可继续使用7至10年。在内存供应紧张的背景下,回收旧服务器的DDR4内存条装到依赖DDR5的新机器中,能节省大笔开支。为此,Meta开发了基于Compute Express Link(CXL)规范的专用集成电路(ASIC),搭建共享内存池。

现有CXL解决方案通常将DRAM与控制器捆绑,导致无法重复使用DIMM内存,且多数不支持DDR4。Meta的Vistara ASIC通过符合CXL 2.0/1.1规范的PCIe Gen5 x16接口,将DDR4内存桥接到主机处理器。每个ASIC集成两个独立的72-bit DDR4内存通道,支持高达3200 MT/s的速度,单芯片最大容量可达256 GB。

Meta将Vistara硬件部署在名为MemServer的设备中。每台MemServer采用1颗AMD Turin处理器(158核、316线程),配备768GB DDR5内存,并通过Vistara ASIC连接256GB DDR4内存。Vistara CXL卡安装在机箱后部专用插槽,机箱通过大容量风扇定向散热。

Vistara已在Meta超大规模基础设施中投入生产,覆盖数百万台服务器。其应用场景包括分离式机器学习推理、大数据处理、数据库、分布式缓存和CI/CD构建系统。Meta采用软硬件协同设计,硬件侧为自研CXL ASIC,软件侧基于Transparent Page Placement(TPP)构建优化方案,按工作负载设定本地与扩展内存配比。

论文结果显示,该方案可将分离式机器学习推理所需服务器数量最多减少25%,分布式缓存的平均延迟降低29%。这一成果不仅降低了数据中心硬件成本,也为内存复用技术提供了新思路。

Meta的Vistara方案展现了通过创新架构延长硬件生命周期的可能性。未来,随着CXL生态成熟,类似的内存池化技术有望在更多数据中心普及,进一步推动绿色计算和资源高效利用。

阅读原文 →来源:ithome