荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

初创公司 Majestic 推出 AI 服务器“普罗米修斯”,可选配 8TB-128TB LPDDR6 内存

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

初创公司Majestic Labs近日发布了一款名为Prometheus(普罗米修斯)的AI服务器,其核心亮点在于采用AIU(AI处理单元)与LPDDR6内存的组合,直接挑战英伟达主导的GPU+HBM架构。据科技媒体TechRadar报道,这款服务器不搭载传统GPU,而是使用Ignite AI处理单元,将Arm核心与RISC-V向量及张量引擎融合,每台Prometheus最多可配置12个AIU以及8TB至128TB的LPDDR6内存,如此庞大的内存容量为大规模AI模型训练和推理提供了全新解决方案。

Prometheus的诞生并非偶然。随着大模型参数规模呈指数级增长,英伟达GPU在高带宽内存(HBM)上的成本与供应瓶颈日益凸显。Majestic Labs认为,内存容量和带宽的平衡比单纯堆砌算力更为关键,因此选择了LPDDR6这一高带宽、低功耗的内存方案,搭配自研AIU架构,试图在AI算力市场开辟一条差异化路径。此前,已有Groq等公司尝试用SRAM替代HBM,但Majestic将内存容量推至128TB量级,无疑是一个大胆的突破。

在具体规格上,Prometheus服务器采用了标准40U机架设计,单个机架最多可安装4台Prometheus服务器,总功耗为120kW,并标配液冷散热系统而非传统风冷。官方宣称,一台Majestic机柜的内存容量相当于25个英伟达NVL72 Vera Rubin机柜,同时功耗更低。这一对比直指英伟达下一代旗舰平台,显示出Majestic在能效与内存密度上的强烈信心。产品预计于明年正式上市,符合OCP(开放计算项目)标准,并兼容PyTorch、vLLM和OpenAI Triton等主流AI框架,降低了用户迁移门槛。

从技术原理来看,Prometheus的AIU采用异构计算设计:Arm核心负责通用计算调度,RISC-V向量和张量引擎则专攻AI运算中的矩阵乘法与数据并行任务。这种架构允许AIU直接访问巨大的LPDDR6内存池,避免了传统GPU在HBM容量受限时频繁进行数据交换的瓶颈。尤其对于稀疏模型或需要超长上下文窗口的推理任务,128TB的内存意味着可以一次性加载数万亿参数的大模型,而无需依赖模型并行或外部存储。

这一创新对AI基础设施行业可能产生深远影响。对于大型云厂商和AI研究机构而言,Prometheus提供了一种高性价比的大内存方案,尤其适合处理推荐系统、多模态检索以及超大batch推理等内存密集型负载。然而,AIU的软件生态尚无法与英伟达CUDA直接抗衡,尽管支持PyTorch等框架,但底层算子优化仍需时间积累。对于依赖英伟达成熟生态的企业,迁移成本可能较高,因此初期用户或将集中在先锋型科技公司。

业界对此反应不一。有分析师指出,Majestic的方案在内存容量上具有明显优势,但实际性能表现还需基准测试验证。部分用户对LPDDR6的带宽长期稳定性表示疑虑,毕竟HBM在AI领域已证明其可靠性。而英伟达方面尚未公开回应,但业内普遍认为,英伟达正在通过扩大HBM3e容量和推出NVLink互联来巩固其地位。此外,AMD和Intel也在推进各自的AI加速器路线,市场竞争将更加激烈。

展望未来,Majestic Labs计划与更多云服务商合作,并提供基于Prometheus的托管服务。该公司还表示,后续将推出第二代AIU,进一步优化内存控制器和互联带宽。如果Prometheus能如期交付且性能达到预期,可能会催生一波“内存优先”AI架构的潮流。同时,RISC-V在AI领域的应用也将获得更多关注,推动开源指令集架构在高性能计算中的渗透。

从宏观背景看,当前AI算力正从“以GPU为中心”转向“以内存为中心”。英伟达GH200 Grace Hopper超级芯片已开始强调大容量内存,而微软、Meta等巨头也在探索定制化AI芯片。Majestic的Prometheus顺应了这一趋势,但能否撼动英伟达的统治地位,还需市场检验。无论如何,打破HBM垄断的尝试本身,对整个AI产业的多元化发展具有积极意义。

阅读原文 →来源:ithome