荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

英伟达发布 Nemotron 3 Embed 系列 AI 模型,8B 版斩获 RTEB 榜首

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

英伟达于7月17日正式发布并开源Nemotron 3 Embed系列AI模型,该系列面向AI智能体和检索增强生成(RAG)场景,以开放权重形式提供,支持商业使用,用户可通过Hugging Face与NVIDIA NIM免费获取。

Nemotron 3 Embed系列配备32K上下文窗口,可执行高精度检索。英伟达表示,该设计能有效减少AI智能体重复检索行为,降低不必要的推理触发频率,并显著降低Token消耗量,从而提升系统效率。

针对不同部署环境,英伟达同步公开微调和蒸馏版本,推出三个模型版本。其中,Nemotron-3-Embed-8B-BF16为最高规格版本,参数规模达80亿,适合对精度要求较高且伴随较高风险的企业业务场景,基于Ministral-3-8B-Instruct-2512构建。Nemotron-3-Embed-1B-BF16为高效率版本,参数规模11.4亿,由基于Ministral-3-3B-Instruct-2512的父模型蒸馏得到,适合重视时延与成本的部署环境。Nemotron-3-Embed-1B-NVFP4则是在高效率版基础上针对Blackwell架构GPU优化的版本,借助NVFP4技术,在维持相同检索精度的同时进一步降低内存占用,并将吞吐量最高提升至2倍。

性能方面,Nemotron-3-Embed-8B-BF16在RTEB(检索嵌入基准)跑分中以78.5%的得分斩获榜首,在MMTEB检索中得分为75.5%。RTEB由Hugging Face团队及MTEB社区推出,专为评估大模型在真实场景(如RAG系统和智能体)中的实际检索质量而设计。

该系列模型的发布将进一步降低企业部署AI智能体和RAG系统的门槛。通过提供不同精度和效率的版本,英伟达允许用户根据具体业务需求与硬件条件灵活选择,有助于推动生成式AI在更多实际场景中的落地应用。

分析人士指出,英伟达此次开源动作延续了其通过开放生态巩固AI基础设施领导地位的策略。随着AI智能体和RAG技术在企业级应用中的普及,高效率、低成本的嵌入模型将成为关键组件,Nemotron 3 Embed系列的推出有望加速这一趋势。

阅读原文 →来源:ithome