荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

英伟达希望您的家庭网络能像小型数据中心一样运行本地人工智能

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

英伟达发布了一款名为PAIR(个人AI路由器)的新型开源工具,旨在将家庭网络转化为用于本地AI任务的分布式计算集群。该软件可自动将AI处理请求分配至多台设备,显著缩短并行操作的等待时间。此项举措旨在通过利用消费者已拥有的现有硬件,使高性能AI更易于普及。

该工具充当虚拟路由器,架设在Ollama或LM Studio等主流AI框架与可用硬件之间。用户无需修改现有AI代理或应用程序即可获得好处。PAIR能智能地将任务转发至闲置机器,避免单个GPU过载,随后将结果汇总回原始应用。

PAIR支持广泛的硬件设备,包括GeForce RTX 20系列及以上显卡、RTX Pro工作站、英伟达的DGX Spark,以及从M4芯片开始的Apple Silicon。在演示中,由三台设备组成的集群在9分钟内完成了一个包含五个子代理的任务。相比之下,单台笔记本电脑需要18分钟,显示出潜在2倍的速度提升。

该工具会自动检测本地网络上的兼容设备,并使用MTLS加密确保所有机器间通信的安全。测试版现已支持Windows、macOS和Linux操作系统。此次发布体现了英伟达将开放式AI开发与其自身硬件生态系统更紧密结合的更广泛战略。

此举紧随英伟达近期以129亿美元收购Hugging Face之后,进一步巩固了其对开源AI社区的承诺。通过简化家庭用户的分布式计算,PAIR有望实现对更强大AI处理能力的普及化。它降低了运行复杂多代理AI工作流的门槛,这类工作流通常需要昂贵的集中式基础设施。

行业观察人士指出,PAIR符合去中心化和边缘计算日益增长的趋势。该工具使用户能够从个人设备中构建临时超级计算机。未来的更新可能会扩大支持的硬件范围,并改进资源调度算法以实现更高的效率。

PAIR的发布标志着迈向家庭网络动态参与AI工作负载未来的重要一步。它将英伟达定位为向更分布式、用户控制的AI基础设施转型的关键推动者。随着测试版的推进,广泛采用可能会重塑个人与人工智能的交互及部署方式。

阅读原文 →来源:the-decoder