- 发布日期
英伟达推出开源个人AI路由器PAIR 让家中多台电脑协同运行本地AI
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
英伟达近日在IFA 2026期间正式推出了Personal AI Router(PAIR)测试版,这是一款免费的开源软件。该软件并非传统的网络硬件路由器,而是一个面向本地AI推理的“虚拟路由器”,能够自动发现并组织同一局域网内的兼容电脑,将多台设备的闲置计算能力汇集起来,为AI代理和本地大模型任务提供更充足的推理资源。
随着AI代理开始同时执行越来越多的子任务,单台电脑的GPU很容易成为性能瓶颈。复杂任务往往被AI代理拆分成多个可以并行处理的工作,但若所有请求都集中在同一块GPU上,任务就不得不排队等待。PAIR的核心作用就是将这些彼此独立的推理请求分配给局域网中当前有可用计算能力的设备,从而缓解多代理和多子任务同时运行时的资源拥堵问题。
PAIR可以与用户已熟悉的本地AI推理后端如Ollama和LM Studio配合使用。它本身并不会将多台电脑合并成一块虚拟GPU,也不会简单“拼接”不同设备的显存来运行更大的模型,而是让各个设备分别承担独立的推理请求,再将结果返回给最初发起任务的应用。因此,用户无需修改现有AI代理的工作方式,也不需要重新设计代理框架,即可利用网络中其他机器的闲置算力。
英伟达表示,PAIR能够动态适应设备状态。当新的电脑加入网络或已有设备离开时,系统可以自动调整;路由过程会综合考虑节点是否准备就绪、推理引擎状态、模型是否已经存在以及GPU利用率等因素,然后选择合适的机器处理请求。整个过程不要求搭建传统意义上的服务器集群,也不需要专用线缆、机架或复杂的集群配置。
在安全方面,加入PAIR集群的设备首先需要通过六位数字配对码完成配对,之后设备之间通过双向TLS(mTLS)建立加密通信通道。英伟达强调,PAIR的设计目标之一是让本地AI工作流保持在用户自己的网络中,提示词、文件以及AI代理上下文无需发送至云端推理服务。目前PAIR测试版支持Windows、macOS和Linux,硬件方面兼容NVIDIA GeForce RTX 20系列及更新型号、基于Turing架构及更新架构的NVIDIA RTX PRO工作站GPU、NVIDIA DGX Spark,以及搭载Apple M4或更新芯片的Mac设备。
英伟达给出的演示显示,PAIR尤其适合多代理工作流。例如,在使用Hermes Desktop和Ollama的情况下,一个由三台设备组成的PAIR集群完成一项五子代理演示任务耗时8分48秒,而单台RTX Spark笔记本则需要18分钟。这表明将家庭网络中多个设备的空闲计算能力利用起来,可以明显提升本地多任务AI的吞吐能力。
PAIR背后的重要判断是,家庭用户往往已拥有多台具备一定计算能力的电脑,但这些设备大部分时间处于闲置状态。英伟达援引的数据指出,美国超过一半的家庭拥有两台或更多电脑,因此大量GPU和其他计算资源在一天中的相当一部分时间里并未被充分利用。对于拥有游戏电脑、笔记本电脑以及其他高性能设备的家庭来说,PAIR试图把这些原本相互独立的设备转变为一个能够共同服务本地AI的计算资源池。英伟达技术团队甚至估算,在一个极端情况下,一户家庭内部可能存在约165 TFLOPS的闲置计算能力。
除了PAIR之外,英伟达此次还宣布进一步简化本地AI代理的部署体验。包括Perplexity Portable Computer、Hermes Agent和OpenClaw在内的三款AI代理软件都将针对NVIDIA GPU提供更加简单的本地配置方式。例如,Hermes Agent的Windows版本本地配置将支持一键完成模型部署,软件可以自动识别NVIDIA GPU并根据硬件选择合适的模型和配置。OpenClaw也获得了针对Windows的简化部署方案,其GitHub项目规模已超过38万颗Star。
为了进一步提升本地AI代理的响应速度,英伟达还同步公布了针对llama.cpp和vLLM的推理优化。基于新的内核优化、更先进的投机解码以及更快的prefill处理,llama.cpp在GeForce RTX 5090上的吞吐量最高可提升至原来的1.9倍;vLLM在RTX PRO 6000 Blackwell Workstation Edition上的性能提升可达1.2倍。这些优化已经可以通过相应推理后端使用,同时也能够在LM Studio和Ollama中获得。随着搭载RTX Spark平台的新型Windows小型AI电脑预计10月上市,英伟达正在推动一种直接利用家中GPU和其他设备构建本地AI计算环境的新模式。