- 发布日期
苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
一名Reddit用户近日通过USB-C接口,将iPhone 17 Pro Max外接到搭载M4 Pro芯片的MacBook Pro上,运行人工智能模型Qwen3.8-27B,使该模型的预填充性能最高提升44%。该成果由Wccftech率先报道。这套方案借助自制软件,把运算任务在笔记本与手机之间拆分、协同完成。它展示了手机与便携电脑组合分担AI推理负载的现实可行性。
Qwen3.8-27B是一款表现不错的人工智能模型,但前提是设备拥有足够的显存与系统内存。搭载M4 Pro芯片的MacBook Pro仅有24GB统一内存,在运行该模型时,预填充速度会因此受到限制。为突破这一内存上限,Reddit用户"u/StayLameBro"采用了两种方式,将运算任务拆分交给Mac本机和iPhone 17 Pro Max协同处理。
针对预填充加速,MacBook Pro负责处理每一批256个token中的第1至40层,再将激活值数据流传输到手机端。与此同时,iPhone利用A19 Pro的GPU运行第41至64层,而Mac这边已经开始处理下一批数据。依靠GPU运算,手机端的运行速度相比不使用GPU时提升约2.4倍。
整套方案中,神经网络引擎同样没有闲置:每16K长度的旧上下文会被编译为一套神经网络引擎模型。在140K上下文长度下,相较于仅使用A19 Pro的GPU,单token写入耗时从279毫秒缩短至176毫秒。以预填充并保存一份2000token文件的会话为例,上下文设为8K时,仅靠Mac本机的速度是每秒132个token,外接iPhone后达到每秒177个token,性能提升35%。上下文设为16K时,速度从每秒109个token上涨至每秒157个token,增幅高达44%。
当上下文窗口设置为32K时,预填充速度从每秒101个token提升至每秒130个token,性能改善29%。这些数据表明,外接iPhone的组合在预填充环节确实能带来可观收益。不过,这一方案目前主要针对预填充阶段进行优化,整体体验仍受制于具体使用场景。
这名Reddit用户也坦言,现实并没有设想中那么美好,方案存在若干局限。例如在64K以内的场景,手机并不会加速文本生成,文本生成的工作依旧全部交由Mac完成。这意味着该方案目前主要改善的是预填充速度,而非端到端的完整推理体验。
展望后续,驱动iPhone 18 Pro及iPhone 18 Pro Max的A20 Pro芯片有望提供更大的性能余量。它本身整体性能更强,并配备双16核神经网络引擎;据称,针对专门适配神经网络处理器的任务,这套引擎的数据吞吐能力甚至超过该系统级芯片内置的7核GPU。该自制软件已在GitHub开源,项目名称为"backburner",供有兴趣的用户下载试用。
即便仅作为一项实验,预填充速度提升带来的收益也相当可观,后续自然还有继续挖掘性能潜力的空间。不过,这或许也意味着,未来iPhone这类设备有可能步入和内存、固态硬盘一样的供货紧缺阶段。