- 发布日期
内存占用 54 GB → 3.9GB！苹果正评估 PrismML 量化 AI 技术，让 iPhone 15 及后续机型运行 27B 模型
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
苹果公司正在评估加州理工衍生AI初创公司PrismML的量化技术，该技术可将大型语言模型的内存占用从54GB压缩至不到4GB，有望在iPhone 15及后续机型上原生运行拥有270亿参数的模型。PrismML首席执行官Babak Hassibi在接受CNBC采访时确认了与苹果的接洽，称苹果正在认真评估该技术，尽管会谈仍处于早期阶段。
PrismML的核心突破在于原生1-bit模型压缩技术，它将模型权重仅用{-1, +1}两个值表示，配合分组缩放因子，据称能保持接近FP16精度的同时，将模型体积压缩至全精度版本的约1/14。这一突破使得内存占用降低超过90%，推理速度最高提升8倍，能耗下降75%至80%。
Hassibi在采访中表示，与苹果的会谈尚处于早期阶段，但“进展顺利”。据推测，双方讨论可能涉及简单的技术授权，甚至不排除苹果直接收购PrismML的可能性。值得注意的是，PrismML于7月15日宣布推出基于Qwen 3.6 27B模型微调的Bonsai 27B模型，该模型在保留约90%智能水平的情况下，能够直接在12GB内存的iPhone上原生运行。原模型需要约54GB内存，而量化后仅需不到4GB。
尽管这项技术展现出巨大潜力，Hassibi也承认量化过程必然牺牲部分性能。在基准测试中，3-bit量化版本保留约95%得分，1-bit版本保留约90%，但在事实推理、数学和编程等复杂任务上表现明显较弱。这一权衡对于要求高精度的应用场景可能构成限制。
业内分析认为，如果苹果采用该技术，将显著提升旗下设备的端侧AI能力，无需依赖云端即可运行大型模型，从而增强隐私保护和响应速度。然而，苹果能否在短期内部署这一技术尚不确定，当前评估阶段可能持续数月。若达成合作，这一成果或将对移动端AI应用生态产生深远影响，推动更多复杂模型在消费级设备上实现本地化部署。
