荷鲁斯快报 (DeepHorus) 是一个专注于人工智能、加密与区块链、科技创新及前沿交叉领域的科技资讯平台。
发布日期

我和我的 AI 手机吃了 3 顿饭

作者
  • avatar
    姓名
    荷鲁斯快报
    社交账号

高通正在把 AI 计算搬到内存旁边。这一思路被高通称为高带宽计算技术(High bandwidth compute,HBC),即近内存计算架构。爱范儿在报道中用米其林三星餐厅潮上潮的“潮 1/2”就餐模式作比:餐桌放在后厨旁边,主厨做好的菜瞬间上桌,减少传菜损耗。对 AI 而言,减少数据从内存到计算的搬运,正是加速推理、降低功耗的关键。

过去,PC 时代看 CPU 主频,智能手机初期比拼处理器核心数,游戏兴起后 GPU 性能和移动光追又成为焦点。计算性能像汽车马力,数字越大似乎越不会错。但 AI 运行时,芯片里的 CPU、GPU 和 NPU 往往没有全速工作,它们在等数据从内存送过来。过去十年,AI 计算能力和模型规模快速膨胀,内存容量、带宽和数据搬运效率却未同步增长,最终越来越多时间和能耗花在数据移动上,“内存墙”由此出现。

一次生成式 AI 推理大致分为两个阶段。第一阶段 Prefill 像“读题”,模型要把大量输入读进去,仍依赖强大计算能力。第二阶段 Decode 像“答题”,每生成一个 token,都要读取模型参数和累积上下文,但实际计算相对有限。问题因此变成“传菜员太少”,而不是“厨师不够”。产业已有不同路线:SRAM 像板前料理,把厨房搬到餐桌前,但单位面积成本高;HBM 像寿司郎,用高速传送带连接后厨和就餐区,但依赖复杂堆叠封装,成本高且供不应求。HBC 则把计算放到内存旁边,减少搬运。

HBC 并不意味着以后所有计算都会跑进内存。Prefill 这类高计算强度任务,依然需要强大的计算单元;游戏、视频编辑、影像处理也不会消失。大模型里的矩阵乘、向量运算、Embedding 查询,以及部分 Attention 和 KV Cache 相关操作,往往要读取大量数据,适合应用 HBC。CPU、GPU、NPU 仍负责“计算本身更复杂的任务”,这形成一种异构分工。

AI 智能体手机让这种分工更重要。如果手机只运行聊天机器人,做一颗巨大 NPU 即可,但 AI 智能体需要理解个人情境,在多个应用间运行,持续推理并采取行动。未来更可能是一个个专用模型根据任务、情境和需求动态协作。用户一句“晚上 7 点和朋友吃饭,帮我看堵车和天气,必要时叫车,再排除朋友不能吃的东西”,背后可能触发语音识别、意图理解、日历、餐厅信息、聊天上下文、地图、天气和云端 API 等一系列动作。芯片需要围绕 Agent 重新安排位置。

即将发布的下一代骁龙旗舰中,Qualcomm Oryon CPU 最高主频达到 5GHz,高通称之为全球最快的移动 CPU,也是首个最高主频达 5GHz 的移动 CPU。另一个技术是 Qualcomm Oryon FlexCache 可扩展缓存架构,它让不同类型核心共享缓存池,并按任务动态获得更多空间。任务在线程间迁移时,相关数据可继续留在缓存里,无需重跑系统内存。5GHz 让智能体任务跳得更快,FlexCache 让跳得更轻松。

图形和 NPU 侧也在沿用同一逻辑。下一代 Adreno GPU 加入 Adreno Matrix Cores,专门负责 AI 和矩阵计算,并推出 Adreno Neural Fusion,把神经网络处理、AI 超级分辨率和 AI 帧生成统一到图形管线中。GPU 旁还放置 18MB Adreno 独立高速显存 HPM,存放渲染目标、颜色缓冲、深度缓冲、纹理和中间结果,让更多图形与 AI 数据停留在 GPU 内部。下一代 Hexagon NPU 新增 Element Accelerator,针对 Transformer 工作负载设计,同时扩大共享内存,让更多模型状态、上下文和 KV-cache 保留在靠近加速器的位置。

HBC 技术虽已发布,但商用还需时间。针对 AI 对计算的新要求和旧需求依然重要的情况,“异构分工”成为核心解题思路,尤其面向 AI 智能体手机这种新物种。AI 智能体时代的芯片不会突然抛弃 CPU、GPU、NPU 的分工,但缓存、内存、传感器中枢乃至计算单元,都需要围绕 Agent 重新安排。让计算发生在最适合计算 AI 的地方,正成为移动芯片下一阶段的关键方向。

阅读原文 →来源:ifanr