- 发布日期
AI 的本质是内存，GPU 真正工作的时间只有 10%-30%
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
被誉为“HBM 之父”的韩国科学技术院（KAIST）电气系教授金正浩近日在接受《东亚日报》采访时指出，人工智能的核心竞争力正在从 GPU 转向内存。他认为，AI 的本质是内存，GPU 在 AI 推理中的实际利用率远低于理论水平，仅为 10% 至 30%。这一观点引发了业界对 AI 硬件架构未来发展的新一轮思考。
金正浩解释称，AI 每次输出结果都必须从高带宽内存（HBM）读取数据，传输至 GPU 进行计算，再将结果写回内存。即使部署 100 万块 GPU，真正用于计算的时间也只占一小部分。随着 AI 从训练阶段迈向推理时代，决定性能的关键因素已不再是 GPU 的算力，而是内存的数据处理能力——即一次能处理多少数据以及处理速度。
目前，HBM 已成为专为 AI 适配的高带宽内存解决方案。但金正浩预测，随着 AI 向多模态化和代理式人工智能（Agentic AI）发展，对视频、文档、长期记忆等海量冷数据的存储需求将激增。因此，将 NAND 闪存像 HBM 一样堆叠的 HBF（高带宽闪存）技术将在未来成为主流。他大胆预测，10 年后 HBF 的市场需求将超过 HBM。
展望更远的未来，金正浩认为 HBS（高带宽 SRAM）将成为主导技术。SRAM 的读写速度比 DRAM 快 1000 倍，其构想包括在整片 12 英寸晶圆上铺设 SRAM，将容量提升至约 1600GB，从而实现大容量高速数据处理。这一方向为 AI 计算提供了全新的内存层级方案。
金正浩设想，未来的 AI 计算机将演变成一个庞大的“三维建筑”：HBM 充当商场角色，HBF 层相当于住宅区，HBS 则承担高速缓存功能。各种形态的 HBM、HBF、HBS 组合在一起，为 GPU 供给数据，形成约 100 层规模的 3D 复合架构。这种架构将极大提升数据吞吐效率，缓解当前的内存瓶颈。
据了解，金正浩长期致力于 HBM 与 2.5D/3D 集成封装研究。自 2010 年起，他与 SK 海力士合作研发 HBM1，并在去年参与了 HBM4 至 HBM8 的长期发展路线图规划。他的观点不仅揭示了当前 AI 硬件的局限性，也为未来内存技术发展指明了方向。
